211service.com
Hackare är det verkliga hindret för självkörande fordon
Espen Friberg
Innan autonoma lastbilar och taxibilar kommer ut på vägen måste tillverkare lösa problem som är mycket mer komplexa än att undvika kollisioner och navigering (se 10 Breakthrough Technologies 2017: Självkörande lastbilar).
Dessa fordon kommer att behöva förutse och försvara sig mot ett helt spektrum av illvilliga angripare som utövar både traditionella cyberattacker och en ny generation attacker baserade på så kallad motstridig maskininlärning (se AI Fight Club kan hjälpa till att rädda oss från en framtid av supersmarta cyberattacker ). När konsensus växer om att autonoma fordon bara är några år ifrån att användas i städer som robottaxibilar och på motorvägar för att lindra den bedövande tristess med långdistanslastbilar, har denna risk för attack till stor del saknats i den andfådda täckningen.
Det påminner mig om många artiklar om e-post i början av 1990-talet, innan den nyfunna världen av elektronisk kommunikation var översvämmad av oönskad spam. Då sågs löftet om maskininlärning som en lösning på världens spamproblem. Och i dag är problemet med spam till stor del löst – men det tog årtionden för oss att komma hit.
Det har hittills inte förekommit några rapporter om fientliga hackare som riktar sig mot självkörande fordon. Ironiskt nog är det dock ett problem. Det fanns inga illvilliga angripare när dot-com-startuperna på 1990-talet utvecklade de första e-handelsplattformarna heller. Efter den första stora omgången av e-handelshack, Bill Gates skrev ett memo till Microsoft och krävde att företaget skulle ta säkerheten på allvar . Resultatet: idag är Windows ett av de säkraste operativsystemen, och Microsoft spenderar mer än en miljard dollar årligen på cybersäkerhet . Ändå fortsätter hackare att hitta problem med Windows-operativsystem, webbläsare och applikationer.
Bilföretag kommer sannolikt att gå igenom en liknande utveckling. Efter att ha blivit allmänt generad över att de inte alls övervägde säkerheten – CAN-bussen, designad på 1980-talet, har inget begrepp om autentisering – verkar de nu vara uppmärksamma. När hackare visade att fordon på vägarna var sårbara för flera specifika säkerhetshot, svarade biltillverkare med att återkalla och uppgradera firmwaren för miljontals bilar. I juli förra året sa GM:s vd Mary Barra att skydd av bilar från en cybersäkerhetsincident är en fråga om allmän säkerhet.
Men de ansträngningar som gjorts hittills kanske saknar nästa säkerhetstrend. Systemen för datorseende och kollisionsundvikande under utveckling för autonoma fordon förlitar sig på komplexa maskininlärningsalgoritmer som inte är väl förstådda, inte ens av de företag som förlitar sig på dem (se The Dark Secret at the Heart of AI ).
Förra året forskare vid CMU visat det toppmoderna ansiktsigenkänningsalgoritmer kan besegras genom att bära ett par klara glasögon med ett funkigt mönster tryckt på bågarna. Något med mönstret tippade algoritmen på precis rätt sätt, och den trodde att den såg vad som inte fanns där. Vi visade att angripare kan undvika toppmoderna ansiktsigenkänningsalgoritmer som är baserade på neurala nätverk i syfte att imitera en målperson, eller helt enkelt bli felaktigt identifierad, skrev huvudforskaren Mahmood Sharif i ett e-postmeddelande.
Även förra året, forskare vid University of South Carolina, Kinas Zhejiang University och det kinesiska säkerhetsföretaget Qihoo 360 visat det de kunde blockera olika sensorer på en Tesla S, vilket gör föremål osynliga för dess navigationssystem.
Många nya artiklar om autonom körning förringar eller ignorerar till och med tanken att det kan finnas aktiva, adaptiva och illvilliga motståndare som försöker få fordonen att krascha. I en intervju med MIT Technology Review , ordföranden för National Transportation Safety Board, Christopher Hart, sa att han var mycket optimistisk att självkörande bilar skulle minska antalet olyckor på landets vägar. När han diskuterade säkerhetsfrågor fokuserade Hart på behovet av att programmera fordon för att fatta etiska beslut - till exempel när en lastbil på 80 000 pund plötsligt blockerar vägen för en bil.
Varför skulle någon vilja hacka en självkörande bil, med vetskapen om att det kan leda till dödsfall? En anledning är att en utbredd användning av autonoma fordon kommer att resultera i många arbetslösa, och några av dem kommer att bli arga.
I augusti 2016, Fords vd Mark Fields sa att han planerade att ha helt autonoma fordon som ska fungera som stadstaxi till 2021. Google, Nissan och andra planerade att ha liknande autonoma bilar på vägarna så snart som 2020. Dessa automatiserade taxibilar eller leveransfordon kan vara sårbara för att uppsåtligt bländas med en hög - Power laserpekare av en arbetslös Teamster, en före detta Uber-förare som fortfarande har bilbetalningar att göra, eller bara ett gäng uttråkade tonåringar.
Sarah Abboud, talesperson för Uber, svarade på frågan om dess planer för att ta itu med hotet från motståndskraftig maskininlärning: Vårt team av säkerhetsexperter undersöker ständigt nya försvar för framtiden för autonoma fordon, inklusive dataintegritet och upptäckt av missbruk. Men i takt med att den autonoma tekniken utvecklas, utvecklas hotmodellen också, vilket innebär att några av dagens säkerhetsproblem troligen kommer att skilja sig från de som tas upp i en verkligt autonom miljö.
Det kommer bara att krävas ett fåtal olyckor för att stoppa utplaceringen av förarlösa fordon. Detta kommer förmodligen inte att hindra avancerade autopilotsystem, men det kommer sannolikt att vara ett avsevärt avskräckande medel för utplaceringen av fordon som är helt autonoma.
Simon Garfinkel är en vetenskapsskribent som bor i Arlington, Virginia. Han jobbar på en ny bok om datorns historia.