211service.com
Hackare kan lura en Tesla att accelerera med 50 miles per timme
Tesla Model S kör i California Bay Area Tesla
Tro inte på din bils ljugande ögon.
Hackare har manipulerat flera Tesla-bilar till att öka hastigheten med 50 miles per timme. Forskarna lurade bilens Mobileye EyeQ3-kamerasystem genom att subtilt ändra en hastighetsbegränsningsskylt vid sidan av en väg på ett sätt som en person som kör förbi nästan aldrig skulle märka.
Detta demonstration från cybersäkerhetsföretaget McAfee är den senaste indikationen på att motståndskraftig maskininlärning potentiellt kan förstöra autonoma körsystem, vilket utgör en säkerhetsutmaning för dem som hoppas kunna kommersialisera tekniken.
Mobileye EyeQ3-kamerasystem läser hastighetsbegränsningsskyltar och matar in den informationen i funktioner för autonom körning som Teslas automatiska farthållare, säger Steve Povolny och Shivangee Trivedi från McAfees Advanced Threat Research-team.
Forskarna klistrade upp ett litet och nästan omärkligt klistermärke på en skylt för hastighetsbegränsning. Kameran läste skylten som 85 i stället för 35, och i tester accelererade både 2016 Tesla Model X och det årets Model S 50 miles per timme.
Den modifierade hastighetsbegränsningsskylten är 85 på Teslas heads-up-display. En talesperson för Mobileye tonade ner forskningen genom att antyda att detta tecken skulle lura en människa att läsa 85 också. McAfee
Detta är det senaste i ett växande berg av forskning som visar hur maskininlärningssystem kan attackeras och luras i livshotande situationer.
I en 18 månader lång forskningsprocess replikerade och utökade Trivedi och Povolny en mängd motstridiga maskininlärningsattacker inklusive en studie från UC Berkeley-professorn Dawn Song som använde klistermärken för att lura en självkörande bil att tro att en stoppskylt var en skylt för hastighetsbegränsning på 45 mil per timme. Förra året lurade hackare en Tesla att svänga in i fel körfält i trafiken genom att placera klistermärken på vägen i en motståndsattack som var avsedd att manipulera bilens maskininlärningsalgoritmer.
Varför vi studerar detta i förväg är för att du har intelligenta system som någon gång i framtiden kommer att göra uppgifter som nu hanteras av människor, sa Povolny. Om vi inte är särskilt förutseende om vad attackerna är och väldigt noga med hur systemen är designade, har du en rullande flotta av sammankopplade datorer som är en av de mest slagkraftiga och lockande attackytorna som finns.
När autonoma system sprider sig sträcker sig problemet till maskininlärningsalgoritmer långt bortom fordon: A mars 2019 studie visade medicinska maskininlärningssystem som lurades till att ge dåliga diagnoser.
McAfee-undersökningen avslöjades för både Tesla och Mobileye EyeQ3 förra året. Tesla svarade inte på en begäran om kommentar från MIT Technology Review men erkände McAfees resultat och sa att problemen inte skulle fixas i den generationen av hårdvara. En talesperson för Mobileye tonade ner forskningen genom att föreslå att den modifierade skylten skulle lura även en människa att läsa 85 istället för 35. Företaget anser inte att lura kameran är en attack, och trots den roll kameran spelar i Teslas farthållare, den var inte designad för autonom körning.
Autonom fordonsteknik kommer inte att förlita sig enbart på avkänning, utan kommer också att stödjas av olika andra teknologier och data, såsom crowdsourced kartläggning, för att säkerställa tillförlitligheten hos informationen som tas emot från kamerasensorerna och erbjuda mer robusta redundanser och säkerhet, Mobileye talesman sa i ett uttalande.
Tesla har sedan dess gått över till proprietära kameror på nyare modeller, och Mobileye EyeQ3 har släppt flera nya versioner av sina kameror som i preliminära tester inte var mottagliga för just denna attack.
Det finns fortfarande ett ansenligt antal Tesla-bilar som kör med den sårbara hårdvaran, sa Povolny. Han påpekade att Teslas med den första versionen av hårdvara inte kan uppgraderas till nyare hårdvara.
Det vi försöker göra är att vi verkligen försöker öka medvetenheten för både konsumenter och leverantörer om de typer av brister som är möjliga, sa Povolny. Vi försöker inte sprida rädsla och säga att om du kör den här bilen kommer den att accelerera in genom en barriär, eller för att sensationalisera den.