Hackare lurar en Tesla att svänga in i fel körfält

Kategori: Artificiell intelligens Postad 01 apr

Hackare har demonstrerade några oroväckande sätt att manipulera och förvirra de olika systemen på en Tesla Model S. Deras mest dramatiska bedrift: att skicka bilen snett in i det mötande körfältet genom att placera en rad små klistermärken på vägen.

Attackvektor: Detta är ett exempel på en kontradiktorisk attack, ett sätt att manipulera en maskininlärningsmodell genom att mata in en specialgjord ingång. Motstridiga attacker kan bli vanligare eftersom maskininlärning används mer allmänt, särskilt inom områden som nätverkssäkerhet.

Suddiga linjer: Teslas autopilot är sårbar eftersom den känner igen körfält med datorseende. Med andra ord, systemet förlitar sig på kameradata, analyserad av ett neuralt nätverk, för att tala om för fordonet hur det ska hålla sig centrerat i dess körfält.

Trafikstockning: Detta är inte den första motståndskraftiga attacken mot ett autonomt körsystem. Dawn Song, professor vid UC Berkeley, har använt ofarliga klistermärken för att lura en självkörande bil att tro att en stoppskylt var en hastighetsgräns för 45 miles per timme. Annan studie , publicerad i mars, visade hur medicinska maskininlärningssystem på liknande sätt kan luras att ge fel diagnoser.

Bug fixar: Forskarna bakom lane-igenkänningshacket, från Keen Security Lab av den kinesiska teknikjätten Tencent, använde en liknande attack för att störa fordonets automatiska vindrutetorkare. De kapade också bilens ratt med en annan metod. En talesperson för Tesla berättade för Forbes att den senare sårbarheten har åtgärdats i sin senaste programuppdatering. Talespersonen sa att den kontradiktoriska attacken var orealistisk med tanke på att en förare lätt kan åsidosätta autopiloten när som helst.