211service.com
Dödlig Tesla-autopilotkrasch är en påminnelse om att autonoma bilar ibland kommer att skruvas ihop
Mer än 30 000 människor är dödades av bilar i USA varje år, och personer som arbetar med teknik för autonom körning på företag som Google och Tesla säger att all teknik som avsevärt kan minska den siffran förtjänar allvarlig uppmärksamhet.
Men även om automatiserade bilar kan vara mycket säkrare än konventionella, kommer de fortfarande att vara inblandade i olyckor. Ingen programvara kan vara perfekt. Och när den självkörande tekniken mognar kommer tillsynsmyndigheter och samhället som helhet att behöva bestämma hur säkra dessa fordon behöver vara. Det har faktiskt hävdats att i vissa situationer måste autonoma fordon programmeras för att aktivt välja vilka personer som ska skadas.
Dessa svåra frågor blev mer konkreta i dag med nyheterna att Tesla utreds av U.S. National Highway Traffic Safety Administration efter en dödsolycka med företagets automatiska körfunktion Autopilot , som kan göra saker som att byta fil och justera hastigheten under motorvägskörning för några av företagets bilar.
Tesla Motors' Model S sedan.
I Florida i maj, en Tesla Model S sedan körde in i en traktor-släp som korsade vägen framför medan autopiloten hade kontroll över bilen. Varken Teslas autopilotfunktion eller föraren bromsade på bilen. I ett blogginlägg i torsdags sa Tesla det Autopiloten registrerade inte den vita sidan av trailern mot den ljusa himlen .
Teslas autopilot kan styra bilen, upptäcka hinder och körfältsmarkeringar och använda bromsarna, allt på egen hand. Men den är mycket mindre kapabel än en mänsklig förare och saknar de sofistikerade och detaljerade sensorerna som ses i mer mogna autonoma bilprojekt som Googles.
Tesla har kritiserats för att främja bekvämligheten med Autopilot – ett namn som antyder att ingen mänsklig inblandning behövs – samtidigt som de hävdar att förarna hela tiden måste vara redo att ta över från programvaran. Ledaren för Googles autonoma bilprojekt, Chris Urmson, har sagt att hans företags experiment har visat att människor inte kan lita på att göra det, eftersom de snabbt kommer att lita på att bilen vet vad den gör. Samtidigt har Teslas vd Elon Musk sagt att hans företags data tyder på Autopiloten är dubbelt så säker som mänskliga förare .
Vi vet ännu inte exakt vad som hände i Mays dödsolycka. Teslas uttalande betonar att föraren visste att han alltid borde hålla ett öga på vad autopiloten gjorde. Men om NHTSA finner designen av autopiloten att skylla på, kan Tesla tvingas utfärda ett återkallande, eller kanske känna att det måste fördumma funktionen. Det kan skada både Tesla och entusiasmen för tekniken i allmänhet.
Oavsett resultatet av NHTSA:s undersökning är incidenten en möjlighet att överväga de standarder som vi håller programvara för autonom körning och företagen som designar den. Om den ska användas i stor utsträckning måste vi acceptera att den är inblandad i olyckor - vissa dödliga och andra orsakade av dess egna brister.
Mänskliga förare sätter en låg ribban: cirka 90 procent av olyckorna orsakas av mänskliga fel, och dumma misstag som att köra medan du sms:ar eller är berusad dödar alldeles för många människor. Det är lätt att se hur maskiner kan förbättra det. Men att bestämma hur mycket bättre de behöver bli kommer att bli mycket svårare.