211service.com
Helt autonoma bilar är osannolikt, säger USA:s bästa transportsäkerhetstjänsteman
Christopher Hart
Bilolyckor dödar mer än 33 000 amerikaner varje år, mer än mord eller överdoser av receptbelagda läkemedel. Företag som arbetar med självkörande bilar, som Alphabet och Ford, säger att deras teknik kan minska den siffran genom att ta bort mänskliga skyldigheter som sms, fylla och trötthet. Men Christopher Hart , ordförande för National Transportation Safety Board, säger att hans byrås erfarenhet av att undersöka olyckor med autopilotsystem som används i tåg och flyg tyder på att människor inte helt kan avlägsnas från kontroll. Han berättade MIT Technology Review att framtida bilar kommer att vara mycket säkrare, men att vissa fortfarande kommer att behöva människor som andrapiloter. Vad som följer är en komprimerad utskrift.
Hur optimistisk är du att självkörande bilar kommer att minska dödssiffran för bilolyckor?
Jag är väldigt optimistisk. I decennier har vi tittat på sätt att lindra skador när du råkar ut för en krasch. Vi har säkerhetsbälten, vi har krockkuddar, vi har mer robusta strukturer. Just nu har vi möjlighet att förhindra kraschen helt och hållet. Och det kommer att rädda tiotusentals liv. Det är den ideala slutpunkten: inga som helst krascher.
Autopilotsystem kan också skapa nya faror. NTSB har sagt att piloters övertro på automatisering har orsakat krascher . Oroar du dig för att detta fenomen är ett problem för bilar också?
Det idealiska scenariot som jag pratade om, som räddar tiotusentals liv om året, förutsätter fullständig automatisering utan något mänskligt engagemang alls. Jag är inte säker på att vi kommer att göra det någonsin nå den punkten. Jag ser inte idealet om fullständig automatisering komma någon gång snart.
Vissa människor gillar bara att köra bil. Vissa människor litar inte på automatiseringen så de kommer att vilja köra. [Och] det finns ingen mjukvarudesigner i världen som någonsin kommer att vara smart nog att förutse alla potentiella omständigheter som denna programvara kommer att stöta på. Hunden som springer ut på gatan, personen som springer upp på gatan, cyklisten, polisen eller byggnadsarbetaren. Eller så kollapsar bron i en översvämning. Det finns inget sätt att du kommer att kunna designa ett system som kan hantera det.
Utmaningen är när du inte har så fullständig automatisering, med fortfarande betydande mänskligt engagemang – det är då självgodheten blir ett problem. Det är då bristande kompetens blir problemet. Så vår utmaning är: hur hanterar vi det som förmodligen kommer att bli ett långsiktigt scenario med fortfarande visst mänskligt engagemang i detta till stor del automatiserade system?
Det senaste dödsfallet för en förare som använder Teslas autopilotfunktion kan vara ett automatiseringsfel. Varför utreder NTSB den kraschen?
Vi utreder inte de flesta bilolyckor. Vad vi tar med till den här bordet är erfarenhet [med] scenarier för att introducera automation i komplexa, människocentrerade system, vilket det här definitivt är. Vi undersöker den här kraschen eftersom vi ser att automatisering kommer i bilar och vi skulle vilja försöka hjälpa till att informera den processen med vår erfarenhet av andra typer av automation.
Som vad?
Nåväl, vi undersökte en olycka med människor som flyttade på en flygplats. Den krockade med en annan person som flyttar. Och vår undersökning fann att problemet var ett underhållsproblem. Även om du eliminerar operatören, har du fortfarande mänskliga fel från människorna som designade den, människor som byggde den, människor som underhåller den.
Vissa säger att självkörande bilar måste fatta etiska beslut, till exempel att bestämma vem som ska skadas när en kollision är oundviklig. Är detta ett genuint problem?
Jag kan ge dig ett exempel som jag har sett nämns på flera ställen. Min automatiserade bil konfronteras av en lastbil på 80 000 pund i mitt körfält. Nu måste bilen bestämma sig om den ska köra in i den här lastbilen och döda mig, föraren, eller gå upp på trottoaren och döda 15 fotgängare. Det skulle [måste] sättas in i systemet. Skydda passagerare eller skydda andra människor? Det för mig kommer att kräva en federal regeringssvar att ta itu med. Den typen av etiska val kommer att vara oundvikliga.
Förutom bara etiska val – vad händer om systemet misslyckas? Kommer systemet att misslyckas på ett sätt som minimerar [skador] på allmänheten, andra bilar, cyklister? Den federala regeringen kommer att vara inblandad.
Hur kan den processen se ut?
Federal Aviation Administration har ett system där om något är mindre sannolikt än en på en miljard att hända så behöver du inte ha en alternativ lastväg [en reservkonstruktion för att bära planets vikt]. Mer troligt än så och du behöver en felsäker. Om du inte kan visa att vingspåren som misslyckas - vingen som lossnar - är mindre än en på en miljard, är det troligt att det händer. Då måste du ha en plan B.
Samma process kommer att behöva ske med bilar. Jag tror att regeringen kommer att behöva träda in och säga, du måste visa mig en mindre än X sannolikhet för misslyckande, eller så måste du visa mig en felsäker som säkerställer att detta misslyckande inte kommer att döda människor. Att sätta gränsen är något som jag tror kommer att vara inom den federala regeringens domän, inte delstatsregeringen. Jag vill inte ha 50-gränser.