211service.com
Den högsta säkerhetstjänstemannen litar inte på att biltillverkare lär ut etik för självkörande bilar
Snabba framsteg när det gäller autonom körning har lett till oro för att framtida fordon kommer att behöva göra etiska val, till exempel om de ska vika för att undvika en krock om det skulle orsaka allvarlig skada på personer utanför fordonet.
Christopher Hart, ordförande för National Transportation Safety Board, är en av dem. Han berättade MIT Technology Review att federala bestämmelser kommer att krävas för att fastställa den grundläggande moralen för autonoma fordon, samt säkerhetsstandarder för hur tillförlitliga de måste vara.
Hart sa att National Highway Traffic Safety Administration (NHTSA) sannolikt kommer att kräva att designers av självkörande bilar bygger in säkerhetsskåp för kritiska komponenter i sina fordon, liknande hur flygplanstillverkare gör.
En Mercedes-Benz självkörande bilprototyp.
Regeringen kommer att behöva träda in i spelet och säga: 'Du måste visa mig en mindre än X sannolikhet för misslyckande, eller så måste du visa mig en felsäker som säkerställer att detta misslyckande inte kommer att döda människor, sa Hart .
Hart sa också att det skulle behöva finnas regler för hur etiska privilegier kodas in i programvara. Han gav exemplet med en självkörande bil som ställs inför ett beslut mellan en potentiellt dödlig kollision med en utomkontrollerad lastbil eller på väg upp på trottoaren och påkörning av fotgängare. Det kommer för mig att ta ett svar från den federala regeringen att ta itu med, sa Hart. Den typen av etiska val kommer att vara oundvikliga.
Att NHTSA har utvärderat hur det kommer att reglera förarlösa bilar under de senaste åtta månaderna, och kommer att släppa vägledning inom en snar framtid. Byrån har hittills inte diskuterat etiska problem kring automatiserad körning.
Vilken reglering som finns för självkörande bilar kommer från stater som Kalifornien, och är inriktad på de prototypfordon som testas av företag som Alphabet och Uber. Kalifornien kräver att en säkerhetsförare alltid är redo att ta över, och att en företagsakt rapporterar detaljerade incidenter där en människa behövde rycka in.
Ryan Calo , expert på robotlagstiftning vid University of Washington, är skeptisk till att det är möjligt att översätta de hittills teoretiska etiska diskussionerna till praktiska regler eller systemdesigner. Han tror inte att autonoma bilar är tillräckligt sofistikerade för att förstå de olika faktorerna som en människa skulle göra i en verklig situation.
Calo tror att det verkliga problemet är om vi är villiga att sätta in fordon som kommer att förhindra många olyckor men också göra enstaka dödliga misstag som ingen människa skulle göra. Om den stöter på en kundvagn och en barnvagn samtidigt, kommer den inte att kunna fatta ett moraliskt beslut om att matvaror är mindre viktiga än människor, säger Calo. Men vad händer om det totalt sett räddar tiotusentals liv eftersom det är säkrare än människor?
Patrick Lin , en filosofiprofessor vid Cal Poly State University, San Luis Obispo, som har studerat etik och autonom körning med Daimler-Benz ideella arm, säger att idén om bilar som gör etiska överväganden inte bör avfärdas så snabbt. Framsteg inom sensorer, artificiell intelligens och mjukvara för ansiktsigenkänning kommer sannolikt att leda till att bilar kan bestämma sig för att rädda ett liv och offra ett annat, säger han.
Det är bättre om vi proaktivt försöker förutse och hantera problemet innan vi faktiskt når dit, säger Lin. Det här är den sortens sak som kommer att leda till en rättegång som kan förstöra ett företag eller lämna ett enormt svart märke på branschen.
Federala standarder inom etik eller andra säkerhetsaspekter kan också ge viss insyn i hur förarlösa bilar fattar beslut. Lin säger att biltillverkare i allmänhet vill hålla det inre av sina fordons programvara hemlig för hackare och konkurrenter. Biltillverkarna är notoriskt förtegen om sin programmering och sitt krockoptimeringstänkande, säger han.