211service.com
Hur man hjälper självkörande bilar att fatta etiska beslut
En filosof är kanske den sista personen du förväntar dig att ha en hand i att designa din nästa bil, men det är precis vad en expert på självkörande fordon har i åtanke.
Chris Gerdes , professor vid Stanford University, leder ett forskningslabb som experimenterar med sofistikerad hårdvara och mjukvara för automatiserad körning. Men tillsammans med Patrick Lin , professor i filosofi vid Cal Poly, undersöker han också de etiska dilemman som kan uppstå när självkörande fordon används i den verkliga världen.
Gerdes och Lin anordnade en workshop på Stanford tidigare i år som samlade filosofer och ingenjörer för att diskutera frågan. De implementerade olika etiska inställningar i programvaran som styr automatiserade fordon och testade sedan koden i simuleringar och även i riktiga fordon. Sådana inställningar kan till exempel tala om för en bil att prioritera att undvika människor framför att undvika parkerade fordon, eller att inte väja för ekorrar.
Illustration av Victor Kerlow
Helt självkörande fordon är fortfarande på forskningsstadiet, men automatiserad körteknik kryper snabbt in i fordonen. Under de kommande åren planerar ett antal biltillverkare att släppa fordon som kan styra, accelerera och bromsa för sig själva på motorvägar under längre perioder. Vissa bilar har redan sensorer som kan upptäcka fotgängare eller cyklister och varna förare om det verkar som om de kan köra på någon.
Hittills har självkörande bilar varit inblandade i väldigt få olyckor. Googles automatiserade bilar har tillryggalagt nästan en miljon miles av vägen med bara ett fåtal bakvagnar, och dessa fordon hanterar vanligtvis osäkra situationer genom att helt enkelt stanna (se Googles självkörande bilchef försvarar säkerhet).
När tekniken går framåt, och bilar blir kapabla att tolka mer komplexa scener, kan automatiserade körsystem behöva fatta beslut på en del av en sekund som väcker verkliga etiska frågor.
Vid ett branschevenemang nyligen gav Gerdes ett exempel på ett sådant scenario: ett barn som plötsligt rusar in på vägen och tvingar den självkörande bilen att välja mellan att köra på barnet eller att svänga in i en mötande skåpbil.
Som vi ser det här med mänskliga ögon har ett av dessa hinder mycket mer värde än det andra, sa Gerdes. Vad är bilens ansvar?
Gerdes påpekade att det till och med kan vara etiskt att föredra att utsätta passagerarna i den självkörande bilen på spel. Om det skulle undvika barnet, om det skulle rädda barnets liv, skulle vi kunna skada passageraren i fordonet? Det här är mycket svåra beslut som de som designar kontrollalgoritmer för automatiserade fordon står inför varje dag, sa han.
Gerdes uppmanade forskare, fordonsingenjörer och fordonschefer vid evenemanget att förbereda sig för att överväga de etiska konsekvenserna av den teknik de utvecklar. Du kommer inte bara gå och hämta etikmodulen och koppla in den i din självkörande bil, sa han.
Andra experter är överens om att det kommer att finnas en viktig etisk dimension i utvecklingen av automatiserad körteknik.
När du ber en bil att fatta ett beslut har du ett etiskt dilemma, säger Adriano Alessandrini, en forskare som arbetar med automatiserade fordon vid University de Roma La Sapienza, i Italien. Du kanske ser något i din väg, och du bestämmer dig för att byta körfält, och när du gör det finns något annat i det körfältet. Så detta är ett etiskt dilemma.
Alessandrini leder ett projekt som heter CityMobil2 , som testar automatiserade transitfordon i olika italienska städer. Dessa fordon är mycket enklare än de bilar som utvecklas av Google och många biltillverkare; de följer helt enkelt en rutt och bromsar om något kommer i vägen. Alessandrini tror att detta kan göra tekniken lättare att lansera. Vi har inte det här [etiska] problemet, säger han.
Andra anser att situationen är lite mer komplicerad. Till exempel, Bryant Walker-Smith , en biträdande professor vid University of South Carolina som studerar de juridiska och sociala konsekvenserna av självkörande fordon, säger att många etiska beslut redan har fattats inom fordonsteknik. Etik, filosofi, juridik: alla dessa antaganden ligger till grund för så många beslut, säger han. Om du tittar på krockkuddar, till exempel, är den inneboende tekniken antagandet att du kommer att rädda många liv och bara döda ett fåtal.
Walker-Smith tillägger att med tanke på antalet dödliga trafikolyckor som innebär mänskliga fel idag, kan det anses oetiskt att införa självkörande teknik för långsamt. Den största etiska frågan är hur snabbt vi rör oss. Vi har en teknik som potentiellt skulle kunna rädda många människor, men som kommer att bli ofullkomlig och kommer att döda.