Varför människor kanske aldrig använder autonoma bilar

Automatiserad körning går framåt hela tiden, men det finns fortfarande en kritisk ingrediens som saknas: förtroende. Programledaren Jennifer Strong möter ingenjörer som bygger ett nytt kommunikationsspråk mellan automatiserade fordon och deras mänskliga passagerare, en avgörande saknad del i strävan mot en förarlös framtid.

Vi träffas:

• Dr Richard Corey och Dr Nicholas Giudice, grundare av VEMI Lab vid University of Maine
• Ryan Powell, UX Design & Research på Waymo.
• Rashed Haq, VP of Robotics på Cruise

Krediter:

Det här avsnittet rapporterades och producerades av Jennifer Strong, Tanya Basu, Emma Cillekens och Tate Ryan-Mosley. Vi hade hjälp av Karen Hao och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Hela avsnittet transkription:

Jennifer Strong: Förarlösa bilar har trollats fram i filmer och pratats om i decennier. De första försöken att göra dem gjordes för ungefär ett sekel sedan. Och visst, de är inte längre lika otroliga som i Herbie The Love Bug från 1960-talet där den här självkörande bilen har ett eget sinne:

[Herbie-klipp]: Jag tog dig inte hit. Det är den här otäcka lilla bilen.

Jennifer Strong: Men även om den artificiella intelligensen som driver tekniken har kommit med stormsteg – och vi har nu några självkörande taxibilar i USA och Kina – faktum är att kommunikationen mellan bilen och människan inuti har inte riktigt kommit så långt sedan dagarna. av Herbie som kör iväg utan förarens medgivande.

Och vad mer är, ljudsignalerna och ljudsignalerna som är avsedda att berätta något om vad bilen gör berättar inte intuitivt för oss vad som händer.

För att vara rättvis är det inte bara ett problem med automatiserade fordon – det dyker upp i de flesta bilar med datoriserade element. Min bil plingar för att min passagerare ska ta på sig ett säkerhetsbälte när allt som finns där är en handväska.

Trots programmerares bästa ansträngningar finns det fortfarande ett grundläggande problem: bilar och människor talar inte samma språk.

Allt detta spelar roll eftersom det här inte är ett videospel eller en telefon som försöker tolka sitt matematiska språk av 1:or och 0:or på ett sätt som är vettigt på mänskligt språk. Detta är en rörlig sak som bär våra kroppar från plats a till plats b. När saker går fel kan de gå riktigt fel.

Jag heter Jennifer Strong och i det här avsnittet dyker vi ner i några knepiga frågor om användbarhet och förtroende.

Föreställ dig att du är på väg att lämna huset - du kämpar för att komma till ett möte med några kunder. Du vill prata med din chef i förväg, men du måste också få dina barn till skolan. Du och barnen kämpar ut genom dörren och beger dig till bilen, kaffe och rostat bröd i handen, ryggsäckar och vattenflaskor i släptåg. Det skulle vara trevligt att ställa in en autopilot. Men skulle du lita på det? Kan du verkligen tänka dig att släppa ratten?

Och hur vet du vilket scenario som är mindre säkert? Den oundvikliga multitasking och barnhantering när du kör? Eller lämna över viss kontroll till en maskin?

Tekniken vi har nu, som Teslas autopilot, är inte tillräckligt avancerad för att verkligen vara autonom. Människor på fältet hänvisar till det som automatiserad körning - det kräver att en människa övervakar vad bilen gör - vi vet att minst fem personer har dött i krockar med automatiserad körning när någon bakom ratten inte var uppmärksam.

Men distraherade förare är farliga i alla typer av bilar, och USA ser fortfarande att 30 till 40 tusen människor dör i olyckor varje år.

Jennifer Strong: När jag tar en promenad i mitt grannskap kommer jag ofta att se min bästa vän på hennes stop med sitt trettonåriga barn. Det är en typisk urban scen... förutom denna nästa del.

Hannah : Du går in i kontroller... det här kommer inte att laddas...

Jennifer Strong: Hannah använder en app på sin mammas iPhone för att dra in sin elbil till en parkeringsplats där de kan koppla in den.

Hannah : Tja, det här är en användbarhetsgrej... den laddas inte.

Kamell : Det händer flera gånger när vi först börjar distribuera summon-funktionen...

Jennifer Strong: Barn växer upp med appar och det är ofta mer intuitivt för dem hur dessa saker fungerar än det är för deras föräldrar. De blir inte heller lika lätt frustrerade av ny teknik.

Hannah: Nu kör vi. Okej. Så den visar en bild på bilen. Du trycker bara åt vilket håll du vill och håller den, så ska den röra sig. Men det gjorde det inte... [fnissa] ...

Jennifer Strong: Biltillverkaren Tesla har en autopilotfunktion som gör att förare kan kalla bilar på parkeringsplatser för att komma och hämta dem, bland en mängd andra saker.

åh! Där kom det.

Hannah : Så lamporna tänds och du kan se ratten röra sig inuti bilen... och den tror också att vårt cykelställ är en annan bil, så vi kan inte backa med det här.

Jennifer Strong: Autopilot erbjuder också en mer avancerad version av farthållare... även om den inte heller är perfekt.

Kamell : Men jag har kommit att inse att det kommer att stanna eller sakta ner baserat på personen framför dig. Om du inte kan gå in i förbifarten. Men du måste fortfarande vara uppmärksam eftersom den kommer att stanna död på en snabbt rörlig motorväg. Av skäl... ingen anledning. Inte vad jag kan säga. Så jag är väldigt tveksam. Det tillåter mig inte att slappna av mycket. Låter min fot bara ta en paus.

Kamell : Och när den vill prata med mig om sina säkerhetsåtgärder så önskar jag att den talade helt enkelt. Istället för att pip-pip... försöker bläddra igenom... vad [pip] betyder det? jag vet inte. [skrattande]

Hannah : När vi gör programuppdateringar ger det oss en översikt över vad som görs. Men som min mamma sa, det är inte på vanlig engelska. Det är väldigt svårt att förstå. Så du måste egentligen bara ta reda på vad som har förändrats allt eftersom, vilket kan vara farligt. Om det är något stort vet du inte hur du sätter på värmen eller sätter på autopiloten. Och jag vet också att när jag har börjat åka i framsätet, har jag blivit en slags co-pilot och det finns inget självklart sätt att justera teckenstorleken. Min mamma kan inte läsa tiden eller navigeringen. Hon har väldigt bra syn, men det är fortfarande jobbigt för henne. Och jag måste ta blicken från vägen. Om jag körde så skulle jag nog inte klara det heller. Så det är inte särskilt användarvänligt.

Jennifer Strong: Det går inte att förneka att vi har verkliga problem i det här förhållandet - det är bara en fråga om hur de blir tilltalade, eftersom forskare som fokuserar på det vid University of Maine är alltför medvetna.

Richard Corey : Det är väldigt lite diskussion från den mänskliga sidan. Och, och jag kommer att vara den första att säga detta... Bra! För nummer ett vill jag se till att bilen stannar på vägen. Det vill säga, det är vår första sak. Se till att tekniken är rätt och att de stannar på vägen ... men vi kommer snart till en punkt här där vi måste komma in i dem, och vi måste ta reda på vad det betyder från den mänskliga sidan, vad behöver vi?

Jennifer Strong: Richard Corey är chef för VEMI Lab vid University of Maine, som fokuserar på interaktioner mellan människor och maskiner.

Richard Corey : Vi började titta djupare på det, insåg att meddelandet på en Tesla, som alla liksom anser vara det ledande inom autonoma fordon just nu, meddelandet för att låta dig veta att Tesla inte längre har kontroll är fyra pip. Och vi tyckte att det inte verkar vara tillräckligt med information [skrattar] med tanke på neurobearbetningen och, och sånt som vi går igenom när vi kör bil och är medvetna om saker omkring oss och...

Nicholas Giudice : Efter det insåg vi att...

Jennifer Strong: Och det är labbets medgrundare, Nicholas Giudice .

Nicholas Giudice : Även om folk inte heller riktigt tänker på den mänskliga sidan av saker och tittar på alla mänskliga faktorer, har det gjorts en del forskning, mestadels enkätforskning som ganska konsekvent har visat att människor gillar tanken på autonoma fordon. Och sedan när du säger, ja, skulle du vilja gå ut och komma in i en? Vi har en precis utanför labbet. De säger, Åh nej, absolut inte. Jag menar det är att de visar den här typen av rädsla för tekniken, rädsla för hur den fungerar. Rädsla för att inte veta, typ att tappa kontrollen. För att köra bil ger dig den här känslan av, du vet, du har handlingsfrihet över processen, du har kontroll över vad som händer. Och när du sätter dig i ett autonomt fordon verkar folk inte bara bry sig om det, de har inte kontroll, men de vet inte varför fordonet gör som det gör.

Jennifer Strong: Och så, för att hjälpa till att förstå hur denna tillitsrelation kan fungera, studerar de hur människor gör det.

Nicholas Giudice: När människor litar på varandra beror det på att de har lärt sig att samarbeta. De lärde sig att förstå vad de behöver av varandra. Och så den här idén om samarbete mellan mänskliga fordon, det är ungefär det här underliggande ramverket för vår forskning. Dels får vi förtroende genom att säga om vi kan bygga en samarbetsprocess där människan kan förstå hur man interagerar med och vad fordonet behöver och fordonet förstår mer om vad människan gör och, och vad de behöver. Den processen, den samarbetsprocessen, bygger förtroende. Och så bygger vi i grunden förtroende genom bättre kommunikation.

Jennifer Strong: Förtroende är inte påtagligt. Så hur mäter forskare, fokuserade på användarupplevelse, det?

Nicholas Giudice : Är de avslappnade? Vi kan se på detta utifrån fysiologiska mätningar. Så du kan titta på puls eller eh, hudledning. Titta på hur deras uppmärksamhet förändras, och så att man får förtroende genom dessa olika typer av verktyg som vi tror är ett innovativt sätt att göra detta. För hittills har man tittat på detta genom undersökningar, eller hur? Så du har folk att ta de här undersökningarna och det är ett bra sätt att titta på aspekter av förtroende, men det är verkligen inte alls lika direkt. Och så när vi kombinerar de kvalitativa och kvantitativa och beteendemässiga och fysiologiska måtten, får vi verkligen ett mycket större, slags mer robust sätt att se på förtroende från olika nivåer.

Jennifer Strong: Deras personliga test har hållits upp av coronaviruset. Men vad de i grunden hoppades göra är detta:

Richard Corey : Vi skulle använda ett autonomt fordon under loppet av ett år på en offentlig plats. Och vi skulle börja titta på vad vi kan stoppa in där. Kan vi sätta in kameror där? Kan vi ha folk där inne för att göra observationsstudier? Kan vi sätta sensorer i sätet för att ta reda på, jag vet inte, hur mycket folk vickar runt om de är nervösa eller något. All data som vi kan samla in för att starta processen att ta reda på vem som är bekväm och vem som inte är det.

Jennifer Strong: Forskare vill spåra om människor blir mer bekväma och förtroendefulla när bilar utvecklas, och så småningom få förmågan att förklara vad de gör och varför.

Men även när du kan mäta tillit skapas det inte lika. Och det ges inte av alla på samma sätt.

Nicholas Giudice : Människor är mer villiga på vissa sätt, speciellt någon som jag själv som är medfödd blind, jag är mer villig att ta några av de okända riskerna som folk är oroliga för med autonoma fordon. För jag är liksom, ja! Detta kommer att tillåta mig att komma vart jag vill när jag vill. Du vet, och du kan ha busslinjer, du kan ha paratransit, men då är du bunden till mycket specifika tidtabeller. Detta är ett ekonomiskt lönsamt och verkligen befriande sätt att ta sig runt. Och så att kopplingen till självständighet, den kopplingen till livskvalitet är knuten till tillit, att sätta en del av tilliten är också bara att veta att det är jämnt, de litar på att det är något som kan fungera eftersom just nu, så många av de system som finns där ute fungerar inte.

Jennifer Strong: Detsamma gäller för dem som åldras eller har problem som kan hindra dem från att köra bil.

Så, vad kan vi lära oss av att se hur människor litar på någon bakom ratten – och hur replikerar man det förhållandet när det gäller människor och förarlösa bilar?

Richard Corey : Vi som människor kan fysiskt se om någon är nervös.

Jennifer Strong: Richard Corey.

Richard Corey : De tar tag i instrumentbrädan, spikar i den, den typen av saker, och de är nervösa och då kan du justera hur du kör. Du kan till och med säga, hej, det är okej. Jag menar, jag körde en gång i en riktigt häftig snöstorm och alla i bilen blev förbannade. Och jag tänkte, se, du vet, det är okej. Jag har fortfarande kontroll över det här. Och det är de små mänskliga sakerna du gör som kopplar ihop. Vad kan bilen eller datorn, vad den än är, säga till dig som säger: Hej, det är okej. Det är därför jag gör det här. Vi kommer att dra över till höger körfält eftersom det är riktigt svårt och vi behöver sakta ner lite, men vi ser inte riktigt någon av den befintliga tekniken som händer idag. Och det behöver vi som människor.

Jennifer Strong: Och hans kollega Nicholas Giudice säger att det är så här kommunikation kan fungera...

Nicholas Giudice : Det kan finnas en avatar, bara saker som du faktiskt kan börja tänka på, fordonet i termer av att ha mänskliga egenskaper att det inte bara är den här svarta lådan som du bara är... i .

Jennifer Strong: Den långvariga föregångaren i detta lopp för att bygga autonoma fordon är ett företag som heter Waymo, som brukade vara känt som Googles självkörande bilprojekt.

Det blev världens första robo-taxi 2018, efter att ha satt en flotta av självkörande hytter på vägen i Phoenix, Arizona. Och trots att de måste avbryta personliga åkningar under den globala pandemin, färdas deras bilar fortfarande 20 miljoner virtuella mil om dagen i simulatorer.

Det är också bland en handfull företag som nu testar självkörande lastbilar i Texas.

På Waymo ser kommunikation ut som TV-skärmar, ljudeffekter... och mänskliga röster...

Ryan Powell : Och så vet vi idag att när du är passagerare i en bil som körs av en människa, så sker det mycket kommunikation mellan dig och den föraren som hjälper till att skapa förtroende.

Jennifer Strong: Ryan Powell leder forsknings- och designteamet för användarupplevelser.

Ryan Powell : ...så det kan vara direkt kommunikation. Som att du kanske frågar en förare vilken rutt vi tar eller varför du inte flyttar ljuset är grönt men det kan också vara indirekt också. Som att du kan märka att den där mänskliga föraren kan placera sina händer på ratten precis innan han är redo att göra en vänstersväng. Men vi visste från en mycket tidig punkt att vi behövde någon kommunikationsmetod i våra fordon för att bygga upp förtroende så att förarna kunde känna sig trygga och säkra och informerade ... för det ändamålet ägnar vi mycket tid åt att tänka på det visuella gränssnittet i vår bil. vi försöker visualisera vad bilen kan se, du vet, hur kommunicerar vi bilens avsikt i vilka situationer behöver förare ytterligare information, vad är rätt informationsnivå.

Jennifer Strong: För, å andra sidan, försöker de också att inte överbelasta ryttare med för mycket information.

Ryan Powell : Så det du hör när du interagerar med en produkt eller tjänst bör få lika mycket designhänsyn som det du ser. Så när vi tänker på vår användarupplevelse är det därför vi har bestämt oss för att designa inte bara för vad du kan se, utan också för vad du kan höra.

Och så det här är vad vi hänvisar till som ett slags välkomstspår som du skulle höra när dörrarna öppnas och när du liksom tar dig in i fordonet, men röståterkoppling gör att vi kan förmedla mer komplex information och även för att anpassa meddelanden också. Så det här är ett exempel på vad en förare skulle höra när bilen börjar röra sig. Så desert breeze park, naturligtvis, är destinationen som ryttaren lägger in där. Och vi kan återigen anpassa den där rösten genom att ta destinationen som de skrev in i appen och bara förstärka för föraren att vi vet var destinationen är, vart vi är på väg när vi, som bilen att faktiskt flytta.

Jennifer Strong: Något jag har undrat, är vad som händer om du somnar i en förarlös taxi? Hur väcker bilen – eller hjälparen som Waymo dubbar den – dig?

Ryan Powell : Vi ger dig ett meddelande när, um, när du är ungefär en minut bort från din, din, destination och tanken på det på ett sätt, om du typ nickat eller slumrat till, det är där vi använda en röst. Så en röst hörs och låter dig veta att du kommer om ungefär en minut. Och den andra saken att det fungerar som en påminnelse om att man ska samla sina saker, om man typ har lagt något på de andra stolarna och så att man inte lämnar det, att bakom, för igen, Ha inte den där mänskliga föraren att se sig omkring och säga, hej, du glömde din jacka. Eller, du vet, du glömde din, din, um, din telefon eller din väska. Och så använder vi röst i så fall. Och vi tror också, um, du vet, att det skulle hjälpa någon att vakna om de hade slumrat till när de var på resan.

Jennifer: Mycket forskning gick till att välja en röst för det autonoma fordonet som förare skulle lita på.

Ryan Powell : Vi blir ofta ombedda att gilla varför en kvinnlig röst kontra en manlig röst, men egentligen handlade inte beslutet för oss om kön. Det handlade mer om att hitta den bäst klingande rösten som matchade dessa principer. Och så till slut råkade det bara vara en kvinnlig röst för oss, du vet, en röst som låter kompetent och omtänksam och vänlig, du vet, återigen går långt för att hjälpa människor att få en positiv upplevelse. Och det var i högsta grad det vi var ute efter när vi tänkte på rösten som man hör i bilen.

Jennifer Strong: Och vad mer är, Waymo producerar alla sina ljud i en viss tonart, i hopp om att påverka hur vi känner oss inne i bilen.

[Ljud]

Ryan Powell : Det finns den här idén att nyckeln till E är en mycket sorts briljant eller optimistisk nyckel. Och så kommer du att märka att hela vårt ljudlandskap igen, är, spelas runt denna, denna tonart av E. Och så ska jag, jag kommer att spela ett ljud här i tonarten av E.

[Ljud]

Som forskare är det det vi lägger mycket tid på med våra förare är att vi försöker avslöja de ögonblicken där människor liksom behöver ytterligare information för att förstå vad som händer i fordonet. Och återigen, det går tillbaka till tanken på att bygga förtroende. Så det kan vara ett enkelt exempel där bilen, du kanske bara kör med och bilen liksom plötsligt saktar ner och vi ser detta hela tiden. Du typ, du vet, du är inte det, naturligtvis är det inte ett, ett oroligt ögonblick eller ett alarmerande ögonblick, men du, du tittar upp från din telefon och du är typ som att undra som, Åh, vad är det som händer, du vet, det är ingen framför oss men vi kör lite långsammare än vad vi nyss var. Och så det är ett exempel på var vi, i så fall, har gått in i en skolzon, men igen, eftersom du inte kör bil, kommer du förmodligen inte att veta det direkt. Och så vi, det är där vi förlitar oss på det visuella gränssnittet eller i vissa fall att använda ljud eller röst för att låta dig veta vad som hände.

Jennifer Strong: En av Waymos främsta konkurrenter heter Cruise. Vi träffar dess chef för robotteknik, efter pausen.

[midroll]

Jennifer Strong: Självkörande bilföretaget Cruise är en del av General Motors. Startupen i San Francisco bygger elbilar och fokuserar på samåkning och leverans i täta stadsmiljöer.

Rashed Haq är dess vice vd för robotik.

Rashad Huck : Självkörande bilar måste lära sig andra förares eller andra trafikdeltagares sociala beteenden som fotgängare. Och samtidigt måste de anpassa sig till mänskliga sociala förväntningar på andra förare och passagerare. Och de måste göra detta samtidigt som de uppnår övermänskliga säkerhetsnivåer.

Jennifer Strong: En del av hans jobb är att lära autonoma fordon att bli mer mänskliga, eftersom det finns massor av saker vi gör medan vi kör helt enkelt för vår egen bekvämlighet. Vi föredrar mjukare svängar, och vi kör inte i exakt mitten av ett körfält bredvid parkerade bilar.

Han och hans team studerar våra vanor inte bara för att efterlikna dem i vissa scenarier, utan också för att anpassa sig till dem. Till exempel säger han att de använder datorseende algoritmer för att analysera fotgängares avsikter utifrån deras beteenden.

Rashad Huck : Så till exempel, om det är någon som står vid ett övergångsställe, men tittar ner på sin telefon, så kan AV:n dra slutsatsen att antingen är det osannolikt att de korsar direkt eller så är de distraherade och de faktiskt kan börja gå och inte titta upp .

Vi har sensorer som kan se 360 ​​grader ganska långt ut, vanligtvis fler än vad människor kan. Och varje dag kör vi mer än en människa skulle göra under en livstid. Så det ger dig någon form av gränser för hur, hur snabbt algoritmerna kan ta upp. Uppenbarligen behöver den ännu inte ha människors dom.

Jennifer Strong: Och innan vi kommer dit måste vi veta hur vi vill automatisera bort från mänsklig körning.

Kan vi realistiskt förvänta oss att folk ska ta kontroll när som helst när de har avstått från den kontrollen under större delen av åkturen? Flygplansingenjörer insåg för länge sedan att piloter inte kan göra detta på ett säkert sätt, så navigationssystem får dem alltid att göra någon sorts uppgift för att hålla sig engagerade i att flyga.

Kanske betyder det att bilar bör hålla tillbaka hur mycket de tar ratten tills de kan bli riktigt autonoma.

Denna typ av teknik kräver en ny typ av mänskligt förtroende. Även om vi inte kan kvantifiera det, vet vi att nivåerna av förtroende som människor känner ökar med transparens, personlig erfarenhet och skydd. Så när vi kör våra egna bilar tvivlar vi aldrig på att de kommer att stanna när vi bromsar. När vi lägger ut beslutsfattande på maskiner måste det förtroendet förtjänas. Utan det kommer fler decennier att passera, och vissa av dessa tekniker kanske aldrig ser dagens ljus.

Nästa avsnitt: teknik för känsloigenkänning antyder en framtid där våra bilar, telefoner och andra enheter reagerar på våra känslor.

Rana al-Kaliouby : Så vi bygger algoritmer som kan förstå dina ansiktsuttryck, som dina leenden eller dina rynkor eller höjningar på ögonbrynen, och kartlägger det till en förståelse för vad ditt känslomässiga och mentala tillstånd är.

Jennifer Strong: Kan vi ens kodifiera känslor? Och borde vi? Följ med oss ​​på en miniserie om emotion AI, när vi utforskar hur man förvandlar smarta verktyg till empatiska.

Det här avsnittet rapporterades och producerades av mig och Tanya Basu, med Emma Cillekens och Tate Ryan-Mosely. Vi hade hjälp av Karen Hao och Benji Rosen. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Tack för att du lyssnade, jag heter Jennifer Strong.

Dölj