Hur vi tycker om robotar som känns

När robotar blir smarta nog att upptäcka våra känslor och reagera på lämpligt sätt, kan de ha något som liknar sina egna känslor. Men det gör dem inte nödvändigtvis mer som människor. Förbi

• Louisa Hall arkivsida

24 oktober 2017

Delcan & Company + Jenue

Octavia, en humanoid robot designad för att bekämpa bränder på marinens fartyg, har bemästrat ett imponerande utbud av ansiktsuttryck.

När hon är avstängd ser hon ut som en docka i människostorlek. Hon har ett slätt vitt ansikte med en snuvad näsa. Hennes plastögonbryn sitter jämnt på pannan som två små kapsejsade kanoter.

Den här historien var en del av vårt novembernummer 2017

• Se resten av frågan
• Prenumerera

Men när hon är på går hennes ögonlock upp och hon börjar visa känslor. Hon kan nicka med huvudet i en gest av förståelse; hon kan vidga ögonen och lyfta båda ögonbrynen i ett övertygande sken av oro; eller så kan hon luta huvudet åt sidan och skruva upp munnen, vilket replikerar mänsklig förvirring. För komisk effekt kan hon till och med böja ett ögonbryn och dra ihop det motsatta ögat samtidigt som hon knackar ihop sina metallfingrar, som om hon planerar robothämnd.

Men Octavias utbud av ansiktsuttryck är inte hennes mest imponerande egenskap. Vad som är fantastiskt är att hennes känslomässiga påverkan är ett korrekt svar på hennes interaktioner med människor. Hon ser till exempel nöjd ut när hon känner igen en av sina lagkamrater. Hon ser förvånad ut när en lagkamrat ger henne ett kommando som hon inte förväntade sig. Hon ser förvirrad ut om någon säger något hon inte förstår.

Hon kan visa lämplig känslomässig påverkan eftersom hon bearbetar enorma mängder information om sin omgivning. Hon kan se, höra och röra. Hon tar en bild av sin omgivning med hjälp av de två kamerorna inbyggda i hennes ögon och analyserar egenskaper som ansiktsdrag, hy och kläder. Hon kan upptäcka människors röster med hjälp av fyra mikrofoner och ett röstigenkänningsprogram som heter Sphinx. Hon kan identifiera 25 olika föremål genom beröring, efter att ha lärt sig dem genom att använda sina fingrar för att fysiskt manipulera dem till olika möjliga positioner och former. Tillsammans utgör dessa perceptuella färdigheter en del av hennes förkroppsligade kognitiva arkitektur, som gör att hon – enligt hennes skapare vid Navy Center for Applied Research in Artificial Intelligence – kan tänka och agera på ett sätt som liknar människor.

Det är ett spännande påstående, men det är inte nödvändigtvis chockerande. Vi är vana vid tanken på att maskiner fungerar som människor. Automater skapade i Frankrike på 1700-talet kunde dansa, hålla tiden och spela trummor, dulcimer eller piano. Som barn som växte upp på 1980-talet eftertraktade jag av någon anledning en docka som annonserades för förmågan att kissa i byxorna.

Octavia är kapabel att förmedla uttryck, men det visar sig att ansiktsuttryck inte krävs för att människor ska känna sig känslomässigt fästa vid sina robotar. U.S. Naval Research Laboratory

Vi är till och med vana vid tanken på att maskiner tänker på ett sätt som påminner oss om människor. Många av våra länge omhuldade högvattenmärken för mänsklig kognition – förmågan att slå en stormästare i schack, till exempel, eller att komponera en metriskt exakt sonett – har mötts och överträffats av datorer.

Octavias agerande – den fruktansvärda vidgade ögonen, den förvirrade fåran på hennes plastögonbryn – verkar gå ett steg längre. De antyder att hon förutom att tänka som vi tänker också känner mänskliga känslor.

Det är inte riktigt fallet: Octavias känslomässiga påverkan, enligt Gregory Trafton, som leder avdelningen för intelligenta system vid Navy AI-centret, är bara tänkt att visa vilken typ av tänkande hon gör och göra det lättare för människor att interagera med henne. Men det är inte alltid möjligt att dra en gräns mellan tänkande och känsla. Som Trafton erkänner är det tydligt att människors tankar och känslor är olika men påverkar varandra. Och om, som han säger, känslor påverkar kognition och kognition påverkar känslor, pekar Octavias förmåga att tänka, resonera och uppfatta några av de större frågorna som kommer att följa uppkomsten av intelligenta maskiner. När kommer maskiner att vara smarta nog att känna något? Och hur skulle vi egentligen veta det?

Personliga känslor

Octavia är programmerad med theory of mind, vilket betyder att hon kan förutse de mentala tillstånden hos sina mänskliga lagkamrater. Hon förstår att människor har potentiellt motstridiga övertygelser eller avsikter. När Octavia får ett kommando som skiljer sig från hennes förväntningar, kör hon simuleringar för att se vad lagkamraten som gav kommandot kan tänka och varför den personen tror att detta oväntade mål är giltigt. Hon gör detta genom att gå igenom sina egna modeller av världen men ändra dem något, i hopp om att hitta en som leder till det uttalade målet. När hon lutar huvudet åt sidan och rynkar på ögonbrynen, är det för att signalera att hon kör dessa simuleringar för att bättre förstå sin lagkamrats tro.

Vi vet fortfarande inte allt som är involverat i att känna känslor.

Octavia är inte programmerad med känslomässiga modeller. Hennes teori om sinnet är ett kognitivt mönster. Men det fungerar mycket som empati, den mest omhuldade av alla mänskliga känslor.

Andra robottillverkare ställer sig bakom frågan om deras maskiners känslomässiga intelligens. SoftBank Robotics, till exempel, som säljer Pepper – en trevlig och sympatisk humanoid robot byggd för att fungera som en mänsklig följeslagare – hävdar att Pepper kan uppfatta mänskliga känslor och tillägger att Pepper älskar att interagera med dig, Pepper vill lära sig mer om din smak, dina vanor, och helt enkelt vem du är. Men även om Pepper kanske har förmågan att känna igen mänskliga känslor, och även om Pepper kan svara med glada leenden eller uttryck av sorg, är det ingen som påstår att Pepper känns faktiskt sådana känslor.

Vad skulle det ta för en robotskapare att hävda det? För det första vet vi fortfarande inte allt som är involverat i att känna känslor.

Saker granskade

• Kultur och interaktion mellan människa och robot i militariserade utrymmen: en krigshistoria

  Av Julie Carpenter
  Routledge, 2016

• Hur känslor skapas: The Secret Life of the Brain

  Av Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• U.S. Army Robotic and Autonomous Systems Strategy

  mars 2017

De senaste åren har revolutioner inom psykologi och neurovetenskap radikalt omdefinierat själva begreppet känsla, vilket gör det ännu svårare att slå fast och beskriva. Enligt forskare som psykologen Lisa Feldman Barrett, professor vid Northeastern University, blir det allt tydligare att våra känslor varierar mycket beroende på vilken kultur vi är uppvuxna i. De varierar till och med mycket inom en individ i olika situationer. Faktum är att även om vi delar de allmänna känslorna som utgör det som kallas affekt (nöje, missnöje, upphetsning och lugn) med de flesta andra människor och många andra djur, så varierar våra mer akuta och specifika känslor mer än vad de följer specifika normer. Rädsla, till exempel, är ett kulturellt överenskommet koncept, men det utspelar sig i våra kroppar på otaliga sätt. Det är inspirerat av olika stimuli, det manifesterar sig olika i våra hjärnor och det uttrycks på olika sätt i våra ansikten. Det finns inget enskilt rädslacentrum eller rädslakrets i hjärnan, precis som det inte finns något tillförlitligt rädsla ansiktsuttryck: vi bearbetar och visar alla vår rädsla på radikalt olika sätt, beroende på situationen – sätt som vi, genom interaktioner med andra människor, lär oss att identifiera eller beteckna som rädsla.

När vi talar om rädsla, då talar vi om ett generaliserat paraplybegrepp snarare än något som kommer ut ur en specifik del av hjärnan. Som Barrett uttrycker det konstruerar vi känslor på plats genom ett samspel av kroppsliga system. Så hur kan vi förvänta oss att programmerare exakt modellerar mänskliga känslor i robotar?

Bra soldater

Det finns också moraliska problem kring programmering av robotar för att ha känslor. Dessa problem demonstreras särskilt väl av militärrobotar som, precis som Octavia, är designade för att skickas in i skrämmande, smärtsamma eller potentiellt dödliga situationer i stället för mindre oumbärliga mänskliga lagkamrater.

Vid en konferens 2017 sponsrad av arméns något oroväckande titulerade Mad Scientist Initiative, specificerade generallöjtnant Kevin Mangum, ställföreträdande befälhavare för Army Training and Doctrin Command, att sådana robotar bör och kommer att vara autonoma. När vi tittar på vår allt mer komplexa värld råder det ingen tvekan om att robotik, autonoma system och artificiell intelligens kommer att spela en roll, sa Mangum. Army Robotic and Autonomous Systems Strategy för 2017 förutspår full integration av autonoma system till 2040, och ersätter dagens bombröjningsrobotar och andra maskiner som fjärrstyrs av människor.

En civil tränare visar fallskärmsjägare hur man ställer in displayen för en PackBot slagfältsrobot. Hur outtryckliga dessa robotar än kan verka, utvecklar soldater i fältet band med dem och ser dem som en del av teamet. Michael J. McLeod

När dessa robotar kan agera och tänka på egen hand, borde de, liksom Octavia, programmeras med sken av mänskliga känslor? Ska de programmeras till faktiskt ha mänskliga känslor? Om vi ​​skickar dem i strid, borde de inte bara tänka utan känna tillsammans med sina mänskliga följeslagare?

Å ena sidan, naturligtvis inte: om vi designar robotar med det uttryckliga syftet att utsätta dem för fara, skulle det vara sadistiskt att ge dem förmågan att drabbas av terror, trauma eller smärta.

Men å andra sidan, om känslor påverkar intelligensen och vice versa, kan vi vara säkra på att en robot utan känslor skulle bli en bra soldat? Tänk om bristen på känslor leder till dumma beslut, onödiga risker eller överdrivet grym vedergällning? Kan en robot utan känslor bestämma sig för att det intelligenta beslutet skulle vara att begå vad en mänsklig soldat skulle känna var ett krigsbrott? Eller skulle en robot utan tillgång till rädsla eller ilska fatta bättre beslut än en människa skulle göra i samma skrämmande och galna situation?

Och sedan finns det möjligheten att om känslor och intelligens är oupplösligt sammanlänkade, så finns det inget sådant som en intelligent robot utan känslor, i vilket fall frågan om hur mycket känslor en autonom robot ska ha är på något sätt utom kontroll av programmeraren som sysslar med intelligens.

Känslomässiga bindningar

Det finns också frågan om hur dessa robotar kan påverka sina mänskliga lagkamrater.

År 2010 hade den amerikanska armén börjat distribuera en flotta på cirka 3 000 små taktiska robotar, till stor del som svar på den ökande användningen av improviserade explosiva anordningar i krigföring. I stället för mänskliga soldater rullar dessa robotar nerför utsatta vägar, in i mörka grottor och genom smala dörröppningar för att upptäcka och inaktivera oförutsägbara IED:er.

Soldater har rapporterat att de känner sig upprörda när sådana slagfältskamrater som Talon, som visas här, förstörs i tjänsten. Qinetiq

Denna flotta består till största delen av iRobots PackBot och QinetiQ North Americas Talon, robotar som inte är särskilt avancerade. De ser lite ut som WALL-E, deras boxiga metallkroppar balanserade på gummisteg som gör att de kan göra ett ganska bra jobb med att korsa stenig terräng, gå i trappor och ta sig ner i dunkla korridorer. De har sammanfogade armar utrustade med videokameror för att övervaka sin omgivning, och klor för att mixtra med sprängladdningar.

De är användbara verktyg, men de är inte exakt autonoma. De styrs på distans, som leksaksbilar, av soldater som håller enheter som ibland är försedda med joysticks. Som ett exempel på AI är PackBot inte så mycket mer avancerad än iRobots mer kända produkt, Roomba som dammsuger under din fåtölj.

Och ändå, trots att dessa robotar inte är uttryckslösa, utvecklar mänskliga soldater band med dem. Julie Carpenter demonstrerar in Kultur och interaktion mellan människa och robot i militariserade utrymmen att dessa relationer är komplicerade, både givande och smärtsamma.

När Carpenter bad en serviceman att beskriva sina känslor för en robot som hade förstörts, svarade han:

Jag menar, det var uppenbarligen inte … någonstans i närheten av att vara på samma nivå som, du vet, en kompis till dig som skadas eller se en medlem bli borttagen eller något liknande. Men det fanns fortfarande en viss förlust, en känsla av förlust av att något hände med en av dina robotar.

En annan serviceman jämförde sin robot med en hund:

Jag menar, du tog hand om den saken lika bra som dina teammedlemmar. Och du såg till att den städades upp och såg till att batterierna alltid var laddade. Och om du inte använde den, var den undangömd så gott det kunde vara eftersom du visste om något hände roboten, ja då var det din tur, och ingen tycker om att tro det.

Ännu en man förklarade varför hans lagkamrat gav deras robot ett mänskligt namn:

Mot slutet av vår turné tillbringade vi mer tid utanför tråden och sov i våra lastbilar än vi var inne. Vi sov inne i våra lastbilar utanför kabeln i bra fem till sex dagar i veckan, och det var tre män i lastbilen, du vet, en som låg tvärs över framsätena; den andra ligger tvärs över tornet. Och vi kan inte ladda ner känsliga föremål och lämna dem utanför lastbilen. Allt måste låsas in, så vår TALON var i mittgången på vår lastbil och vår juniorkille döpte den till Danielle så att han skulle ha en kvinna att gosa med på natten.

'Min vackra robot dödades ...' var faktiskt uttalandet jag gjorde till min teamledare.

Dessa män betonar alla att robotarna är verktyg, inte levande varelser med känslor. Ändå ger de sina robotar mänskliga namn och stoppar in dem säkert på natten. De skämtar om den impulsen, men det finns en lite störande dissonans i skämten. De soldater som Carpenter intervjuade verkar känna sig lite fastnade mellan två känslor: de förstår det absurda i att ta hand om en känslolös robot som är designad för att vara förbrukbar, men de upplever ändå frestelsen att bry sig, åtminstone lite.

När Carpenter hade publicerat sina första intervjuer fick hon mer kommunikation från män och kvinnor i militären som hade utvecklat verkliga band med sina robotar. En före detta explosiv ammunitionstekniker skrev:

Eftersom jag är en EOD-tekniker på åtta år och tre utplaceringar, kan jag berätta att jag tyckte att din forskning var extremt intressant. Jag kan helt hålla med de andra teknikerna du intervjuade när de sa att robotarna är verktyg och som sådana kommer jag att skicka dem in i vilken situation som helst oavsett den möjliga faran.

Men under ett uppdrag i Irak 2006 förlorade jag en robot som jag hade döpt till Stacy 4 (efter min fru som också är EOD-tekniker). Hon var en utmärkt robot som aldrig gav mig några problem, alltid fungerade felfritt. Stacy 4 var helt förstörd och jag kunde bara återställa mycket små delar av chassit. Omedelbart efter explosionen som förstörde Stacy 4 kan jag fortfarande minnas känslan av ilska, och mycket av den. Min vackra robot dödades ... var faktiskt det uttalande jag gjorde till min teamledare. Efter att uppdraget var slutfört och jag hade återhämtat mig så mycket av roboten som jag kunde, grät jag över förlusten av henne. Det kändes som om jag hade förlorat en kär familjemedlem. Jag ringde min fru den kvällen och berättade om det också. Jag vet att det låter dumt men jag hatar fortfarande att tänka på det. Jag vet att robotarna vi använder bara är maskiner och jag skulle fatta samma beslut igen, även om jag visste resultatet.

Jag värdesätter människoliv. Jag värdesätter de relationer jag har med riktiga människor. Men jag kan berätta att jag verkligen saknar Stacy 4, hon var en bra robot.

Om det här är den sortens vittnesmål som kan samlas in från soldater som interagerar med ansiktslösa maskiner som PackBots och Talons, vad skulle du höra från soldater utplacerade med robotar som Octavia, som ser och hör och rör och kan förutse sina mänskliga lagkamraters sinnestillstånd ?

I populära samtal om etiken i att ge känslor till robotar, tenderar vi att fokusera på effekterna av sådan teknisk innovation på robotarna själva. Filmer och TV-program från Blade Runner till Westworld ta hand om det trauma som skulle tillfogas känselrobotar av människor som använder dem för sin underhållning. Men det finns också det omvända att tänka på: traumat som tillfogas människorna som binder sig till robotar och sedan skickar dem till en säker död.

Relaterad berättelse

Relaterad berättelse En framväxande trend inom artificiell intelligens är att få datorer att upptäcka hur vi mår och reagera därefter. De kan till och med hjälpa oss att utveckla mer medkänsla för varandra.

Det som komplicerar allt detta ytterligare är att om en robot som Octavia slutar känna mänskliga känslor, kommer dessa känslor inte bara att vara resultatet av den kognitiva arkitekturen hon gavs till att börja med. Om de är något som våra känslor kommer de att utvecklas i samband med hennes relationer med sina lagkamrater, hennes plats i världen hon lever.

Om hennes unika robotliv, till exempel, ägnas åt att bli skickad i bränder av hennes mänskliga följeslagare, eller att rulla iväg ensam längs ökenvägar med explosiva anordningar, kommer hennes känslor att vara annorlunda än de som upplevs av en mer skyddad robot, eller en mer skyddad robot. mänsklig. Oavsett de igenkännliga känslomässiga uttryck hon gör, om hon tillbringar sitt liv i omänskliga situationer, kanske hennes känslor inte är igenkännbara mänskliga.

Louisa Hall, en författare i New York, är författare till Tala , en roman från 2015 om artificiell intelligens.

Dölj