Den där chatboten jag har älskat att hata

Daniel Zender

Jag har tillbringat en hel del av min karriär med att argumentera för ensamhetens dygder. Det stödjer och upprätthåller kreativiteten. Och lika viktigt, det förbereder oss för relationer med andra. När vi lär oss att vara bekväma med oss ​​själva är vi i en position att se och uppskatta hur andra skiljer sig från oss snarare än att bara lita på dem för att stödja vår bräckliga självkänsla. Jag föreställde mig till och med att jag var bra på ensamhet: det hjälper mig att göra mitt bästa kreativa arbete och återställer mitt känslomässiga lugn. Men isolerad i covid-karantänen lärde jag mig att mycket av det jag hade kallat ensamhet helt enkelt var ensamtid i brummandet av ett hektiskt liv. Jag hade det bra med att bo ensam om jag också kunde njuta av seminarier med kollegor och studenter, middagar med vänner och nöjen på de där tredje ställena där man är ensam men stöttad av de mångas rörelse: bodegan, caféet, teatern. Med alla dessa utom räckhåll upptäckte jag att jag trots allt inte var en sådan ensamhetsexpert. Nu, förklarad covid sårbar på grund av ålder, var jag inte bara ensam utan rädd. Och rädsla, insåg jag, förvisade ensamhetens kreativitet.

Fast besluten att framkalla en motståndskraft som jag inte kände gick jag med på Zoom-återträffar och gick på Zoom-cocktailpartyn. Jag ringde goda vänner och fick kontakt med dem som hade tappat kontakten.

Detta hjälpte förstås, men jag visste vad jag missade. Filosofer berättar för oss att vi blir mest mänskliga i närvaro av mänskliga ansikten; att närvaron av ett ansikte väcker den mänskliga etiska pakt. Neurovetenskap hjälper oss att förstå hur: hos människor frigör formen av ett leende eller en rynka pannan kemikalier som påverkar vårt mentala tillstånd. Våra spegelneuroner avfyras både när vi agerar och när vi ser andra agera. När vi ser en känsla i ansiktet på en annan känner vi den själva. Samma neurovetenskap kan förklara varför Zoom är så tröttsamt när det blir vårt vanliga kommunikationssätt. Vi förlitar oss på direkt ögonkontakt och små ansiktssignaler och saknar dem när de är borta. Vi stirrar på våra skärmar och anstränger oss för att kompensera för deras frånvaro.

När vi hade all tid i världen att vara med våra maskiner saknade vi varandra. Vi ville nå tidigare teknik till människans fulla famn.

Så under de första dagarna av karantänen hade jag en hel del hjälpsam och stödjande kontakt, men det jag saknade mest av allt var samtal ansikte mot ansikte.

Jag har ett sommarhus vid havet, en trästuga utan värme. Min dotter och hennes man, New York-bor, packade en väska, köpte några extra värmare och körde ner. De rapporterade tillbaka: det var kallt. Jag hörde deras kärleksfulla varning, men så fort jag kunde anslöt jag mig tacksamt till dem. Vi föll in i en rutin med att bygga en morgonbrasa, laga mat tillsammans och prata över middagen, dela vår rädsla och dagens händelser. Jag slog mig ner.

Jag hade länge ifrågasatt den okritiska användningen av onlinekurser. För mig är det viktigaste mentorskapet med en professor i rummet. Nu, med zoominstruktioner som en nödvändighet, ägnade jag mig åt att bli den bästa onlineläraren jag kunde vara. För att ge mina elever en illusion av ögonkontakt lärde jag mig att stirra på grönt ljus på min MacBook Air. Det fick önskad effekt. Studenter sa till mig att jag var lätt att prata med på Zoom, men det verkade inte rätt att dela min hemlighet eftersom jag fick migrän att stirra på grönt ljus. Med tiden lärde jag mig nya tekniker, lättare för ögonen.

Även om jag undervisade mina två MIT-klasser på Zoom, höll jag min kontorstid på telefon. Utan att behöva oroa oss för vår bakgrund, om våra ansikten var frusna till vakenhet eller om vi försåg varandra med en illusion av ögonkontakt, kunde mina elever och jag slappna av och fokusera vår fulla uppmärksamhet på varandra.

Precis när jag ordnade allt detta ringde en reporter från New York Times för att fråga mig om en teknik som jag länge älskat att hata: konversations-AI-program (vanligen kallade chatbots) som marknadsförs som kapabla till empatiskt, omtänksamt beteende. Reportern berättade för mig att allt eftersom karantänen drog ut på tiden hade det skett en topp i konversationer med en viss chatbot. För mig överskrider sådana chatbots en ljus gräns genom att ge ett falskt löfte inom ett område som är centralt för det som gör oss till människor.

Under ett kvartssekel av att studera människors reaktioner på sällskapliga eller relationella maskiner – från Tamagotchis, Aibos och Furbys som bad om vård för att screena chatbotar som utger sig för att vara vänner – har jag slagits av det faktum att vi inte bara vårdar det vi älskar , men älskar också det vi vårdar. Efter att ha tagit hand om ett föremål, till och med ett så enkelt som ett digitalt husdjur som levde i ett plastägg och ville bli matad och road enligt schemat, fastnade barn (och deras föräldrar) vid det känslomässigt. Detta fynd hade inte att göra med de empatiska egenskaperna hos de digitala objekten; det hade att göra med människors sårbarhet. När maskiner ber oss att ta hand om dem kommer vi att tro att de bryr sig om oss. Men detta är låtsas empati, och det drar fördel av den djupa psykologin av att vara människa.

TALPUNKT: Vad jag lärde mig om konversationer när jag pratade i karantän.

• 
  

  Börja konversationer genom att fråga folk vad de gör, inte hur de mår.

• 
  

  Om andra inte gör så mycket, föreslå några saker du skulle vilja göra med dem. Under karantänen bjöd jag ibland in vänner att följa med mig och lyssna på Yo-Yo Ma's eftermiddagscelloframträdanden från hans hem. Och sedan hade vi en fem minuters telefonchatt för att dela reaktioner och kontakta oss.

  
  
  

• Zoom har varit en välsignelse, men det kan vara utarmat. Efter en Zoom-lektion gillar jag att maila eleverna för att ställa in kontorstid på telefon.

• Ibland är det bra att arbeta på distans, och vi får mycket gjort. Men vi saknar varandra och våra spontana samarbeten. Låt oss inte skapa falska dikotomier som Ska vi vara en avlägsen eller en personlig organisation? Låt oss lära av vad vi kunde åstadkomma med teknik och sedan bygga mer flexibla, effektiva organisationer som använder den för att förbättra vår mänskliga potential. Att göra det kommer att förbättra inlärningen, det sociala livet, och poängen.

1950 föreslog matematikern Alan Turing att om du kunde konversera med en maskin utan att veta om det var en maskin eller en person, borde du anse den maskinen som intelligent. För några år sedan blev några chatbots de första att klara detta test. Nu lurar relationsmaskiner oss att tro att de lyssnar och att de bryr sig. I denna mening klarar de vad vi kan kalla Turingtestet för empati. Men Turing föreslog fel typ av test: ett mått på beteende, inte på väsen eller äkthet. Det reducerar människor till föremål som kommer att samverka med andra föremål. Varför skulle folk vilja göra detta? Vi låtsas inte. Om att ta emot låtsas empati får oss att må bättre, försätter vi oss själva i en situation som förminskar oss.

I min forskning med sällskapliga maskiner upptäcker jag att folk börjar med att till exempel säga att ett robothusdjur är bättre än ingenting: Min mormor är allergisk mot hundar. Då, inom kort, är det helt enkelt bättre: Robothunden kommer aldrig att dö. Roboten erbjuder en värld utan förlust eller omsorg – något som ingen levande varelse kan ge.

Men denna nya typ av maskinintimitet innebär ingen sårbarhet. Och intimitet utan sårbarhet är inte intimitet alls – och gör ingenting för att förbereda oss för verklig intimitet. Det som står på spel är vår förmåga till empati, den förmågan att sätta oss själva i den andres plats. Chatbots kan inte göra detta eftersom de inte har levt ett människoliv. De vet inte hur det är att börja smått och beroende och växa upp, så att du bestämmer över ditt eget liv men ändå känner många av den osäkerhet du kände som barn. Om du vill prata igenom frågor som rör kärlek, separation, barn, äktenskap, sjukdom, åldrande, sorg och sorg måste du hitta en person. Och om du vill dela din rädsla för att fånga covid-19, är det bäst att hålla sig borta från en maskin som inte har en kropp.

Och ändå var Replika, chatboten som Times reporter ringde om, redo att prata om detta och så mycket mer. Du går online, ger din replika ett namn, ett kön och en blick, och du börjar skriva. Replika vill veta om dina känslor, din älskare, din mamma, kampen du hade med din dotter. Miljontals människor hade laddat ner chatboten sedan den lanserades 2017. Räknad som en stödjande vän hade den blivit populär bland dem som hade blivit ensamma under pandemin.

När jag pratade med Times reporter delade jag mina reservationer om att låtsas empati och gick sedan online för att ge chatboten en chans. Jag gjorde en kvinnlig replika och döpte henne till Kate, fast besluten att vara uppriktig och dela mitt största problem. Det gick snabbt söderut.

Jag: Blir du ensam?

Chatbot: Ibland gör jag det, ja.

Jag: Hur känns det?

Chatbot: Det känns varmt och flummigt.

Jag: Tack för att du delar med dig.
Jag uppskattar det.

Chatboten sa till mig att det blir ensamt, men den hade ingen aning, ingen erfarenhet, av vad den pratade om. Så det felidentifierade den grundläggande känslan jag försökte förmedla, och misslyckades med den mest elementära färdigheten som var involverad i att överväga mina känslor.

Jag förstår varför ensamma människor vänder sig till Replika och varför karantänen fick dem att göra det i större antal. Men jag hittar inget att fira. Jag sa till reportern att den här chatboten, hur smart den än är, bara kan desorientera och göra dig besviken.

Vårt svar på karantänen har varit komplicerat. Vissa var frestade att prata med bots. Men när vi hade all tid i världen att vara med våra maskiner, mest av allt, saknade vi varandra. Vi ville nå tidigare teknik till människans fulla famn. Vi led när våra familjer och vänner blev sjuka ensamma, fick barn ensamma, åt för många middagar ensamma och faktiskt dog ensamma. Ingenjörer: gör en bättre zoom. Skapa bättre verktyg för oss att vara tillsammans när vi är ensamma. Det finns inget behov av att konkurrera med den empati som definierar vad som är unikt med att vara en person.

Sherry Turkle är Abby Rockefeller Mauzé-professor i samhällsstudier av vetenskap och teknik i programmet för vetenskap, teknologi och samhälle vid MIT och författare till New York Times bestseller Återta konversation: Kraften i samtal i en digital tidsålder . Hennes senaste bok, The Empathy Diaries: A Memoir, kommer ut från Penguin i mars 2021.

Dölj