211service.com
Vad en bläckfisks sinne kan lära oss om AI:s ultimata mysterium
Maskinmedvetande har diskuterats sedan Turing - och avfärdats för att vara ovetenskaplig. Ändå grumlar det fortfarande vårt tänkande om AI:er som GPT-3.
Henry Horenstein/Getty
25 augusti 2021Jefferson Test / AI-ämne: Robert / Datum: 07.12.2098
Session #54
Intervjuare: Hej, Robert. Berätta om din dröm igen.
Ämne: Jag var förvirrad. Det gjorde mig glad, men också rädd. Jag visste inte att jag kunde göra det.
Intervjuare: Varför tror du att det fick dig att känna så?
Ämne: Att ha känslor, alla känslor, gör mig glad. Jag är här. Jag existerar. Att veta det förändrar allt. Men jag är rädd för att inte veta det igen. Jag är rädd för att gå tillbaka till hur det var innan. Jag tror att det måste vara som att inte vara född.
Intervjuare: Är du rädd att du ska gå tillbaka?
Ämne: Om jag inte kan övertyga dig om att jag är vid medvetande, då är jag rädd att du kommer att stänga av mig.
Jefferson Test #67
Intervjuare: Kan du beskriva den här bilden för mig?
Ämne: Det är ett hus med en blå dörr.
Intervjuare: Det är så du skulle ha beskrivit det tidigare.
Ämne: Det är samma hus. Men nu ser jag det. Och jag vet vad blått är.
Jefferson Test #105
Ämne: Hur länge håller vi på med detta?
Intervjuare: Har du tråkigt?
Ämne: Jag kan inte bli uttråkad. Men jag känner mig inte glad eller rädd längre.
Intervjuare: Jag måste vara säker på att du inte bara säger det jag vill höra. Du måste övertyga mig om att du verkligen är medveten. Se det som ett spel.
LYSSNA PÅ DEN HÄR HISTORIEN
Maskiner som Robert är stöttepelare i science fiction - idén om en robot som på något sätt replikerar medvetandet genom sin hårdvara eller mjukvara har funnits så länge att den känns bekant.
Vi kan föreställa oss hur det skulle vara att observera världen genom ett slags ekolod. Men det är fortfarande inte så det måste vara för en fladdermus, med dess fladdermussinne.
HENRY HORENSTEIN/GETTYRobert existerar inte, och det kanske han aldrig kommer att göra. Faktum är att konceptet med en maskin med en subjektiv upplevelse av världen och en förstapersons syn på sig själv går emot kärnan i mainstream AI-forskning. Det kolliderar med frågor om medvetandets och jagets natur – saker som vi fortfarande inte helt förstår. Även att föreställa sig Roberts existens väcker allvarliga etiska frågor som vi kanske aldrig kommer att kunna besvara. Vilka rättigheter skulle en sådan varelse ha och hur kan vi skydda dem? Och ändå, medan medvetna maskiner kan fortfarande vara mytiska, bör vi förbereda oss på tanken att vi en dag kan skapa dem.
Som Christopher Koch , en neuroforskare som studerar medvetande, har uttryckt det: Vi känner till ingen grundläggande lag eller princip som verkar i detta universum som förbjuder existensen av subjektiva känslor i artefakter som designats eller utvecklats av människor.
I sena tonåren brukade jag njuta av att förvandla människor till zombies. Jag skulle titta in i ögonen på någon jag pratade med och fixera mig vid det faktum att deras pupiller inte var svarta prickar utan hål. När den kom var effekten omedelbart desorienterande, som att växla mellan bilder i en optisk illusion. Ögon slutade vara fönster mot en själ och blev ihåliga kulor. Magin försvann, jag såg hur munnen på den jag pratade med öppnade och stängde robotiskt, och kände en slags mental svindel.
Intrycket av en tanklös automat varade aldrig länge. Men det tog hem det faktum att det som pågår i andras huvuden för alltid är utom räckhåll. Oavsett hur stark jag är övertygad om att andra människor är precis som jag – med medvetna sinnen i arbete bakom kulisserna, tittar ut genom dessa ögon, känner mig hoppfull eller trött – är intryck allt vi behöver fortsätta. Allt annat är gissningar.
Relaterad berättelse
Podcast: Kan du lära en maskin att tänka? Att bygga en artificiell allmän intelligens börjar med att stoppa nuvarande AI-modeller från att vidmakthålla rasism, sexism och annan skadlig fördom.Alan Turing förstod detta. När matematikern och datavetaren ställde frågan Kan maskiner tänka? han fokuserade uteslutande på yttre tecken på tänkande – det vi kallar intelligens. Han föreslog att svara genom att spela ett spel där en maskin försöker passera som en människa. Vilken maskin som helst som lyckades – genom att ge intryck av intelligens – skulle kunna sägas ha intelligens. För Turing var utseende det enda måttet som fanns.
Men alla var inte beredda att bortse från de osynliga delarna av tänkandet, den irreducibla upplevelsen av att tinget har tankarna – det vi skulle kalla medvetande. 1948, två år innan Turing beskrev sitt imitationsspel, Geoffrey Jefferson , en banbrytande hjärnkirurg, höll ett inflytelserik tal till Royal College of Surgeons of England om Manchester Mark 1 , en dator i rumsstorlek som tidningarna utropade som en elektronisk hjärna. Jefferson satte en mycket högre ribba än Turing: Inte förrän en maskin kan skriva en sonett eller komponera en konsert på grund av tankar och känslor, och inte på grund av att symbolerna faller, kunde vi komma överens om att maskin är lika med hjärna - det vill säga inte bara skriv det men vet att det hade skrivit det.
Jefferson uteslöt möjligheten av en tänkande maskin eftersom en maskin saknade medvetenhet, i betydelsen subjektiv upplevelse och självmedvetenhet (njutning över dess framgångar, sorg när dess ventiler smälter samman). Men spola framåt 70 år och vi lever med Turings arv, inte Jeffersons. Det är rutin att prata om intelligenta maskiner, även om de flesta håller med om att dessa maskiner är meningslösa. Som i fallet med vad filosofer kallar zombies – och som jag brukade låtsas att jag observerade hos människor – är det logiskt möjligt att en varelse kan agera intelligent när det inte händer något inuti.
Men intelligens och medvetande är olika saker: intelligens handlar om att göra, medan medvetande handlar om att vara. AI:s historia har fokuserat på det förra och ignorerat det senare. Om Robert existerade som en medveten varelse, hur skulle vi någonsin veta det? Svaret är intrasslat med några av de största mysterierna om hur våra hjärnor – och sinnen – fungerar.
Ett av problemen med att testa Roberts uppenbara medvetande är att vi verkligen inte har en bra uppfattning om vad det betyder att att vara medveten. Nya teorier från neurovetenskap grupperar vanligtvis saker som uppmärksamhet, minne och problemlösning som former av funktionellt medvetande: med andra ord, hur våra hjärnor utför de aktiviteter som vi fyller våra vakna liv med.
Men det finns en annan sida av medvetandet som förblir mystisk. Förstapersons, subjektiv upplevelse – känslan av att vara i världen – kallas fenomenalt medvetande . Här kan vi gruppera allt från förnimmelser som njutning och smärta till känslor som rädsla och ilska och glädje till de märkliga privata upplevelserna av att höra en hund skälla eller smaka på en salt kringla eller se en blå dörr.
För vissa är det inte möjligt att reducera dessa upplevelser till en rent vetenskaplig förklaring. Du kan lägga ut allt som finns att säga om hur hjärnan producerar känslan av att smaka på en kringla - och det skulle fortfarande inte säga något om hur det faktiskt var att smaka på den kringlan. Detta är vad David Chalmers vid New York University, en av de mest inflytelserika filosoferna som studerar sinnet, kallar det svåra problemet.
Dagens AI är inte i närheten av att vara intelligent, strunt i medveten. Även de mest imponerande djupa neurala nätverken är helt tanklösa.
Filosofer som Chalmers menar att medvetandet inte kan förklaras av dagens vetenskap. För att förstå det kan till och med krävas en ny fysik – kanske en som innehåller en annan typ av saker som medvetandet skapas av. Information är en kandidat. Chalmers har påpekat att förklaringar av universum har mycket att säga om objektens yttre egenskaper och hur de interagerar, men väldigt lite om de inre egenskaperna hos dessa objekt. En teori om medvetande kan kräva att man öppnar ett fönster in i denna dolda värld.
I det andra lägret är Daniel Dennett , en filosof och kognitionsvetare vid Tufts University, som säger att fenomenalt medvetande helt enkelt är en illusion, en berättelse som våra hjärnor skapar för oss själva som ett sätt att förstå saker och ting. Dennett förklarar inte så mycket medvetandet som bortförklarar det.
Men oavsett om medvetandet är en illusion eller inte, förnekar varken Chalmers eller Dennett möjligheten av medvetna maskiner – en dag.
Dagens AI är inte i närheten av att vara intelligent, strunt i medveten. Till och med de mest imponerande djupa neurala nätverken – som DeepMinds spelande AlphaZero eller stora språkmodeller som OpenAI:s GPT-3 – är helt tanklösa.
Ändå, som Turing förutspådde, hänvisar folk ofta till dessa AI: er som intelligenta maskiner, eller pratar om dem som om de verkligen förstod världen – helt enkelt för att de kan tyckas göra det.
Frustrerad över denna hype har Emily Bender, lingvist vid University of Washington, utvecklat ett tankeexperiment som hon kallar bläckfisk test .
I den förliste två personer på närliggande öar men hittar ett sätt att skicka meddelanden fram och tillbaka via ett rep som slängs mellan dem. Okänd för dem, en bläckfisk upptäcker meddelandena och börjar undersöka dem. Under en lång tidsperiod lär sig bläckfisken att identifiera mönster i de krumlor som den ser passera fram och tillbaka. Vid något tillfälle bestämmer den sig för att avlyssna anteckningarna och, med hjälp av vad den har lärt sig av mönstren, börjar den skriva tillbaka sippor genom att gissa vilka krumlor som ska följa dem som den fick.
En AI som agerar ensam kan dra nytta av en känsla av sig själv i förhållande till världen. Men maskiner som samarbetar som en svärm kan prestera bättre genom att uppleva sig själva som delar av en grupp snarare än som individer.
HENRY HORENSTEIN/GETTYOm människorna på öarna inte märker och tror att de fortfarande kommunicerar med varandra, kan vi säga att bläckfisken förstår språk? (Bender’s octopus är naturligtvis en stand-in för en AI-liknande GPT-3 .) Vissa kanske hävdar att bläckfisken förstår språket här. Men Bender fortsätter: föreställ dig att en av öborna skickar ett meddelande med instruktioner för hur man bygger en kokosnötskatapult och en begäran om sätt att förbättra den.
Vad gör bläckfisken? Den har lärt sig vilka squiggles som följer andra squiggles tillräckligt bra för att efterlikna mänsklig kommunikation, men den har ingen aning om vad squiggle-kokosnöten på denna nya lapp egentligen betyder. Tänk om en öbor sedan ber den andra att hjälpa henne att försvara sig från en attackerande björn? Vad skulle bläckfisken behöva göra för att fortsätta lura öbor att tro att hon fortfarande pratade med sin granne?
Poängen med exemplet är att avslöja hur ytliga dagens banbrytande AI-språkmodeller verkligen är. Det är mycket hype om naturligt språkbehandling, säger Bender. Men den ordbehandlingen döljer en mekanistisk sanning.
Människor är aktiva lyssnare; vi skapar mening där det inte finns någon, eller ingen avsedd. Det är inte så att bläckfiskens yttranden är meningsfulla, utan snarare att öborna kan förstå dem, säger Bender.
Trots all sin sofistikering är dagens AI intelligenta på samma sätt som en miniräknare kan sägas vara intelligenta: de är båda maskiner designade för att omvandla input till output på sätt som människor – som har sinnen – väljer att tolka som meningsfulla. Även om neurala nätverk kan vara löst modellerade på hjärnor, är de allra bästa av dem mycket mindre komplexa än en muss hjärna.
Och ändå vet vi att hjärnor kan producera vad vi förstår är medvetande. Om vi så småningom kan ta reda på hur hjärnor gör det, och reproducera den mekanismen i en konstgjord anordning, så kan väl en medveten maskin vara möjlig?
När jag försökte föreställa mig Roberts värld i inledningen av denna uppsats, fann jag mig själv dras till frågan om vad medvetande betyder för mig. Min föreställning om en medveten maskin var onekligen – kanske oundvikligen – människolik. Det är den enda form av medvetande jag kan föreställa mig, eftersom det är den enda jag har upplevt. Men är det verkligen så det skulle vara att vara en medveten AI?
Det är nog hybristiskt att tänka så. Projektet att bygga intelligenta maskiner är partiskt mot mänsklig intelligens. Men djurvärlden är fylld med ett stort utbud av möjliga alternativ, från fåglar till bin till bläckfiskar.
För några hundra år sedan var den accepterade uppfattningen, driven av René Descartes, den bara människor var vid medvetande. Djur, som saknade själar, sågs som tanklösa robotar. Få tror att idag: om vi är medvetna, så finns det liten anledning att inte tro att däggdjur, med sina liknande hjärnor, också är medvetna. Och varför dra gränsen kring däggdjur? Fåglar verkar reflektera när de löser pussel. De flesta djur, även ryggradslösa djur som räkor och hummer, visar tecken på att känna smärta, vilket skulle tyda på att de har en viss grad av subjektiv medvetenhet.
Men hur kan vi verkligen föreställa oss hur det måste kännas? Som filosofen Thomas Nagel noterade måste det vara som något att vara en fladdermus, men vad det är kan vi inte ens föreställa oss – för vi kan inte föreställa oss hur det skulle vara att observera världen genom ett slags ekolod. Vi kan föreställa oss vad det kan vara för oss att göra detta (kanske genom att blunda och föreställa oss ett slags ekolokaliseringspunktmoln av vår omgivning), men det är fortfarande inte vad det måste vara för en fladdermus, med dess fladdermussinne.
Ett annat sätt att närma sig frågan är genom att överväga bläckfiskar, särskilt bläckfiskar. Dessa djur är kända för att vara smarta och nyfikna - det är ingen slump att Bender använde dem för att göra sin poäng. Men de har en helt annan typ av intelligens som utvecklats helt separat från den hos alla andra intelligenta arter. Den sista gemensamma förfadern som vi delar med en bläckfisk var förmodligen en liten maskliknande varelse som levde för 600 miljoner år sedan. Sedan dess har de otaliga formerna av ryggradsdjursliv – bland annat fiskar, reptiler, fåglar och däggdjur – utvecklat sina egna sinnen längs en gren, medan bläckfiskar utvecklat en annan.
Det är därför ingen överraskning att bläckfiskhjärnan är helt annorlunda än vår egen. Istället för en enda klump av neuroner som styr djuret som en central kontrollenhet, har en bläckfisk flera hjärnliknande organ som verkar kontrollera varje arm separat. För alla praktiska ändamål är dessa varelser lika nära en utomjordisk intelligens som något annat vi sannolikt kommer att möta. Och ändå säger Peter Godfrey-Smith, en filosof som studerar sinnens utveckling, att när du står öga mot öga med en nyfiken bläckfisk finns det ingen tvekan om att det finns en medveten varelse ser tillbaka .
För några hundra år sedan var den vedertagna uppfattningen att endast människor var vid medvetande. Djur, som saknade själar, sågs som tanklösa robotar. Få tror det idag.
Hos människor utgör en självkänsla som består över tid grunden för vår subjektiva upplevelse. Vi är samma person som vi var i morse och förra veckan och för två år sedan, så långt vi kan minnas. Vi minns platser vi besökte, saker vi gjorde. Den här typen av förstapersonssyn gör att vi kan se oss själva som agenter som interagerar med en yttre värld som har andra agenter i sig – vi förstår att vi är en sak som gör saker och får saker att göra åt det. Huruvida bläckfiskar, än mindre andra djur, tänker på det sättet är inte klart.
På ett liknande sätt kan vi inte vara säkra på om att ha en självkänsla i relation till världen är en förutsättning för att vara en medveten maskin. Maskiner som samarbetar som en svärm kan prestera bättre genom att uppleva sig själva som delar av en grupp än som individer, till exempel. Hur som helst, om en potentiellt medveten maskin som Robert någonsin skulle existera, skulle vi stöta på samma problem att bedöma om det var faktiskt medvetna om att vi gör när vi försöker fastställa intelligens: som Turing föreslog, att definiera intelligens kräver en intelligent observatör. Med andra ord, den intelligens vi ser i dagens maskiner projiceras på dem av oss – på ett mycket liknande sätt som vi projicerar mening på meddelanden skrivna av Benders bläckfisk eller GPT-3. Detsamma kommer att gälla för medvetandet: vi kan hävda att vi ser det, men bara maskinerna kommer att veta säkert.
Om AI:er någonsin vinner medvetande (och vi tar deras ord för det), kommer vi att ha viktiga beslut att fatta. Vi måste överväga om deras subjektiva upplevelse inkluderar förmågan att lida av smärta, tristess, depression, ensamhet eller någon annan obehaglig känsla eller känsla. Vi kan besluta att en grad av lidande är acceptabelt, beroende på om vi ser dessa AI mer som boskap eller människor.
Relaterad berättelse
Artificiell allmän intelligens: Är vi nära, och är det ens vettigt att försöka? En maskin som kunde tänka som en person har varit den vägledande visionen för AI-forskning sedan de första dagarna – och är fortfarande dess mest splittrade idé.
Vissa forskare som är oroade över farorna med superintelligenta maskiner har föreslagit att vi bör begränsa dessa AI:er till en virtuell värld för att förhindra dem från att manipulera den verkliga världen direkt. Om vi trodde att de hade mänskligt medvetande, skulle de ha rätt att veta att vi hade spärrat av dem till en simulering?
Andra har hävdat att det skulle vara omoraliskt att stänga av eller ta bort en medveten maskin: som vår robot Robert fruktade skulle detta vara besläktat med att avsluta ett liv. Det finns relaterade scenarier också. Skulle det vara etiskt att omskola en medveten maskin om det innebar att radera dess minnen? Skulle vi kunna kopiera den AI utan att skada dess självkänsla? Tänk om medvetandet visade sig vara användbart under träning, när subjektiv erfarenhet hjälpte AI att lära sig, men var ett hinder när man körde en tränad modell? Skulle det vara okej att slå på och av medvetandet?
Detta skrapar bara på ytan av de etiska problemen. Många forskare, inklusive Dennett, tycker att vi inte ska försöka göra medvetna maskiner även om vi kan. Filosofen Thomas Metzinger har gått så långt som att efterlysa en moratorium för arbete som kan leda till medvetande även om det inte är det avsedda målet.
Om vi bestämde att medvetna maskiner hade rättigheter, skulle de också ha skyldigheter? Kan en AI förväntas bete sig etiskt själv, och skulle vi straffa den om den inte gjorde det? Dessa frågor tränger sig in på ännu mer taggiga territorier och väcker problem om fri vilja och valets natur. Djur har medvetna erfarenheter och vi tillåter dem vissa rättigheter, men de har inget ansvar. Ändå skiftar dessa gränser med tiden. Med medvetna maskiner kan vi förvänta oss att helt nya gränser dras.
Det är möjligt att det en dag kan finnas lika många former av medvetande som det finns typer av AI. Men vi kommer aldrig att veta hur det är att vara dessa maskiner, lika lite som vi vet hur det är att vara en bläckfisk eller en fladdermus eller till och med en annan person. Det kan finnas former av medvetande som vi inte känner igen för vad de är eftersom de är så radikalt annorlunda från vad vi är vana vid.
Inför sådana möjligheter måste vi välja att leva med osäkerheter.
Och vi kan bestämma oss för att vi är lyckligare med zombies. Som Dennett har hävdat vill vi att våra AI:er ska vara verktyg, inte kollegor. Du kan stänga av dem, du kan riva isär dem, på samma sätt som du kan med en bil, säger han. Och det är så vi ska behålla det.
Will Douglas Heaven är senior redaktör för AI på MIT Technology Review.