Artificiell allmän intelligens: Är vi nära, och är det ens vettigt att försöka?

Ariel Davis

Idén om artificiell allmän intelligens som vi känner den idag börjar med en dot-com-utblåsning på Broadway.

För tjugo år sedan – innan Shane Legg gick in i neurovetenskapen postgrad Demis Hassabis över en delad fascination för intelligens; innan paret träffade Hassabis barndomsvän Mustafa Suleyman, en progressiv aktivist, för att snurra den fascinationen till ett företag som heter DeepMind; innan Google köpte det företaget för mer än en halv miljard dollar fyra år senare—Legg arbetade på en startup i New York som heter Webmind, inrättad av AI-forskaren Ben Goertzel. Idag representerar de två männen två mycket olika grenar av framtiden för artificiell intelligens, men deras rötter sträcker sig tillbaka till gemensam grund.

Även under dot-com-bubblans berusande dagar var Webminds mål ambitiösa. Goertzel ville skapa en digital babyhjärna och släpp den på internet, där han trodde att den skulle växa upp till att bli helt självmedveten och mycket smartare än människor. Vi står på gränsen till en övergång som är lika stor som tillkomsten av intelligens, eller språkets framväxt, sa han till Christian Science Monitor år 1998.

Webmind försökte sätta pengar på egen hand genom att bygga ett verktyg för att förutsäga beteendet på finansmarknaderna vid sidan av, men den större drömmen slog aldrig av. Efter att ha bränt igenom 20 miljoner dollar vräktes Webmind från sina kontor på Manhattans södra spets och slutade betala sin personal. Den ansökte om konkurs 2001.

Ben Goertzel

WIKIMEDIA COMMONS

Men Legg och Goertzel höll kontakten. När Goertzel höll på att sätta ihop en bok av essäer om övermänsklig AI några år senare var det Legg som kom på titeln. Jag pratade med Ben och jag tänkte: 'Tja, om det handlar om allmänheten som AI-system ännu inte har, borde vi bara kalla det Artificiell allmän intelligens , säger Legg, som nu är DeepMinds chefsforskare. Och AGI har liksom en ring till det som en akronym.

Termen fastnade. Goertzels bok och den årliga AGI-konferens som han lanserade 2008 har gjort AGI till ett vanligt modeord för människoliknande eller övermänsklig AI. Men det har också blivit en stor bugbear. Jag gillar inte termen AGI, säger Jerome Pesenti, chef för AI på Facebook. Jag vet inte vad det betyder.

Han är inte ensam. En del av problemet är att AGI är en samlingspunkt för förhoppningarna och farhågorna kring en hel teknik. I motsats till vad många tror, ​​handlar det egentligen inte om maskinmedvetande eller tänkande robotar (även om många AGI-folk drömmer om det också). Men det handlar om att tänka stort. Många av de utmaningar vi står inför idag, från klimatförändringar till sviktande demokratier till folkhälsokriser, är oerhört komplexa. Om vi ​​hade maskiner som kunde tänka som oss eller bättre – snabbare och utan att tröttna – så kanske vi hade större chans att lösa dessa problem. Som datavetaren I.J. Bra uttryckt det 1965: den första ultraintelligenta maskinen är den sista uppfinning som människan någonsin behöver göra.

Elon Musk, som investerade tidigt i DeepMind och slog sig ihop med en liten grupp megainvesterare, inklusive Peter Thiel och Sam Altman, för att sänka 1 miljard dollar i OpenAI, har gjort ett personligt varumärke av vilda förutsägelser. Men när han talar lyssnar miljoner. För några månader sedan sa han det till New York Times övermänsklig AI är mindre än fem år bort . Det kommer att komma över oss väldigt snabbt, sa han på Lex Fridman podcast . Då måste vi ta reda på vad vi ska göra, om vi ens har det valet.

I maj, Pesenti skjuten tillbaka . Elon Musk har ingen aning om vad han pratar om, twittrade han. Det finns inget som heter AGI och vi är inte i närheten av att matcha mänsklig intelligens. Musk svarade: Facebook suger.

Sådana flare-ups är inte ovanliga. Här är Andrew Ng , tidigare chef för AI på Baidu och medgrundare av Google Brain: Låt oss ta bort AGI-nonsensen och spendera mer tid på de akuta problemen.

Och Julian Togelius , en AI-forskare vid New York University: Belief in AGI is like belief in magi. Det är ett sätt att överge det rationella tänkandet och uttrycka hopp/rädsla för något som inte går att förstå. Bläddra i #noAGI hashtaggen på Twitter och du kommer att fånga många av AI:s tunga slagare som väger in, inklusive Yann LeCun , Facebooks främsta AI-forskare, som vann Turing Award 2018.

Men med AI:s senaste framgångar, från brädspelsmästaren AlphaZero till den övertygande generatorn av falska texter GPT-3, har snacket om AGI ökat. Även om dessa verktyg fortfarande är väldigt långt ifrån att representera allmän intelligens – AlphaZero kan inte skriva berättelser och GPT-3 kan inte spela schack, än mindre förstå varför berättelser och schack betyder något för människor – blir målet att bygga en AGI, som en gång ansågs galen, acceptabel. om igen.

Några av de största, mest respekterade AI-labben i världen tar detta mål på största allvar. OpenAI har sagt att det vill vara det den första att bygga en maskin med människoliknande resonemangsförmågor . DeepMinds inofficiella men ofta upprepade uppdragsbeskrivning är att lösa intelligens . Topppersoner i båda företagen diskuterar gärna dessa mål i termer av AGI.

Ett halvt sekel senare är vi fortfarande inte i närheten av att skapa en AI med multitasking-förmågan hos en människa – eller till och med en insekt.

Att prata om AGI i början av 2000-talet satte dig i den galna kanten, säger Legg. Redan när vi startade DeepMind 2010 fick vi häpnadsväckande ögonblick på konferenser. Men saker och ting förändras. Vissa människor är obekväma med det, men det kommer in från kylan, säger han.

Så varför är AGI kontroversiellt? Varför spelar det någon roll? Och är det en hänsynslös, vilseledande dröm – eller det slutliga målet?

Vad är AGI?

Termen har varit populärt i lite mer än ett decennium, men idéerna som den kapslar in har funnits under en livstid.

Sommaren 1956 samlades ett dussintal forskare vid Dartmouth College i New Hampshire för att arbeta med vad de trodde skulle bli ett blygsamt forskningsprojekt. Pitching workshopen i förväg, AI-pionjärerna John McCarthy, Marvin Minsky, Nat Rochester och Claude Shannon skrev : Studien ska fortsätta utifrån gissningen att varje aspekt av inlärning eller någon annan egenskap av intelligens i princip kan beskrivas så exakt att en maskin kan fås att simulera den. Ett försök kommer att göras för att hitta hur man kan få maskiner att använda språk, forma abstraktioner och koncept, lösa typer av problem som nu är reserverade för människor och förbättra sig själva. De trodde att det skulle ta tio personer två månader.

Spola framåt till 1970 och här är Minsky igen, oförskräckt: Om tre till åtta år kommer vi att ha en maskin med den allmänna intelligensen som en genomsnittlig människa. Jag menar en maskin som kommer att kunna läsa Shakespeare, smörja en bil, spela kontorspolitik, berätta ett skämt, bråka. Vid den tidpunkten kommer maskinen att börja utbilda sig själv med fantastisk hastighet. Om några månader kommer den att vara på geninivå, och några månader efter det kommer dess krafter att vara oöverskådliga.

Tre saker sticker ut i dessa visioner för AI: en människoliknande förmåga att generalisera, en övermänsklig förmåga att självförbättra sig i en exponentiell takt och en superstor del av önsketänkande. Ett halvt sekel senare är vi fortfarande inte i närheten av att skapa en AI med multitasking-förmågan hos en människa – eller till och med en insekt.

GETTY BILDER

Därmed inte sagt att det inte har varit enorma framgångar. Många av punkterna på den tidiga bucketlistan har markerats: vi har maskiner som kan använda språk, se och lösa många av våra problem. Men de AI:er vi har idag är inte människolika på det sätt som pionjärerna föreställt sig. Deep learning, tekniken som driver AI-boomen, tränar maskiner att bli mästare på ett stort antal saker – som att skriva falska berättelser och spela schack – men bara en åt gången.

När Legg föreslog termen AGI för Goertzel för sin bok från 2007, ställde han artificiell allmän intelligens mot denna smala, vanliga idé om AI. Människor hade använt flera relaterade termer, som stark AI och riktig AI, för att skilja Minskys vision från den AI som hade kommit istället.

Att prata om AGI var ofta menat att antyda att AI hade misslyckats, säger Joanna Bryson, en AI-forskare vid Hertie School i Berlin: Det var tanken att det fanns människor som bara gjorde så här tråkiga saker, som maskinseende, men vi här borta... och jag var en av dem vid den tiden – försöker fortfarande förstå mänsklig intelligens, säger hon. Stark AI, kognitiv vetenskap, AGI – det här var våra olika sätt att säga: 'Ni har gjort sönder; vi går framåt.'

Denna idé att AGI är det sanna målet för AI-forskning är fortfarande aktuell. Ett fungerande AI-system blir snart bara en mjukvara - Brysons tråkiga grejer. Samtidigt blir AGI en stand-in för alla AI som vi bara inte har kommit på hur vi ska bygga ännu, alltid utom räckhåll.

Relaterad berättelse

Vad är maskininlärning?

Maskinlärande algoritmer hittar och tillämpar mönster i data. Och de styr i stort sett världen.

Ibland talar Legg om AGI som ett slags multiverktyg — en maskin som löser många olika problem, utan att en ny behöver designas för varje ytterligare utmaning. På det sättet skulle det inte vara mer intelligent än AlphaGo eller GPT-3; det skulle bara ha fler möjligheter. Det skulle vara en allmän AI, inte en fullfjädrad intelligens. Men han pratar också om en maskin man kan interagera med som om det vore en annan person. Han beskriver en sorts ultimat lekkamrat: Det skulle vara underbart att interagera med en maskin och visa den ett nytt kortspel och få den att förstå och ställa frågor till dig och spela spelet med dig, säger han. Det skulle vara en dröm som gick i uppfyllelse.

När folk pratar om AGI är det vanligtvis dessa människoliknande förmågor som de har i åtanke. Thore Graepel , en kollega till Legg's på DeepMind, gillar att använda ett citat från science fiction-författaren Robert Heinlein, som tycks spegla Minskys ord: En människa ska kunna byta blöja, planera en invasion, slakta en hog, koppla ihop ett skepp, designa en byggnad, skriva en sonett, balansera konton, bygga en mur, sätta ett ben, trösta den döende, ta emot order, ge order, samarbeta, agera ensam, lösa ekvationer, analysera ett nytt problem, gödsla, programmera en dator, laga mat en välsmakande måltid, kämpa effektivt, dö galant. Specialisering är för insekter.

Och ändå, roligt faktum: Graepels beskrivning skrivs av en karaktär som heter Lazarus Long i Heinleins roman från 1973 Tid nog för kärlek . Long är en slags superman, resultatet av ett genetiskt experiment som låter honom leva i hundratals år. Under den långa tiden, lång lever många liv och behärskar många färdigheter. Minsky beskriver med andra ord en typisk människas förmågor; Det gör inte Graepel.

Målstolparna för sökandet efter AGI förändras ständigt på detta sätt. Vad menar människor när de pratar om människoliknande artificiell intelligens – människa som du och jag, eller människa som Lazarus Long? För Pesenti är denna oklarhet ett problem. Jag tror inte att någon vet vad det är, säger han. Människor kan inte göra allt. De kan inte lösa alla problem – och de kan inte göra sig själva bättre.

Go-mästaren Lee Sedol (till vänster) skakar hand med DeepMinds medgrundare Demis Hassabis

GETTY

Än sen då makt en AGI vara som i praktiken? Att kalla det mänskligt är på en gång vagt och för specifikt. Människor är det bästa exemplet på allmän intelligens vi har, men människor är också högt specialiserade. En snabb blick över det mångsidiga universum av smarta djur – från den kollektiva kognition som ses hos myror till problemlösningsförmågan hos kråkor eller bläckfiskar till schimpansernas mer igenkännliga men fortfarande främmande intelligens – visar att det finns många sätt att bygga en allmän intelligens .

Även om vi bygger en AGI kanske vi inte helt förstår den. Dagens maskininlärningsmodeller är vanligtvis svarta lådor, vilket betyder att de kommer fram till korrekta resultat genom beräkningsvägar som ingen människa kan förstå. Lägg till självförbättrande superintelligens till mixen och det är tydligt varför science fiction ofta ger de enklaste analogierna.

Vissa skulle också lassa medvetande eller känsla för kraven för en AGI. Men om intelligens är svår att fastställa är medvetandet ännu värre. Filosofer och vetenskapsmän är inte klara över vad det är i oss själva, än mindre vad det skulle vara i en dator. Intelligens kräver förmodligen en viss grad av självmedvetenhet, en förmåga att reflektera över din syn på världen, men det är inte nödvändigtvis samma sak som medvetande – vad det är känner gillar att uppleva världen eller reflektera över din syn på den. Till och med AGI:s mest trogna är agnostiker mot maskinmedvetande.

Hur gör vi en AGI?

Legg har jagat intelligens hela sin karriär. Efter Webmind arbetade han med Marcus Hutter vid universitetet i Lugano i Schweiz på en doktorsavhandling som heter Machine Super Intelligence . Hutter (som nu också är på DeepMind) arbetade på en matematisk definition av intelligens som endast begränsades av fysikens lagar – en ultimat allmän intelligens.

Shane Legg

DJUPSINNE

Paret publicerade en ekvation för vad de kallade universell intelligens , som Legg beskriver som ett mått på förmågan att uppnå mål i en lång rad miljöer. De visade att deras matematiska definition liknade många teorier om intelligens som finns inom psykologi, som också definierar intelligens i termer av allmänhet.

Hos DeepMind omvandlar Legg sitt teoretiska arbete till praktiska demonstrationer, med början med AI:er som uppnår särskilda mål i särskilda miljöer, från spel till proteinveckning .

Den knepiga delen kommer härnäst: sammanfoga flera förmågor. Deep learning är det mest generella tillvägagångssättet vi har, genom att en djupinlärningsalgoritm kan användas för att lära sig mer än en uppgift. AlphaZero använde samma algoritm för att lära sig Go, shogi (ett schackliknande spel från Japan) och schack. DeepMinds Atari57-systemet använde samma algoritm för att bemästra alla Atari-videospel. Men AI:erna kan fortfarande bara lära sig en sak åt gången. Efter att ha bemästrat schack måste AlphaZero torka sitt minne och lära sig shogi från grunden.

Legg hänvisar till denna typ av generalitet som en-algoritm, kontra den en-hjärna-generalitet som människor har. Allmänhet med en algoritm är väldigt användbar men inte lika intressant som en hjärna, säger han: Du och jag behöver inte byta hjärna; vi lägger inte in våra schackhjärnor för att spela ett parti schack.

Att gå från en-algoritm till en-hjärna är en av de största öppna utmaningarna inom AI. En enhjärna AI skulle fortfarande inte vara en sann intelligens, bara en bättre allmän AI – Legs multiverktyg. Men oavsett om de siktar på AGI eller inte, är forskarna överens om att dagens system måste göras mer generella, och för de som har AGI som mål är en allmän AI ett nödvändigt första steg. Det finns en lång lista med tillvägagångssätt som kan hjälpa. De sträcker sig från ny teknik som redan är här till mer radikala experiment (se ruta). Ungefär i mognadsordning är de:

• Oövervakat eller självövervakat lärande. Att märka datamängder (t.ex. tagga alla bilder på katter med katt) för att berätta för AI:er vad de tittar på under träningen är nyckeln till vad som kallas övervakat lärande. Det görs fortfarande till stor del för hand och är en stor flaskhals. AI måste kunna lära ut sig själv utan mänsklig vägledning – t.ex. titta på bilder på katter och hundar och lära sig att skilja dem åt utan hjälp, eller upptäcka anomalier i finansiella transaktioner utan att tidigare exempel flaggats av en människa. Detta, känt som oövervakat lärande, blir nu allt vanligare.
• Överför lärande, inklusive få-shot-inlärning. De flesta djupinlärningsmodeller idag kan tränas för att bara göra en sak åt gången. Transfer learning syftar till att låta AI:er överföra vissa delar av sin träning för en uppgift, som att spela schack, till en annan, som att spela Go. Det är så människor lär sig.
• Sunt förnuft och kausal slutledning. Det skulle vara lättare att överföra träning mellan uppgifter om en AI hade en grund av sunt förnuft att utgå ifrån. Och en viktig del av sunt förnuft är att förstå orsak och verkan. Ger sunt förnuft för AI:er är ett hett forskningsämne för tillfället, med tillvägagångssätt som sträcker sig från att koda enkla regler till ett neuralt nätverk till begränsar de möjliga förutsägelser som en AI kan göra . Men arbetet är fortfarande i ett tidigt skede.
• Lärande optimerare . Det här är verktyg som kan användas för att forma hur AI:er lär sig och vägleda dem att träna mer effektivt. Nyligen arbete visar att dessa verktyg kan vara tränade själva – i själva verket, vilket innebär att en AI används för att träna andra. Detta kan vara ett litet steg mot självförbättrande AI, ett AGI-mål.

Alla dessa forskningsområden bygger på djupinlärning, vilket fortfarande är det mest lovande sättet att bygga AI för tillfället. Deep learning bygger på neurala nätverk, som ofta beskrivs som hjärnliknande genom att deras digitala neuroner är inspirerade av biologiska. Mänsklig intelligens är det bästa exemplet på allmän intelligens vi har, så det är vettigt att titta på oss själva för inspiration.

Men hjärnor är mer än en massiv härva av neuroner. De har separata komponenter som samverkar.

Hassabis, till exempel, studerade hippocampus, som bearbetar minnet, när han och Legg träffades. Hassabis tror att allmän intelligens i mänskliga hjärnor delvis kommer från interaktion mellan hippocampus och cortex . Denna idé ledde till att DeepMinds Atari-spel spelade AI, som använder en hippocampus-inspirerad algoritm , kallad DNC (differential neural computer), som kombinerar ett neuralt nätverk med en dedikerad minneskomponent.

Konstgjorda hjärnliknande komponenter som DNC är ibland kända som kognitiva arkitekturer. De spelar en roll i andra DeepMind AIs som AlphaGo och AlphaZero, som kombinerar två separata specialiserade neurala nätverk med sökträd, en äldre form av algoritm som fungerar lite som ett flödesschema för beslut. Språkmodeller som GPT-3 kombinerar ett neuralt nätverk med ett mer specialiserat som kallas en transformator, som hanterar sekvenser av data som text.

I slutändan kokar alla tillvägagångssätt för att nå AGI ner till två breda skolor. En är att om du får rätt algoritmer kan du ordna dem i vilken kognitiv arkitektur du vill. Labs som OpenAI verkar stå fast vid detta tillvägagångssätt och bygger större och större maskininlärningsmodeller som kan uppnå AGI med brute force .

Den andra skolan säger att en fixering vid djupinlärning håller oss tillbaka. Om nyckeln till AGI är att ta reda på hur komponenterna i en artificiell hjärna ska fungera tillsammans, är att fokusera för mycket på själva komponenterna – algoritmerna för djupinlärning – att missa träet för träden. Få den kognitiva arkitekturen rätt, och du kan koppla in algoritmerna nästan som en eftertanke. Detta är det tillvägagångssätt som föredras av Goertzel, vars OpenCog projektet är ett försök att bygga en öppen källkodsplattform som passar olika pusselbitar i en AGI-helhet. Det är också en väg som DeepMind utforskade när den kombinerade neurala nätverk och sökträd efter AlphaGo.

UNSPLASH

Min personliga känsla är att det är något mellan de två, säger Legg. Jag misstänker att det finns ett relativt litet antal noggrant utformade algoritmer som vi kommer att kunna kombinera för att vara riktigt kraftfulla.

Goertzel håller inte med. Djupet av tänkandet om AGI hos Google och DeepMind imponerar på mig, säger han (båda företagen ägs nu av Alphabet). Om det finns något stort företag som kommer att få det, kommer det att vara dem.

Håll dock inte andan. Stutten av att ha underskattat utmaningen i decennier, är det få andra än Musk som gillar att riskera en gissning om när (om någonsin) AGI kommer att anlända. Även Goertzel kommer inte att riskera att fästa sina mål till en specifik tidslinje, även om han skulle säga förr snarare än senare. Det råder ingen tvekan om att snabba framsteg inom djupinlärning – och GPT-3, i synnerhet – har höjt förväntningarna genom att efterlikna vissa mänskliga förmågor. Men mimik är inte intelligens. Det finns fortfarande mycket stora hål i vägen framför sig, och forskare har fortfarande inte fattat deras djup, än mindre räknat ut hur de ska fyllas.

Men om vi fortsätter att röra oss snabbt, vem vet? säger Legg. Om några decennier kan vi ha några mycket, mycket kapabla system.

Varför är AGI kontroversiellt?

En del av anledningen till att ingen vet hur man bygger en AGI är att få är överens om vad det är. De olika tillvägagångssätten speglar olika idéer om vad vi siktar på, från multiverktyg till övermänsklig AI. Små steg tas för att göra AI mer allmänt ändamålsenligt, men det finns en enorm klyfta mellan ett generellt verktyg som kan lösa flera olika problem och ett som kan lösa problem som människor inte kan – Goods sista uppfinning. Det finns massor av framsteg inom AI, men det betyder inte att det finns några framsteg inom AGI, säger Andrew Ng.

Utan bevis från någon sida om huruvida AGI är uppnåeligt eller inte, blir frågan en fråga om tro. Det känns som de där argumenten i medeltidsfilosofin om huruvida man får plats med oändligt många änglar på huvudet av en nål, säger Togelius. Det går inte ihop; det här är bara ord.

Goertzel förringar tal om kontrovers. Det finns människor i extrema på båda sidor, säger han, men det finns många människor i mitten också, och människorna i mitten tenderar inte att babbla så mycket.

AGI-världen är fylld av forskare som utforskar de yttre delarna av hur man bygger en superintelligens.

• Framväxande intelligens

  Kristinn Thórisson undersöker vad som händer när enkla program skriver om andra enkla program för att producera ännu fler program. Han är intresserad av de komplexa beteenden som uppstår från enkla processer som lämnas att utveckla av sig själva.

• Universell intelligens

  Arthur Franz försöker ta Marcus Hutters matematiska definition av AGI, som förutsätter oändlig datorkraft, och ta bort den till kod som fungerar i praktiken.

• Öppen intelligens

  David Weinbaum är en forskare som arbetar med intelligenser som utvecklas utan givna mål . Tanken är att belöningsfunktioner som de som vanligtvis används i förstärkningsinlärning begränsar en AI:s fokus. Weinbaum arbetar på sätt att utveckla intelligens som fungerar utanför en specifik problemdomän och helt enkelt anpassar sig planlöst till sin omgivning.

Goertzel placerar en AGI-skeptiker som Ng i ena änden och sig själv i den andra. Sedan sina dagar på Webmind har Goertzel uppvaktat media som galjonsfigur för AGI-kanten. Han driver AGI-konferensen och leder en organisation som heter SingularityNet,som han beskriversom ett slags Webmind på blockchain. Från 2014 till 2018 var han också chefsforskare på Hanson Robotics, det Hongkong-baserade företaget som avtäckte en talande humanoid robot som heter Sophia 2016. Mernöjesparksdockaän spetsforskning, fick Sophia Goertzel-rubriker runt om i världen. Men även han medger att det bara är en teatralisk robot, inte en AI. Goertzels speciella showmanship har fått många seriösa AI-forskare att ta avstånd från hans ände av spektrumet.

I mitten satte han personer som Yoshua Bengio, en AI-forskare vid University of Montreal som var medvinnare av Turing Award med Yann LeCun och Geoffrey Hinton 2018. Under en 2014 keynote talk vid AGI-konferensen föreslog Bengio att det är möjligt att bygga en AI med intelligens på mänsklig nivå eftersom den mänskliga hjärnan är en maskin – en som bara behöver redas ut. Men han är inte övertygad om superintelligens – en maskin som överträffar det mänskliga sinnet. Hur som helst, han tror att AGI inte kommer att uppnås om vi inte hittar ett sätt att ge datorer sunt förnuft och kausala slutsatser.

Ng insisterar dock på att han inte heller är emot AGI. Jag tycker att AGI är superspännande, jag skulle så gärna vilja komma dit, säger han. Om jag hade massor av fritid skulle jag jobba med det själv. När han var på Google Brain och djupinlärning gick från klarhet till klarhet, undrade Ng – som OpenAI – om att bara skala upp neurala nätverk kunde vara en väg till AGI. Men det är frågor, inte uttalanden, säger han. Där AGI blev kontroversiellt är när folk började göra specifika påståenden om det.

En ännu mer splittrad fråga än hybrisen om hur snart AGI kan uppnås är skrämselpropagandan om vad den skulle kunna göra om den släpps loss. Här suddas snart spekulationer och science fiction ut. Musk säger att AGI kommer att vara farligare än kärnvapen. Hugo de Garis, en AI-forskare nu vid Wuhan University i Kina, förutspådde på 2000-talet att AGI skulle leda till ett världskrig och miljarder dödsfall i slutet av seklet. Gudliknande maskiner, som han kallade artilekter, skulle alliera sig med mänskliga anhängare, kosmisterna, mot ett mänskligt motstånd, Terrans.

Tro på AGI är som tro på magi. Det är ett sätt att överge det rationella tänkandet och uttrycka hopp/rädsla för något som inte går att förstå.

Det hjälper verkligen inte det pro-AGI-lägret när någon som de Garis, som också är en uttalad anhängare av maskulistiska och antisemitiska åsikter, har en artikel i Goertzels AGI-bok tillsammans med sådana av seriösa forskare som Hutter och Jürgen Schmidhuber – ibland kallas fadern till modern AI. Om många i AGI-lägret ser sig själva som AI:s facklorbärare, ser många utanför det dem som kortbärande galningar, som kastar tankar om AI i en mixer med vilda påståenden om Singularity (point of no return när självförbättrande maskiner överträffar mänsklig intelligens), hjärnuppladdningar, transhumanism och apokalypsen.

Jag stör mig inte på den mycket intressanta diskussionen om intelligenser, som vi borde ha mer av, säger Togelius. Jag stör mig på den löjliga idén att vår programvara plötsligt en dag kommer att vakna upp och ta över världen.

Varför spelar det någon roll?

För några decennier sedan, när AI misslyckades med att leva upp till hajpen från Minsky och andra, kraschade fältet mer än en gång. Finansieringen försvann; forskare gick vidare. Det tog många år för tekniken att komma ur vad som kallades AI-vintrar och återhämta sig. Den hypen finns dock fortfarande kvar.

Alla AI-vintrar skapades av orealistiska förväntningar, så vi måste bekämpa dem vid varje tur, säger Ng. Pesenti håller med: Vi måste hantera surret, säger han.

En mer omedelbar oro är att dessa orealistiska förväntningar infekterar beslutsfattandet hos beslutsfattare. Bryson säger att hon har bevittnat massor av klurigt tänkande i styrelserum och regeringar eftersom människor där har en sci-fi-syn på AI. Detta kan leda till att de ignorerar mycket verkliga olösta problem – som hur rasfördomar kan kodas in i AI genom skeva träningsdata, bristen på transparens om hur algoritmer fungerar eller frågor om vem som är ansvarig när en AI fattar ett dåligt beslut – till förmån för mer fantastiska oro över saker som ett robotövertagande.

Hypen gör också investerare upphetsade. Musks pengar har hjälpt till att finansiera verklig innovation, men när han säger att han vill finansiera arbete med existentiella risker uppmuntrar det forskare att prata om framtida hot. Några av dem tror verkligen på det; några av dem är bara ute efter pengarna och uppmärksamheten och vad som helst, säger Bryson. Och jag vet inte om alla är helt ärliga mot sig själva om vilken de är.

Lockelsen med AGI är inte förvånande. Självreflektion och skapande är två av de mest mänskliga aktiviteterna. Drivkraften att bygga en maskin i vår bild är oemotståndlig. Många människor som nu är kritiska mot AGI flirtade med det i sina tidigare karriärer. Liksom Goertzel tillbringade Bryson flera år med att försöka göra ett konstgjort barn. 2005 anordnade Ng en workshop på NeurIPS (som då kallades NIPS), världens största AI-konferens, med titeln Mot mänsklig nivå AI? Det var galet, säger Ng. LeCun, nu en frekvent kritiker av AGI-prat, höll en keynote.

Dessa forskare gick vidare till mer praktiska problem. Men tack vare de framsteg de och andra har gjort ökar förväntningarna återigen. Många människor på området förväntade sig inte lika stora framsteg som vi har haft de senaste åren, säger Legg. Det har varit en drivkraft för att göra AGI mycket mer trovärdig.

Till och med AGI-skeptiker medger att debatten åtminstone tvingar forskare att tänka på fältets riktning överlag snarare än att fokusera på nästa hack eller riktmärke för neurala nätverk. Att seriöst överväga idén med AGI tar oss till riktigt fascinerande platser, säger Togelius. Kanske är det största framstegen att förfina drömmen, att försöka ta reda på vad drömmen handlade om.

Dölj