Schack är för lätt

Datavetenskap har två meningar om artificiell intelligens (AI). Vissa datavetare tror på så kallad Strong AI, som menar att all mänsklig tanke är helt algoritmisk, det vill säga att den kan delas upp i en serie matematiska operationer. Vad som logiskt följer, menar de, är att AI-ingenjörer så småningom kommer att replikera det mänskliga sinnet och skapa en genuint självmedveten robot fylld av känslor och känslor. Andra anammar svag AI, uppfattningen att mänsklig tanke bara kan simuleras i en beräkningsenhet. Om de har rätt kan framtida robotar uppvisa mycket av enhetens beteende. Om de har rätt kan framtida robotar uppvisa mycket av människors beteende, men ingen av dessa robotar kommer någonsin att vara en person; deras inre liv kommer att vara tomt som en stens.

Tidigare förutsägelser från förespråkare för stark och svag AI har inte gjort mycket för att föra debatten framåt. Till exempel, Herbert Simon, professor i psykologi vid Carnegie Mellon University, kanske den första och mest kraftfulla anhängaren av Strong AI, förutspådde för fyra decennier sedan att maskiner med sinnen var nära förestående. Det är inte mitt mål att överraska eller chocka dig, sa han. Men det enklaste sättet jag kan sammanfatta är att säga att det nu finns maskiner i världen som tänker, som lär sig och skapar. Dessutom kommer deras förmåga att göra dessa saker att öka snabbt tills - i en synlig framtid - de problem som de kan hantera kommer att vara lika omfattande som det omfång som det mänskliga sinnet har tillämpats på.

På andra sidan av ekvationen satsade Hubert Dreyfus, filosofiprofessor vid Berkeley, gården för två decennier sedan att symbolknasande datorer aldrig ens skulle närma sig människors problemlösningsförmåga, än mindre ett inre liv. I sin bok, What Computers Can't Do (HarperCollins 1978), och återigen i den reviderade upplagan, What Computers Still Can't Do (MIT Press 1992), hävdade han att formidabla schackdatorer skulle förbli för alltid i riket av fiktion och vågade AI-gemenskapen att bevisa att han hade fel.

Segern förra våren av IBM:s Deep Blue-dator över världens största mänskliga schackspelare, Gary Kasparov, utplånade Dreyfus förutsägelse. Men argumenterar det också för stark snarare än svag AI? Det verkar Kasparov själv tycka. Till Strong AI-anhängares glädje förklarade Kasparov i Time i mars förra året att han anade en ny typ av intelligens som kämpade mot honom.

Dessutom skulle den välkände filosofen Daniel Dennett från Tufts University inte finna en sådan reaktion hyperbolisk i ljuset av Deep Blues triumf. Dennett som någonsin varit ärkeförsvararen av Strong AI, tror att medvetandet är kärnan i algoritmen, och att AI snabbt reducerar medvetandet till beräkning.

Men i sin jubel förbiser Kasparov, Dennett och andra som tror att Deep Blue ger stark AI trovärdighet ett viktigt faktum: ur ett rent logiskt perspektiv är schack anmärkningsvärt enkelt. Faktum är att, som länge varit känt, oövervinnerligt schack teoretiskt sett kan spelas av ett tanklöst system, så länge det följer en algoritm som spårar ut konsekvenserna av varje möjligt drag tills antingen en kompis- eller remisposition hittas.

Naturligtvis, även om denna algoritm är smärtsamt enkel (studenter i datavetenskap lär sig rutinmässigt det), är den beräkningsmässigt komplex. Faktum är att om vi antar ett genomsnitt på cirka 32 alternativ per spel, ger detta tusen alternativ för varje fullt drag (ett drag är ett spel vid en sida följt av ett spel som svar). Att se framåt fem drag ger därför en kvadriljon (1015) möjligheter. Att se framåt 40 drag, längden på ett typiskt spel, skulle innebära 10120 möjligheter. Deep Blue, som undersöker mer än 100 miljoner positioner per sekund, skulle ta nästan 10112 sekunder, eller cirka 10104 år att undersöka varje rörelse. Som jämförelse har det gått färre än 1018 sekunder sedan universums början, och konsensus bland datorschackkunskaper är att vår sol kommer att förfalla innan ens morgondagens superdatorer kan utföra en så uttömmande sökning.

Men vad händer om en dator kan se väldigt långt fram (driven, till exempel, av algoritmen känd som alpha-beta minimax search, Deep Blues huvudstrategi), i motsats till hela vägen? Och tänk om den kunde kombinera denna bearbetningshästkraft med en nypa kunskap om några grundläggande principer för schack, till exempel de som involverar kungsäkerhet, som för övrigt installerades i Deep Blue precis innan matchen med Kasparov? Svaret, som Deep Blue rungande visade, är att en maskin så beväpnad kan bäst även den allra bästa mänskliga schackspelaren.

Kreativitet Ex Machine?

Men den typ av tänkande som går in i schack, staplat mot det mänskliga sinnets fulla kraft och omfång, är långt ifrån hela historien. 1800-talsmatematikern Ada Byron, känd som Lady Lovelace, var kanske den första som antydde att kreativitet är den väsentliga skillnaden mellan sinne och maskin - den avgörande essensen som går utöver vad även den mest sofistikerade algoritmen kan åstadkomma. Lovelace hävdade att datormaskiner, som den som skapats av hennes samtida, Charles Babbage, inte kan skapa någonting, för skapande kräver minimalt att skapa något. Datorer kan inte skapa något; de kan bara göra det som vi beordrar dem, via program, att göra.

Ett sekel senare svarade Alan Turing, farfar till både AI och datavetenskap, på Lady Lovelaces invändning genom att uppfinna det nu berömda Turing-testet, som en dator klarar om den kan lura en människa att tro att den är en människa. Tyvärr, även om schack är för lätt, är Turing-testet fortfarande alldeles för svårt för dagens datorer. Till exempel är bedrägeri – vilket en potent datorspelare i Turing-testet säkerligen borde vara kapabel till – ett otroligt komplext koncept. Att uppmana en person att av misstag acceptera en falsk föreställning kräver att datorn inte bara förstår att idén är falsk, utan också de otaliga subtila kopplingarna som finns mellan idén och den personens övertygelser, attityder och otaliga andra idéer.

Även om Turing-testet för närvarande är utom räckhåll för de smartaste av våra maskiner, kan det finnas ett enklare sätt att välja mellan de starka och svaga formerna av AI-one som lyfter fram kreativitet, vilket mycket väl kan vara det verkliga problemet i Strong vs. Svag sammandrabbning. Testet jag föreslår är helt enkelt: Kan en maskin berätta en historia?

Även om fördelen med detta test kanske inte verkar uppenbar vid första anblicken, finns det några intressanta skäl för att tro att det är ett bra index för sinnelag. Till exempel, det dominerande testet av kreativitet som används i psykologi-Torance-test av kreativt tänkande-begär ämnen för att producera berättelser.

Inte heller är förekomsten av berättelse i dessa test godtycklig; många kognitiva forskare hävdar troligt att berättelsen är själva hjärtat av mänsklig kognition. Roger Schank, en välkänd kognitionsforskare vid Northwestern University, hävdar djärvt att praktiskt taget all mänsklig kunskap är baserad på berättelser. Hans grundläggande påstående är att när du minns det förflutna, kommer du ihåg det som en uppsättning berättelser, och när du kommunicerar information levererar du den också i form av berättelser.

Men kanske viktigast för den här diskussionen är att berättelsespelet skulle slå rakt in i hjärtat av skillnaden mellan stark och svag AI. Människor finner det omöjligt att producera litteratur utan att anamma karaktärers synpunkter, det vill säga utan att känna hur det är att vara dessa karaktärer; Därför genererar mänskliga författare berättelser genom att dra nytta av det faktum att de är medvetna i ordets fullaste bemärkelse – vilket är att samtidigt vara medvetna om sig själv, om en annan person och om relationen (eller bristen därav) mellan de två personerna.

Djup berättelse

Det ser ut som om ett sagospel därför skulle vara ett bättre test på om datorer kan tänka än de schack- och schackspel som för närvarande dominerar på AI-konferenser. Men hur skulle sagospelet se ut? I sagospelet skulle vi ge både datorn och en mästare mänsklig berättare en relativt enkel mening, säga: Gregor vaknade och upptäckte att hans mage var hård som ett skal, och att där hans högra arm hade varit, vickade det nu en tentakel. Båda spelarna måste sedan skapa en berättelse som är designad för att vara riktigt intressant, ju mer litterär till sin natur - i termer av rik karaktärisering, brist på förutsägbarhet och intressant språk - desto bättre. Vi skulle då kunna låta en mänsklig bedöma berättelserna så att, som i Turing-testet, när en sådan domare inte kan säga vilket svar som kommer från den mekaniska musan och vilket som kommer från människan, säger vi att maskinen har vunnit spelet.

Hur kommer framtida maskiner att klara sig i ett sådant spel? Jag tror att längden på berättelsen är en nyckelvariabel. Ett berättelsespel som ställer tankarna mot maskin där längden och komplexiteten i berättelsen är öppen skulle säkert försegla maskinens nederlag i århundraden framöver. Även om förespråkare för Strong AI skulle tro att en maskin så småningom skulle kunna segra i en tävling för att se om sinne eller maskin kunde producera en bättre roman, skulle till och med de hålla med om att det är otänkbart att försöka bygga en sådan maskin idag. Uppgiften skulle vara så svår att ingen ens skulle veta var han skulle börja.

Kort sagt, även om Turing-testet, som nämnts, är för svårt för att tillhandahålla formatet för tanke-maskin-tävling för närvarande, tror många att de kan föreställa sig en nära framtid när en maskin kommer att hålla sig i detta test. När det kommer till det obegränsade berättelsespelet, men en sådan framtid kan helt enkelt inte föreställas. Vi kan naturligtvis föreställa oss en framtid där en dator skriver ut en roman - men vi kan inte föreställa oss vilka algoritmer som skulle vara i drift bakom kulisserna.

Så, bara för att ge starka AI-anhängare en chans att slåss, skulle jag begränsa tävlingen till den kortaste av noveller, säg mindre än 500 ord långa. Den här versionen av spelet borde visa sig vara en frestande utmaning för Strong AI-ingenjörer. Och, precis som den fullständiga versionen, kräver den kreativitet från de sinnen eller maskinen som skulle spela den.

Hur skulle då framtida maskiner kunna stå emot mänskliga författare när var och en får den där meningen som startpunkten mot en novell?

Jag kanske inte är dåligt placerad för att göra förutsägelser. Med hjälp från Luce Foundation, Apple Computer, IBM, Rensselaer Polytechnic Institute (RPI) och National Science Foundation har jag tillbringat de senaste sju åren (och ungefär tre fjärdedelar av en miljon dollar) med att arbeta med ett antal forskare- mest framträdande Marie Meteer, en vetenskapsman vid Bolt, Beranek och Newman; David Porush, professor vid RPI; och David Ferrucci, senior forskare vid IBM:s T.J. Watson Research Center - för att bygga en formidabel konstgjord författare av noveller.

En del av det som driver mig och andra forskare i strävan efter att skapa sådana syntetiska Prousts, Joyces och Kafkas är en övertygelse om att framtidens verkligt intelligenta fristående underhållningssystem kommer att kräva bland annat AI-system som vet hur man skapar och direkta berättelser. I framtidens virtuella berättelsevärldar, fulla av konstgjorda karaktärer, kommer saker att utvecklas för snabbt i realtid för att en människa ska kunna vägleda processen. Spelindustrin går för närvarande på en fin linje mellan att strikt föreskriva ett spel och att låta saker hända villigt när människor gör val. Vad som desperat behövs är en artificiell intelligens som kan lira händelser till en kontinuerlig narrativ tråd samtidigt som den tillåter mänskliga spelare att spela i ett till synes oändligt utrymme av handlingsbanor.

Det senaste resultatet av mitt möda i detta avseende (i samarbete med Ferrucci och Adam Lally, en mjukvaruingenjör vid Legal Knowledge Systems i Troy, NY) är en artificiell agent som heter Brutus.1, så kallad för att det litterära konceptet som den är specialiserad på är svek. Tyvärr är Brutus.1 inte kapabel att spela novellspelet. Den har kunskap om ontologin hos akademiprofessorer, avhandlingar, studenter, klasser och så vidare; men det skulle förlamas av en fråga utanför dess kunskapsbas. Till exempel vet den ingenting om insekters anatomi. Därför skulle meningen som involverade Gregor rita ett tomrum.

Icke desto mindre kan Brutus.1 skriva korta noveller - om berättelserna är baserade på föreställningen om svek (liksom självbedrägeri, ondska och i viss mån voyeurism), som inte är föga lovande litterära inbillningar (se sidofältet, Betrayal, av Brutus.1-liksom Richard III, Macbeth, Othello.)

Sådana nästan belletristiska bedrifter är möjliga för Brutus.1 bara för att Ferrucci och jag kunde utarbeta en formell matematisk definition av förräderi och förse Brutus.1 med konceptet (se sidofältet, The Mathematization of Betrayal). Men för att anpassa Brutus.1 för att spela bra i ett kort novellspel, skulle det säkert behöva förstå inte bara svek, utan andra stora litterära teman som välbesvarad kärlek, hämnd, svartsjuka, patrimord och så vidare.

För alltid medvetslös

Jag har tre år kvar på mitt tioåriga projekt att bygga en formidabel Hemingway i silikon. Vid det här laget, men även om Brutus.1 är imponerande och även om vår avsikt är att skapa ättlingar till Brutus.1 som kan förstå en hel uppsättning litterära begrepp och mer, verkar det ganska klart att datorer aldrig kommer att vara de bästa mänskliga berättarna i även en novelltävling.

Det är tydligt från vårt arbete att för att berätta en verkligt fängslande historia skulle en maskin behöva förstå sina karaktärers inre liv. Och för att göra det skulle den inte bara behöva tänka mekaniskt i betydelsen snabb beräkning (forten med superdatorer som Deep Blue), den skulle också behöva tänka upplevelsemässigt i betydelsen att ha subjektiv eller fenomenal medvetenhet. Till exempel kan en person tänka upplevelsemässigt på en resa till Europa som barn, komma ihåg hur det var att vara i Paris en solig dag med en äldre bror, slå en biltur längs en fairway, känna en älskares beröring, åka skidor på kant, eller behöver en god natts sömn. Men varje sådant exempel, hävdar jag, kommer att kräva kapacitet som ingen maskin någonsin kommer att ha.

Kända mänskliga berättare förstår detta koncept. Till exempel sa dramatikern Henrik Ibsen: Jag måste ha karaktären i åtanke hela tiden, jag måste tränga in i hans själs sista rynka. Ett sådant modus operandi är för alltid avstängt för en maskin.

Anhängare av Strong AI, om de skulle sträva efter att bygga en maskin som kan råda i novellspelet, måste därför sträva efter att bygga just det som skiljer Strong från Weak AI: en medveten maskin. Men i strävan efter en sådan maskin väntar forskare på Strong AI på en kulmen som för alltid kommer att anlända, aldrig närvarande.

Troende på svag AI, som jag, kommer att försöka konstruera system som, utan Ibsens förmåga att se ut genom en annans ögon, kommer att skapa rikt tecknade karaktärer. Men även om jag förväntar mig att göra framsteg, förväntar jag mig att, till skillnad från schackspelande, förstklassig berättande, även på den ödmjuka längden av noveller, alltid kommer att vara den enda provinsen för mänskliga mästare.

Ändå kommer jag att fortsätta med de sista tre åren av mitt projekt, till stor del för att jag förväntar mig att ha mycket roligt, samt för att med viss auktoritet kunna säga att maskiner inte kan vara kreativa och medvetna (se hur Jag använder den senaste tekniken) och för att producera fungerande system som kommer att ha avsevärt vetenskapligt och ekonomiskt värde.

Kasparov kommer utan tvekan att återvända snart för en ny schackrunda med Deep Blue eller dess ättlingar, och han kan mycket väl vinna. Faktum är att jag misstänker att det kommer att dröja ytterligare 10 år innan maskinschackspelare besegrar stormästare i turnering efter turnering. Snart nog kommer dock Kasparov och de som tar hans tron ​​att förlora.
Men så är inte fallet när vi överväger chansen att de skulle försöka ödmjuka inte bara stora schackspelare, utan stora författare. Jag tror inte att John Updike eller hans efterträdare någonsin kommer att hamna i mitten av ett berättarspel, svettas under ljus som är lika ljusa och varma som de som lyste ner på Gary Kasparov.

Dölj