Marvin Minsky om sunt förnuft och datorer som känner känslor

Topdatavetare från hela världen träffas idag på Dartmouth College i Hanover, NH, för att uppmärksamma 50-årsjubileet av artificiell intelligens. Redan 1956 uppfann John McCarthy, då medlem av Dartmouths matematiska fakultet, termen för fältets framstående samling, Dartmouth Summer Research Project on Artificial Intelligence. McCarthy och fyra andra deltagare i 1956 års projekt, inklusive MIT:s Marvin Minsky, deltar i veckans möte, som fokuserar på AI:s nästa 50 år .

Marvin Minsky, emeritusprofessor i mediekonst och vetenskap vid MIT, var en av de ursprungliga deltagarna i Dartmouth Summer Research Project on Artificiell Intelligens 1956. Han kommer att samöppna 50-årsjubileumskonferensen i Dartmouth idag. (Med tillstånd av Coveney/MIT.)

Matematiska och filosofiska genombrott av Alan Turing, John von Neumann, Herbert Simon, Allen Newell och andra giganter inom datavetenskap gjorde 1950-talet till en tid av stor optimism om maskinintelligens. Forskare trodde att de snart skulle kunna programmera datorer för att simulera många former av mänskligt resonemang. Expertsystem skulle förkroppsliga och manipulera kunskap i form av symbolisk logik. Konstgjorda neurala nätverk skulle tränas för att utvecklas mot korrekta svar.

Denna optimism spred sig till och med över i populärkulturen, där HAL, den intelligenta (och djupt störda) datorn i Stanley Kubricks film från 1968 2001: A Space Odyssey , satte upp de mänskliga skådespelarna.

Men i slutet av 1960-talet stod det klart att en approximation av till och med barnliknande mänskliga resonemang i en dator skulle kräva oerhört komplexa nät av logiska ekvationer eller neurala samband. Så forskare drog sig tillbaka. De började bryta ner problem och fokuserade på att replikera enkla mänskliga bedrifter som att flytta barnblock (ämnet för Stanfords datavetare Terry Winograds nu berömda program SHRDLU, som använde instruktioner på naturliga språk för att manipulera en robotarm).

Minsky, som kommer att öppna Dartmouth-konferensen med McCarthy, beundrade Winograds arbete. Men han har länge undvikit reduktionistiska demonstrationer till förmån för att utforska de verkliga mekanismerna bakom mänskligt tänkande. Genom att arbeta med Seymour Papert i MIT AI Lab, till exempel, började Minsky på 1970-talet att utveckla Society of Mind-teorin, som hävdar att lager av målmedvetna men tankelösa agenter arbetar tillsammans för att skapa medvetande.

Technology Review avbröt Minsky den 11 juli när han testade galärerna för sin kommande bok, Känslomaskinen , som omtolkar det mänskliga sinnet som ett moln av resurser, eller minimaskiner som slår på och av beroende på situationen och ger upphov till våra olika känslomässiga och mentala tillstånd.

Teknikgranskning : Kan du fatta att det har gått 50 år sedan det första mötet med Dartmouth AI? Känns det som att fem decennier har gått?

Marvin Minsky : Jag har inte upplevt många intervaller på 50 år, så det är svårt för mig att säga.

TR: Rimligt nog. Så, vad är dina tankar om läget för AI-forskning idag, jämfört med var det var 1956?

MM: Det som förvånar mig är hur få människor som har arbetat med teorier på högre nivå om hur tänkande fungerar. Det har varit en stor besvikelse. Jag ger precis ut en ny stor bok om vad vi borde tänka på: Hur gör en tre- eller fyraåring det sunt förnuftiga resonemang som de är så bra på och som ingen maskin verkar kunna do? Den största skillnaden är att om du har svårt att förstå något, tänker du vanligtvis, vad är det för fel på mig? eller vad är det som slösar bort min tid? eller varför fungerar inte detta sätt att tänka? Finns det något annat sätt att tänka som kan vara bättre?

Men de typer av AI-projekt som har pågått under de senaste 30 eller 40 åren har nästan inte haft något reflekterande tänkande alls. Det handlar om att reagera på en situation och samla in statistik. Vi anordnade en konferens om sunt förnuftstänkande för ungefär tre år sedan och vi kunde bara hitta ett dussintal forskare i hela världen som var intresserade av det.

TR: Varför drar folk sig för problemet med sunt förnuft?

MM: Jag tror att folk ser sig omkring för att se vilket område som är populärt just nu och sedan slösar bort sina liv på det. Om det är populärt, så tycker jag du inte vill jobba på det. Nu är fysiken annorlunda. Där säger folk att den här populära teorin fungerar ganska bra, men den förklarar inte det här eller det - så jag borde titta på det. Men när människor skriver AI-uppsatser berättar de bara vad deras program gjorde, och inte hur det misslyckades eller vilka typer av problem det inte kunde lösa. Människor anser inte att det viktiga problemet är deras system har inte löst. Människor har fått neurala nätverk att inse att om du letar efter en taxi, till exempel, bör du leta efter ett gult rörligt föremål. Men de frågar inte hur det kommer sig att dessa nätverk inte kan svara på andra typer av frågor.

TR: Men att förstå sunt förnuft är ett mycket svårare problem, eller hur? Kan det inte förklara varför så många AI-forskare går in på andra områden?

MM: Det är sant. Tillbaka när jag skrev The Society of Mind , vi arbetade i ett par år med att få en dator att förstå en enkel barnberättelse: Mary var inbjuden till Jacks fest. Hon undrade om han skulle vilja ha en drake. Om du ställer frågan Varför undrade Mary om en drake? alla vet svaret – det är förmodligen en födelsedagsfest, och om hon ska med betyder det att hon har blivit inbjuden, och alla som är inbjudna måste ta med en present, och det måste vara en present till en ung pojke, så det måste vara något pojkar gillar, och pojkar gillar vissa typer av leksaker som fladdermöss och bollar och drakar. Du måste veta allt detta för att svara på frågan. Vi lyckades göra en liten databas och fick programmet att förstå några enkla frågor. Men vi provade det på en annan historia och den visste inte vad den skulle göra. Några av oss drog slutsatsen att du måste känna ett par miljon saker innan du kunde få en maskin att tänka sunt.

TR: När folk har insett hur svårt det är att få en dator att förstå även enkla sunt förnuftssituationer, skulle du säga att en del av optimismen kring möjligheterna för AI på 1950- och 1960-talen har försvunnit?

MM: Jag tror inte att optimism är rätt ord. Jag tror att vi ställde bra frågor, men på något sätt började de flesta som arbetade med vad de kallade AI leta efter en av dessa universella lösningar. I fysiken fungerade det; det fanns Newtons ekvationer och sedan Maxwells och sedan relativitetsteorin och kvantteorin. De flesta AI-människor försöker imitera det och hitta en allmän teori. Men människor har 100 olika hjärncentra som alla fungerar på lite olika sätt. Du bör inte arbeta med en enda lösning; du borde arbeta med en mängd prylar.

TR: Mycket av finansieringen för AI har kommit från Defense Advanced Research Projects Agency (DARPA), där det finns en ganska tydlig efterfrågan på praktiska resultat. Faktum är att de är en av sponsorerna för Dartmouth AI-konferensen. Hur har DARPA format riktningen för AI-forskning?

MM: I början stödde DARPA människor snarare än förslag. Det gjordes stora framsteg från starten 1963; i ungefär tio år blomstrade den sortens saker jag pratar om. Och så i början av 1970-talet inträffade en sorts rolig olycka. Senator Mike Mansfield, ganska liberal, beslutade att försvarsdepartementet inte borde stödja civil forskning. Så han var ansvarig för att ARPA blev DARPA och ansträngde sig för att inte konkurrera med industriell och civil forskning. Så det blev mycket svårare för dem att stödja visionära forskare.

Samtidigt började det amerikanska företagsforskningssamhället försvinna i början av 1970-talet. Bell Labs och RCA och de andra försvann i princip från denna typ av verksamhet. Och en annan sak hände: entreprenörsbuggan slog till. På 1980-talet började många människor försöka patentera saker och starta startups och tillverka produkter, och det sammanföll med det allmänna försvinnandet av unga forskare. Människor som kunde ha blivit produktiva vetenskapsmän går nu in i juridik och näringsliv.

Så det finns inget sätt att stödja denna forskning. Om du har en bra idé är det svårt att få den publicerad eftersom folk säger Var är ditt experiment? Men problemet med sunt förnuft är att du inte kan experimentera förrän du har en stor sunt förnuftsdatabas. Det finns en som heter Cyc, startad av Doug Lenat 1985. Och vi har Öppet sinne databas, som är allmänt tillgänglig men ännu inte särskilt välstrukturerad. Men det är ett helt forskningsprojekt bara för att ta reda på hur man öppnar Open Mind-databasen.

TR: Du nämnde att en dator måste kunna ett par miljoner saker för att kunna skapa sunt förnuft. Men Lenat och hans kollegor har arbetat med exakt det och ägnat år åt att mata in sunt förnuft i Cyc. Varför behövs en annan databas?

MM: När Lenat startade Cyc 1985 var det ganska ambitiöst, och det fanns inget annat sådant projekt. Jag och mina kollegor sa, låt oss vänta och se hur det här fungerar. Och sedan hände ingenting på ett tag.

Lenat har gjort några mycket bra saker. Problemet är att Cyc är väldigt svårt att använda och det är proprietärt, så det används inte mycket av forskare. Och det finns många problem med hans system som inte dök upp tidigare eftersom det inte fanns någon konkurrens.

De har gjort det konsekvent, så det vet faktiskt inte mycket. Ska en val betraktas som ett däggdjur eller en fisk? Valar har många fiskliknande egenskaper, så de flesta människor blir förvånade när de hör att det är ett däggdjur. Men det verkliga svaret är att det borde vara både och. En sunt förnuftsdatabas behöver inte nödvändigtvis vara logiskt konsekvent. Lenat insåg till slut att de borde omstrukturera Cyc genom att ta hänsyn till de olika sammanhang där en fråga kan komma upp. Men databasen var ursprungligen strukturerad för att göra saker mycket logiska, och dess språk är predikatkalkyl. Vår förhoppning är att få Open Mind-systemet att använda naturligt språk – som naturligtvis är fullt av oklarheter, men oklarheter är både bra och dåliga.

TR: Vilka är några av huvudargumenten eller forskningsrekommendationerna i din kommande bok, Känslomaskinen ?

MM: Huvudtanken i boken är vad jag kallar påhittighet. Om du inte förstår något på flera olika sätt är det troligt att du fastnar. Så det första i boken är att man måste ha olika sätt att beskriva saker. Jag hittade på ett ord för det: panalogi. När du representerar något bör du representera det på flera olika sätt, så att du kan byta från en till en annan utan att tänka.

Den andra saken är att du bör ha flera sätt att tänka. Problemet med AI är att varje person säger att de kommer att göra ett system baserat på statistisk slutledning eller genetiska algoritmer, eller vad som helst, och varje system är bra för vissa problem men inte för de flesta andra. Anledningen till titeln Känslomaskinen är att vi har dessa saker som kallas känslor, och folk tänker på dem som mystiska tillägg till rationellt tänkande. Min uppfattning är att ett emotionellt tillstånd är ett annat sätt att tänka.

När du är arg ger du upp din långsiktiga planering och du tänker snabbare. Du ändrar uppsättningen av resurser du aktiverar. En maskin kommer att behöva hundra sätt att tänka på. Och vi råkar ha hundra namn för känslor, men inte för sätt att tänka. Så boken diskuterar ett 20-tal olika riktningar människor kan gå i sitt tänkande. Men de behöver ha extra meta-kunskap om vilket sätt att tänka som är lämpligt i varje situation.

TR: Menar du att datorer ska bli arga?

MM: Om någon är i vägen för dig, och de inte kommer ur vägen, måste du skrämma dem eller skrämma dem eller få dem att vara rädda. Det är ett helt rimligt sätt att lösa problemet om du har bråttom och om något dåligt kommer att hända om du inte kan komma runt dem. Jag föreslår att vi behöver ett 20-tal olika ord för dessa sätt att tänka. Då kan du slänga rationellt.

Minskys Känslomaskinen: sunt tänkande, artificiell intelligens och det mänskliga sinnets framtid är planerad att publiceras i inbunden av Simon & Schuster i november 2006. Minsky har publicerat en förslag av boken online.

Dölj