211service.com
Öka AI:s IQ
Dagens artificiella intelligens är långt ifrån intelligent. Men Josh Tenenbaum, PhD '99, jobbar på det. 27 juni 2018
Bob O'Connor
En söndagseftermiddag i slutet av mars sitter kognitionsforskaren Josh Tenenbaum, PhD '99, framför ett träbordsspel, hanar en magnetisk paddel och försöker slå en liten orange boll i motståndarens mål. Tenenbaum, professor i beräkningskognitionsvetenskap, och hans motståndare, en förstaårsstudent, skrattar när bollen studsar från sidan av brädan och rikoschetterar baklänges in i Tenenbaums mål, vilket kostar honom en poäng.
Tenenbaums Building 46-arbetsyta är fylld med leksaker – inte bara det magnetiska paddelspelet, utan också ett trädformat pussel och ett spel som heter Stormy Seas, där spelare försöker balansera små objekt med pirat-tema på en instabil plattform. En förstaklassare skulle vara precis hemma här. Ändå inspirerar leksakerna också Tenenbaum och hans elever att utforska mer intressanta frågor om vad som gör människor intelligenta – vad som gör att vi kan tänka och lära så snabbt, och i slutändan vad som gör oss smartare än något nuvarande system med artificiell intelligens.
En människa som såg Tenenbaum och hans elev slå bollen fram och tillbaka skulle snabbt förstå att de spelade ett spel. Efter några ögonblick skulle observatören ta reda på reglerna och kunna delta. Det skulle vara svårt nog att få en robot att plocka upp det mesta på det här bordet, än mindre ta reda på vad som händer, säger Tenenbaum. Artificiell intelligens är inte utrustad för att arbeta baklänges från ett mål och planera på ett nytt sätt, säger han. Människor kan dock göra det, delvis genom att skapa mentala modeller av världen omkring dem. Det kan vara möjligt att bygga smartare maskiner genom att omvända dessa mentala processer.
Trots all den senaste tidens hype kring artificiell intelligens, anser Tenenbaum att inget av dagens AI-system är riktigt intelligent. Ja, AI har gjort slående framsteg när det gäller att göra det möjligt för datorer att utföra relativt snäva uppgifter, som att känna igen ansikten eller föremål. Men även om många av dessa fokuserade AI-system fungerar otroligt bra och har en enorm inverkan, har forskare inte lyckats efterlikna den allmänna, flexibla intelligensen som låter människor lösa problem utan att vara speciellt utbildade för att göra det. Hans arbete, säger han, är inspirerat av filosofi, inklusive frågor som Platon, Aristoteles, Kant och Hume funderade på. Hur går man från detaljer till allmänheter? Hur ser man på en sak och säger: Det jag lär mig handlar inte bara om den saken – det handlar om andra saker också? Det är spännande för mig – att tänka på de här stora frågorna om hur vi får veta någonting, säger han.
Bob O'Connor
Tenenbaum hävdar att fokus på det mänskliga sinnet är ett värdefullt sätt att främja AI. Historiskt sett har många om inte de flesta innovationer på området åstadkommits av människor som är intresserade av att förstå mänsklig intelligens ur ett matematiskt eller ingenjörsperspektiv, säger han. Så även om detta inte är det enda möjliga tillvägagångssättet, tror han att det sannolikt kommer att vara fruktbart. Dessutom är många av de typer av teknik som vi tittar på AI för tekniker som kommer att leva i en mänsklig värld, säger han. Dessa inkluderar maskiner som kan hjälpa till med hushållssysslor eller till och med ta hand om barn eller äldre, anta uppgifter i mänsklig skala. Och, säger han, om vi vill att maskiner ska interagera med oss på det sätt vi interagerar med varandra, så är det i viss mån väsentligt för dem att ha en mänsklig intelligens.
I mars, när institutet lanserade MIT Intelligence Quest (nu kallat MIT Quest for Intelligence), ett initiativ för att utforska grunderna för mänsklig intelligens, var Tenenbaum uppriktig om gränserna för befintliga AI-system. Var och en måste byggas av riktigt smarta ingenjörer, sa han, och var och en gör bara en sak. Men han utvecklade sin djärvare vision om att utveckla AI för att efterlikna mänskligt lärande. Tänk om vi kunde bygga en maskin som växer till intelligens som en människa gör, som börjar som en bebis och lär sig som ett barn, sa han. Det skulle vara AI som är riktigt intelligent, om vi kunde bygga det. Han tillade att det nästan säkert inte kunde göras på 10 år, förmodligen inte på 20 - och förmodligen inte ens under vår livstid. Men det är okej, sa han. Det är därför vi kallar det ett uppdrag.
Intuitiv fysik
I denna tid av big data och djup inlärning är det lätt att bli förförd, säger Robert Goldstone, professor i psykologi och hjärnvetenskap vid Indiana University. Han menar att det är frestande att tro att maskininlärningssystem inte behöver sammanhängande tolkningar av omvärlden för att bete sig intelligent – vem behöver teori när vi har tillräckligt med data? Tenenbaums arbete visar dock vikten av teori, säger Goldstone, eftersom det visar att eleverna måste skapa interna modeller av sina miljöer för att komma vidare.
Betrakta sfären av vardagsfysik, där människor visar klar intuition. När vi ser ett barn klättra i ett träd har vi en känsla av om grenarna är starka nog att bära upp hennes vikt. När vi ser en kopp placerad vid kanten av ett bord vet vi att om bordet knuffas kommer koppen troligen att falla. Varje dag stöter vi på en mängd olika scenarier, men vi kan resonera och göra bedömningar om dem. Tenenbaum tror att människor har en förmåga att mentalt simulera fysikens mekanismer, och detta gör att vi kan förutsäga hur objekt kommer att bete sig.
När han testar denna teori är Tenenbaums mål inte bara att förstå mänsklig kognition bättre utan också att skapa datorprogram som kan approximera den mer effektivt. I ett projekt byggde han och hans team en serie virtuella torn med verktyg som används för design av videospel. De designade varje torn med 10 block staplade i mer eller mindre osäkra arrangemang. Sedan presenterade teamet mänskliga försökspersoner med dessa konstruktioner och frågade dem om tornen skulle falla, som i en omgång Jenga. Efter att försökspersonen svarat föll tornet - eller gjorde det inte. Tenenbaum hävdar att människor närmar sig denna uppgift med hjälp av en intuitiv fysikmotor - en mental modell baserad på en förståelse av massa, friktion, gravitation och andra aspekter av den fysiska världen.
Bob O'Connor
Under tiden hade Tenenbaum och hans team också skrivit ett datorprogram för att fånga mänskliga tankar och uppfattningar om sådana fysiska scenarier. Deras mål var att programmet skulle koda information om ett blocktorn, såsom dess position och konfiguration, och sedan köra simuleringar baserade på den informationen för att förutsäga om tornet skulle falla. Det gjorde förutsägelser som var sannolikheter, som han säger att vårt eget fysiska resonemang också gör. (Vi tenderar att tänka i statistiska termer om olika möjliga utfall, förklarar han, eftersom vi i den dagliga världen måste brottas med osäkerhet om objekt vi observerar.)
I en artikel publicerad 2013, Tenenbaum, postdoc Peter Battaglia och Jessica Hamrick ’11, MEng ’12, beskrivs testa systemet och fann att dess förutsägelser var starkt korrelerade med de som gjordes av mänskliga försökspersoner. I ytterligare experiment manipulerade teamet massan av blocken, så att några var tunga och några var lätta. De gjorde också ett ryck till bordet och frågade vilka block som var mest benägna att falla till golvet. I vart och ett av dessa fall liknade datormodellens förutsägelser de som gjordes av mänskliga försökspersoner, säger Tenenbaum: Vi kunde modellera vilken typ av simulering någon kan bygga i sitt eget huvud.
Lära sig för att lära
Hittills har de bästa AI-algoritmerna krävt att system tränas på tusentals – eller i vissa fall miljontals – av exempel. Detta gäller till exempel inom domänen för bokstavsidentifiering, ett standardriktmärke inom maskininlärning. Vad som är anmärkningsvärt med mänsklig kognition är dock att vi inte behöver 6 000 exempel på ett brev för att lära oss vad det är och känna igen det i olika typsnitt eller olika handstilar, säger Brenden Lake, PhD '14, biträdande professor i psykologi och data vetenskap vid New York University och en före detta doktorand vid Tenenbaums.
Med början 2009 började Lake, Tenenbaum och postdoc Ruslan Salakhutdinov (nu docent vid Carnegie Mellon University och Apples chef för AI-forskning) att utveckla ett program inspirerat av insikter i hur människor lär sig om och uppfattar karaktärer. Efter att ha filmat 20 personer som ritade bokstäver från främmande alfabet som de aldrig hade använt tidigare, fann de starka likheter i hur människor gick tillväga för uppgiften – de delar de bröt karaktärerna in i, deras utgångspunkt och riktningen för deras slag. På grundval av dessa observationer beslutade forskarna att skapa en handskriftsalgoritm som skulle ta hänsyn till hur bokstäver producerades och inte bara vilka pixlar som fanns i slutresultatet.
Nyckelidén var att representera begreppet en bokstav som en program , vilket är en mycket rikare representation än vad som vanligtvis används i maskininlärning, säger Lake. De gjorde också programmet sannolikt. Den kunde observera en skriven karaktär, sluta sig till hur den troligen hade ritats (programmet för att rita den), och sedan föreställa sig hur nya instanser av samma karaktär kan ritas. Den kunde också rymma viss osäkerhet i informationen den arbetade med och generera en rad utdata: varje exempel på bokstaven A, till exempel, var något annorlunda. Denna förmåga att tolerera osäkerhet hjälpte algoritmen att hantera verkliga situationer. Med erfarenhet kan programmet också bli bättre på att rita nya karaktärer. En del av det som upphetsade oss var denna idé om att 'lära sig att lära', säger Tenenbaum. Och det, förklarar han, är hur vi får förmågan att generalisera effektivt, med glesa data eller till och med bara ett exempel.
I en tidning från 2015 publicerad i Vetenskap , testade teamet algoritmen genom att visa den en enda obekant bokstav och be den producera en ny karaktär som var liknande. De presenterade mänskliga försökspersoner med samma uppgift och bad sedan domare att avgöra vilka av karaktärerna som hade skapats av människor och vilka av maskiner. Anmärkningsvärt nog kunde den stora majoriteten av domarna inte se skillnad. Algoritmen klarade med andra ord en enkel, visuell form av Turing-testet, det klassiska kriteriet för maskinintelligens.
Modellera bebisar
Under de tidiga dagarna av artificiell intelligens var vetenskapen om mänskligt lärande inte tillräckligt avancerad för att ge mycket vägledning. Turing kunde bara ana hur ett barns hjärna var, säger Tenenbaum – den brittiske matematikern betraktade den som en tom anteckningsbok – men nej, det är mycket mer. Och som en del av sin strävan att förstå kunskapens ursprung, har Tenenbaum också samarbetat med att utforska små barns sinnen. 2008 undervisade han en klass vid Harvard med den välkända psykologen Elizabeth Spelke, som har visat att även små barn har vissa former av kunskap som verkar vara inbyggd. (I motsats till Jean Piagets grundläggande arbete – som trodde att barn utveckla objektpermanens, förståelsen att objekt inte bara blinkar in och ut ur existensen, vid cirka åtta månader – Spelke visade att någon form av denna förståelse finns hos två till tre månader gamla.) Spelke övertygade Tenenbaum om att hjärnan är inrättad för att utveckla vissa koncept, och att för att kunna uppskatta mänsklig intelligens fullt ut är det nödvändigt att modellera kärnkunskapen hos mycket små barn. Detta inkluderar intuition om både fysik och psykologi - i synnerhet vår förmåga att tolka andra människors handlingar i termer av deras mentala tillstånd, övertygelser och mål.
Bob O'Connor
Senast utforskade Tenenbaum och Spelke hur 10 månader gamla bebisar kan ta reda på vad andra människor vill ha och hur mycket de värdesätter de mål de strävar efter. För att göra det skapade forskarna animationer där blå, röda och gula karaktärer hoppade över väggar eller utförde andra fysiska uppgifter för att nå varandra. Till exempel kan en röd figur hoppa över en liten vägg för att komma till en blå figur men vägra hoppa över en medelstor vägg. Samma figur kan dock skala en hög vägg för att nå sin gula motsvarighet. Forskarna antog att om spädbarn såg en karaktär arbeta hårdare för att uppnå ett mål, skulle de dra slutsatsen att karaktären värderade den mer än alternativet. Faktum är att när forskare visade en röd figur som stod mellan gult och blått utan vägg och sedan fick den att röra sig mot blått, stirrade bebisarna längre. Det vill säga, efter att ha sett den röda figuren utföra mer arbete för att nå gult, hade de dragit slutsatsen att rött föredrog gult och blev förvånade när den valde blått istället. Detta tyder på att även preverbala spädbarn har en intuitiv förståelse för balansen mellan kostnader och belöningar och hur det spelar in i andra människors beteende, säger Tenenbaum och tillägger att denna psykologiska intuition är grunden för mer komplex social förståelse senare. Arbetet, som leds av postdoc Tomer Ullman, PhD ’15, och Spelkes doktorand Shari Liu, publicerades i Vetenskap under 2017.
Tar en vandring
Hamrick var junior vid MIT när hon började på Tenenbaums labb 2010 och började arbeta med det Jenga-liknande fysikprojektet. När studenter först utsätts för forskning fokuserar de vanligtvis snävt på problemet framför dem, säger hon. Men Tenenbaum inspirerar dem att tänka på hur det passar in i de större frågorna inom vetenskapen också (inte olikt hur han säger att vi lär oss). Det fick mig att känna att forskning var en fantastisk sak att göra, tillägger Hamrick och krediterar hennes erfarenhet i Tenenbaums labb med beslutet att göra en karriär inom vetenskap. (Hon är nu forskare på DeepMind, ett brittiskt AI-företag som ägs av Google.)
Ett sätt som Tenenbaum har främjat en nära och samarbetsanda i sitt labb är genom att ta sina studenter och postdoktorer på årliga vandringar, av vilka några har varit notoriskt intensiva, säger han. När han växte upp i Kalifornien ansåg han Yosemite National Park som en av sina favoritplatser. Och från och med 2002, när han blev biträdande professor vid MIT, började han organisera årliga resor till Vita bergen i New Hampshire. Gruppen åker vanligtvis runt Columbus Day, på höjden av höstlövsäsongen. Men även då har de då och då mött vintriga förhållanden på de högre höjderna. Tenenbaum minns en resa längs Franconia Ridge Trail och skämtar: Det var ingen dödsmarsch – ingen dog – men det var lite snö och alla var inte förberedda, även om de var varnade!
Tillsammans med den intensiva kroppsligheten ger vandring också gruppmedlemmarna en möjlighet att prata brett om vetenskap och livet. När människor vandrar längs en smal stig tenderar de att breda ut sig. Ibland befinner jag mig längst fram, ibland längst bak, säger Tenenbaum. Hur som helst, tillägger han, har jag alltid ett så stort utbud av konversationer som rör sig upp och ner i linjen, samtidigt som jag inspireras av denna vackra plats vi går igenom.
Tenenbaum hämtar också inspiration från föräldraskapet. Hans 16-åriga dotter, Abi, har varit känd för att hjälpa till med sin forskning; vid åtta eller nio års ålder var hon den första deltagaren i Jenga-experimentet. Genast hittade hon en bugg – i huvudsak ett sätt att få ett perfekt resultat – och när hon förklarade det för oss var vi som 'Åh, bra poäng', och skrev om hela experimentet, minns han. Men mer allmänt hänger ihop föräldraskap med Tenenbaums intresse för mänskligt lärande, särskilt hos spädbarn och barn. Upplevelsen av att se ditt barn få sin första smak av glass eller se sin första häst är fantastisk, säger han. Det knyter an till mitt intresse för vad det är man lär sig från första gången man ser något.
Ta itu med stora frågor i skärningspunkten mellan hjärnor, sinnen och intelligenta maskiner
MIT Intelligence Quest (nu kallad MIT Quest for Intelligence) syftar till att genomsyra AI med sann intelligens genom att sammanföra tänkare inom en rad discipliner, från psykologi till datavetenskap. Initiativet behandlar den mänskliga hjärnan (och AI-systemen som försöker efterlikna den) som en stor ingenjörsutmaning. När projektet tillkännagavs i mars delade Josh Tenenbaum detta diagram som sammanfattar några av de stora frågorna som MIT-forskare arbetar med i sex huvudkategorier – och påpekade att frågor som ännu inte ställs kan visa sig vara viktigast.