Vi kan inte lita på AI-system som bygger på enbart djupinlärning

Rebooting AI av Gary Marcus och Ernest Davis med tillstånd av Penguin Random House

Gary Marcus är inte imponerad av hypen kring djupinlärning. Medan NYU-professorn anser att tekniken har spelat en viktig roll för att utveckla AI, tror han också att fältets nuvarande överbetoning av den mycket väl kan leda till dess undergång.

Marcus, en neuroforskare till utbildning som har tillbringat sin karriär i framkanten av AI-forskningen, citerar både tekniska och etiska problem. Ur ett tekniskt perspektiv kan djupinlärning vara bra på att efterlikna den mänskliga hjärnans perceptuella uppgifter, som bild- eller taligenkänning. Men det misslyckas med andra uppgifter, som att förstå konversationer eller orsakssamband. För att skapa mer kapabla och brett intelligenta maskiner, ofta kallade artificiell allmän intelligens, måste djupinlärning kombineras med andra metoder.

När ett AI-system inte riktigt förstår sina uppgifter eller omvärlden kan det också leda till farliga konsekvenser. Även de minsta oväntade förändringarna i ett systems miljö kan få det att gå snett. Redan det har funnits otaliga exempel på detta: hattalsdetektorer som är lätta att lura, ansökningssystem som vidmakthåller diskriminering och självkörande bilar som har kraschat och ibland dödat föraren eller en fotgängare. Strävan efter artificiell allmän intelligens är mer än ett intressant forskningsproblem. Det har väldigt verkliga konsekvenser.

I deras nya bok Startar om AI , Marcus och hans kollega Ernest Davis förespråkar en ny väg framåt. De tror att vi inte är i närheten av att uppnå en sådan allmän intelligens, men de är också övertygade om att vi kan nå dit så småningom.

Jag pratade med Marcus om svagheterna med djupinlärning, de lärdomar som fältet kan låna från det mänskliga sinnet och varför han är optimistisk.

Följande har redigerats för längd och tydlighet.

Varför vill vi ens ha allmän intelligens? Smal AI har redan genererat mycket värde för oss.

Gary Marcus med tillstånd av Gary Marcus

Det har det, och det kommer att generera ännu mer. Men det finns massor av problem som smal AI helt enkelt inte verkar särskilt kapabel till. Saker som samtalsförståelse för naturliga språk och allmän hjälp i den virtuella världen, eller saker som roboten Rosie som kanske kan hjälpa dig att städa ditt hem eller laga middag till dig. De ligger precis utanför ramarna för vad vi kan göra med smal AI. Det är också en intressant empirisk fråga om huruvida smal AI kan få oss till säkra förarlösa bilar. Verkligheten hittills är att smal AI har många problem med extremfall, även för körning, vilket är ett ganska begränsat problem.

Mer generellt tror jag att vi alla skulle vilja se AI hjälpa oss att göra nya upptäckter inom medicin i stor skala. Det är inte klart att nuvarande tekniker kommer att ta oss dit vi behöver vara, eftersom biologin är komplicerad. Du måste verkligen kunna läsa litteraturen. Forskare har kausala förståelser om hur nätverk och molekyler interagerar; de kan utveckla teorier om banor och planeter eller vad som helst. Med smal AI kan vi inte få maskiner att göra den innovationsnivån. Med allmän AI kan vi mycket väl kunna revolutionera vetenskap, teknik, medicin. Så jag tycker att det är ett mycket värdigt projekt att arbeta mot allmän AI.

Det låter som att du använder allmän AI för att referera till robust AI?

Allmän AI handlar om att AI ska kunna tänka i farten och lösa nya problem på egen hand. Detta är i motsats till, låt oss säga, gå, där problemet inte har förändrats på 2 000 år.

Allmän AI borde också kunna arbeta lika bekvämt med att resonera om politik som att resonera om medicin. Det är analogen till vad människor har; vilken någorlunda smart person som helst kan göra många, många olika saker. Du tar en praktikant på grundutbildningen och inom några dagar får de arbeta med allt från ett juridiskt problem till ett medicinskt problem. Det beror på att de har en allmän förståelse för världen och de kan läsa, så de kan bidra till ett mycket brett spektrum av saker.

Förhållandet mellan det och robust intelligens är att om du inte är robust kommer du förmodligen inte riktigt att kunna göra det allmänna. Så för att bygga något som är tillräckligt pålitligt för att hantera en värld som ständigt förändras, måste du förmodligen åtminstone närma dig allmän intelligens.

Men du vet, vi är ganska långt ifrån det just nu. AlphaGo kan spela väldigt bra på ett 19x19-bräde men måste faktiskt tränas om för att spela på ett rektangulärt bräde. Eller så tar du ditt genomsnittliga djupinlärningssystem, och det kan känna igen en elefant så länge som elefanten är väl upplyst och du kan se elefantens struktur. Men om du sätter elefanten i siluett kan den mycket väl inte känna igen den längre.

Som du nämner i din bok kan djupinlärning inte riktigt nå allmän AI eftersom den saknar djup förståelse.

Inom kognitionsvetenskap talar vi om att ha kognitiva modeller av saker. Så jag sitter på ett hotellrum och jag förstår att det finns en garderob, det finns en säng, det är tv:n som är monterad på ett ovanligt sätt. Jag vet att det finns alla dessa saker här, och jag identifierar dem inte bara. Jag förstår också hur de förhåller sig till varandra. Jag har dessa idéer om hur omvärlden fungerar. De är inte perfekta. De är felbara, men de är ganska bra. Och jag drar många slutsatser kring dem för att vägleda mina vardagliga handlingar.

Den motsatta ytterligheten är något som Atari-spelsystemet som DeepMind gjorde, där det memorerade vad det behövde göra eftersom det såg pixlar på särskilda ställen på skärmen. Om du får tillräckligt med data kan det se ut som att du har förståelse, men det är faktiskt en väldigt ytlig förståelse. Beviset är att om du flyttar saker med tre pixlar så spelar det mycket sämre. Det bryter med förändringen. Det är motsatsen till djup förståelse.

Du föreslår att du återvänder till klassisk AI för att lösa denna utmaning. Vilka är styrkorna med klassisk AI som vi borde försöka införliva?

Jag är bara lite förbluffad över hur lite uppskattning djupinlärningsgemenskapen i allmänhet har för det.

Det finns några. Först, klassisk AI faktiskt är ett ramverk för att bygga kognitiva modeller av världen som du sedan kan dra slutsatser om. Den andra saken är att klassisk AI är helt bekväm med regler. Det är en konstig sociologi just nu i djupinlärning där människor vill undvika regler. De vill göra allt med neurala nätverk och göra ingenting med något som ser ut som klassisk programmering. Men det finns problem som rutinmässigt löses på detta sätt som ingen uppmärksammar, som att göra din rutt på Google maps.

Vi behöver faktiskt båda tillvägagångssätten. Maskininlärning är ganska bra på att lära sig av data, men det är väldigt dåligt på att representera den typ av abstraktion som datorprogram representerar. Klassisk AI är ganska bra på abstraktion, men allt måste vara handkodat, och det finns för mycket kunskap i världen för att manuellt mata in allt. Så det verkar uppenbart att det vi vill ha är någon form av syntes som blandar dessa tillvägagångssätt.

Detta knyter an till kapitlet där du nämner flera saker som vi kan lära av det mänskliga sinnet. Den första bygger på det vi redan har pratat om – tanken att våra sinnen består av många olika system som fungerar på olika sätt.

Jag tror att det finns ett annat sätt att göra poängen på, vilket är: varje kognitiva system som vi har gör verkligen en annan sak. På samma sätt måste motsvarigheterna i AI utformas för att hantera olika problem som har olika egenskaper.

Just nu försöker folk använda typ av enhetliga teknologier för att hantera saker som verkligen är fundamentalt annorlunda. Att förstå en mening är fundamentalt annorlunda från att känna igen ett objekt. Men folk försöker använda djupinlärning för att göra båda. Dessa är kvalitativt olika problem ur ett kognitivt perspektiv, och jag är bara lite förbluffad över hur lite uppskattning djupinlärningsgemenskapen i allmänhet har för det. Varför förvänta sig att en silverkula kommer att fungera för allt detta? Det är inte realistiskt, och det avslöjar inte en sofistikerad förståelse för vad utmaningen med AI ens är.

En annan sak du tar upp är behovet av AI-system för att förstå orsakssamband. Tror du att det kommer från djupinlärning, klassisk AI eller något helt nytt?

Det är återigen en plats där djupinlärning inte är särskilt väl lämpad. Deep learning ger inte förklaringar till varför saker händer utan snarare en sannolikhet för vad som kan hända under en given omständighet.

Naturen bygger det första utkastet, det grova utkastet. Sedan reviderar inlärning det utkastet under resten av ditt liv.

Den typ av saker som vi pratar om - du tittar på vissa scenarier och du har en viss förståelse för varför det händer och vad som kan hända om vissa saker ändrades. Jag kan titta på staffliet som hotell-tv:n är på och gissa att om jag skär bort ett av benen kommer staffliet välta och tv:n kommer att ramla ner med den. Det är orsaksresonemang.

Klassisk AI ger oss några verktyg för detta. Det kan till exempel representera vad en stödrelation är och vad som faller omkull. Jag vill dock inte sälja för mycket. Ett problem är klassisk AI mestadels beror på mycket fullständig information om vad som händer, medan jag precis gjorde den slutsatsen utan att faktiskt kunna se hela staffliet. Så jag kan på något sätt göra genvägar och sluta mig till delar av staffliet som jag inte ens kan se. Vi har inte riktigt verktyg som kan göra det ännu.

En tredje sak du tar upp är tanken på att människor har medfödd kunskap. Hur ser du på att det integreras i AI-system?

För människor, när du föds, är din hjärna faktiskt väldigt noggrant strukturerad. Det är inte fixat, men naturen bygger det första utkastet, det grova utkastet. Sedan reviderar inlärning det utkastet under resten av ditt liv.

Ett grovt utkast till hjärnan har redan vissa förmågor. En stenbockunge som bara är några timmar gammal kan klättra nerför ett bergs plan utan att göra misstag. Det är uppenbart att det har en viss förståelse för det tredimensionella rummet, sin egen kropp och det inbördes förhållandet mellan de två. Ganska sofistikerade grejer.

Detta är en del av varför jag tror att vi behöver hybrider. Det är svårt att se hur vi skulle kunna bygga en robot som fungerar bra i världen utan motsvarande kunskap där från början, i motsats till att börja med ett blankt blad och lära oss genom enorm, enorm erfarenhet.

För människor kommer vår medfödda kunskap från våra genom som har utvecklats över tiden. För AI-system måste de komma på ett annat sätt. En del av det kan komma från regler om hur vi bygger våra algoritmer. En del av det kan komma från regler om hur vi bygger de datastrukturer som dessa algoritmer manipulerar. Och så kan en del av det komma från kunskap om att vi bara direkt lär maskinerna.

Det är intressant att du kopplar allt i din bok tillbaka till idén om förtroende och att bygga pålitliga system. Varför valde du just den ramen?

För jag tror att det är hela bollspelet just nu. Jag tror att vi lever i ett konstigt ögonblick i historien där vi ger mycket förtroende till programvara som inte förtjänar det förtroendet. Jag tror att den oro som vi har nu inte är permanent. Om hundra år kommer AI att motivera vårt förtroende – och kanske tidigare.

Men just nu är AI farlig, och inte på det sätt som Elon Musk är orolig för. Men i vägen för anställningsintervjusystem som diskriminerar kvinnor oavsett vad programmerarna gör eftersom teknikerna som de använder är för osofistikerade.

Jag vill att vi ska ha bättre AI. Jag vill inte att vi ska ha en AI-vinter där folk inser att det här inte fungerar och är farligt, och de gör ingenting åt det.

På ett sätt känns din bok faktiskt väldigt optimistisk, eftersom du antyder att det är möjligt att bygga pålitlig AI. Vi behöver bara titta i en annan riktning.

Rätt, boken är mycket kortsiktigt pessimistisk och mycket långsiktig optimistisk. Vi tror att alla problem som vi beskrev i boken kan lösas om fältet tar en bredare syn på vad de rätta svaren är. Och vi tror att om det händer kommer världen att bli en bättre plats.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj