Vi kommer aldrig att ha äkta AI utan att först förstå hjärnan

Patrick T Powers

Sökandet efter AI har alltid handlat om att försöka bygga maskiner som tänker – åtminstone i någon mening. Men frågan om hur lika artificiell och biologisk intelligens ska vara har delat åsikter i årtionden. Tidiga ansträngningar för att bygga AI involverade beslutsprocesser och informationslagringssystem som var löst inspirerade av hur människor verkade tänka. Och dagens djupa neurala nätverk är löst inspirerade av hur sammankopplade neuroner eldar i hjärnan. Men lös inspiration är vanligtvis så långt det går.

Relaterad berättelse

Artificiell allmän intelligens: Är vi nära, och är det ens vettigt att försöka?

En maskin som kunde tänka som en person har varit den vägledande visionen för AI-forskning sedan de första dagarna – och är fortfarande dess mest splittrade idé.

De flesta inom AI bryr sig inte så mycket om detaljerna, säger Jeff Hawkins, en neurovetare och teknikentreprenör. Det vill han ändra på. Hawkins har sträckt sig över de två världarna av neurovetenskap och AI i nästan 40 år. 1986, efter några år som mjukvaruingenjör på Intel, dök han upp vid University of California, Berkeley, för att påbörja en doktorsexamen i neurovetenskap, i hopp om att ta reda på hur intelligens fungerade. Men hans ambition slog en vägg när han fick höra att det inte fanns någon där för att hjälpa honom med ett så stort projekt. Frustrerad bytte han Berkeley mot Silicon Valley och grundade 1992 Palm Computing, som utvecklade PalmPilot - en föregångare till dagens smartphones.

Men hans fascination för hjärnor försvann aldrig. Femton år senare återvände han till neurovetenskapen och startade Redwood Center for Theoretical Neuroscience (nu på Berkeley). Idag springer han Numenta , ett neurovetenskapligt forskningsföretag baserat i Silicon Valley. Där studerar han och hans team neocortex, den del av hjärnan som ansvarar för allt vi förknippar med intelligens. Efter en rad genombrott Under de senaste åren har Numenta ändrat fokus från hjärnor till AI och tillämpat det de har lärt sig om biologisk intelligens på maskiner.

Hawkins idéer har inspirerat stora namn inom AI, inklusive Andrew Ng, och fått utmärkelser från sådana som Richard Dawkins, som skrev ett entusiastiskt förord ​​till Hawkins nya bok A Thousand Brains: A New Theory of Intelligence , publicerad 2 mars.

Jag hade en lång pratstund med Hawkins på Zoom om vad hans forskning om mänskliga hjärnor betyder för maskinintelligens. Han är inte den första Silicon Valley-entreprenören som tror att han har alla svar – och alla kommer sannolikt inte att hålla med om hans slutsatser. Men hans idéer kan skaka om AI.

Vår konversation har redigerats för längd och tydlighet.

Varför tror du att AI är på väg åt fel håll just nu?

Det är en komplicerad fråga. Hej, jag är inte en kritiker av dagens AI. Jag tycker det är jättebra; det är användbart. Jag tycker bara inte att det är intelligent.

Mitt största intresse är hjärnor. Jag blev kär i hjärnor för decennier sedan. Jag har haft den inställningen länge att innan vi gör AI måste vi först ta reda på vad intelligens faktiskt är, och det bästa sättet att göra det är att studera hjärnor.

Redan 1980, eller något liknande, kände jag att tillvägagångssätten för AI inte skulle leda till sann intelligens. Och jag har känt samma sak genom alla olika faser av AI – det är ingen ny sak för mig.

Jag tittar på de framsteg som nyligen har gjorts med djupinlärning och det är dramatiskt, det är ganska imponerande – men det tar inte bort det faktum att det i grunden saknas. Jag tror att jag vet vad intelligens är; Jag tror jag vet hur hjärnor gör det. Och AI gör inte vad hjärnor gör.

Säger du att för att bygga en AI måste vi på något sätt återskapa en hjärna?

Nej, jag tror inte att vi kommer att bygga direkta kopior av hjärnor. Jag är inte alls intresserad av hjärnemulering. Men vi kommer att behöva bygga maskiner som fungerar enligt liknande principer. De enda exemplen vi har på intelligenta system är biologiska system. Varför skulle du inte studera det?

Det är som att jag visade dig en dator för första gången och du säger, det är fantastiskt! Jag ska bygga något liknande. Men istället för att titta på det, försöka komma på hur det fungerar, går du bara iväg och börjar försöka göra något från grunden.

Så vad är det hjärnor gör som är avgörande för intelligens som du tror att AI också behöver göra?

Det finns fyra minimiattribut för intelligens, en sorts baslinje. Den första är att lära sig genom att röra på oss: vi kan inte känna av allt omkring oss på en gång. Vi måste flytta för att bygga upp en mental modell av saker, även om det bara rör våra ögon eller händer. Detta kallas förkroppsligande.

Relaterad berättelse

Ett koncept inom psykologi hjälper AI att bättre navigera i vår värld

Därefter tas denna sensoriska input upp av tiotusentals kortikala kolumner, var och en med en partiell bild av världen. De tävlar och kombinerar via ett slags röstsystem att bygga upp en helhetssyn. Det är tusen hjärnor idé . I ett AI-system kan detta innebära en maskin som styr olika sensorer – syn, beröring, radar och så vidare – för att få en mer komplett modell av världen. Även om det vanligtvis finns många kortikala kolonner för varje sinne, såsom syn.

Sedan finns det kontinuerligt lärande, där du lär dig nya saker utan att glömma tidigare saker. Dagens AI-system kan inte göra detta. Och slutligen strukturerar vi kunskap med hjälp av referensramar , vilket innebär att vår kunskap om världen är relativ till vår synvinkel. Om jag drar fingret uppför kanten på min kaffekopp kan jag förutse att jag kommer att känna dess kant, eftersom jag vet var min hand är i förhållande till koppen.

Ditt labb har nyligen gått från neurovetenskap till AI. Motsvarar det att din teori om tusen hjärnor går ihop?

Ganska mycket. Fram till för två år sedan, om du gick in på vårt kontor, var allt neurovetenskap. Sedan gjorde vi övergången. Vi kände att vi hade lärt oss tillräckligt mycket om hjärnan för att börja tillämpa den på AI.

Vilken typ av AI-arbete gör du?

En av de första sakerna vi tittade på var gleshet. När som helst är det bara 2 % av våra nervceller som skjuter; aktiviteten är sparsam. Vi har tillämpat den här idén på nätverk för djupinlärning och vi får dramatiska resultat , som 50 gånger snabbare på befintliga nätverk. Sparsity ger dig också mer robusta nätverk, lägre strömförbrukning. Nu jobbar vi med kontinuerligt lärande.

Det är intressant att du inkluderar rörelse som baslinje för intelligens. Betyder det att en AI behöver en kropp? Behöver det vara en robot?

I framtiden tror jag att skillnaden mellan AI och robotik kommer att försvinna. Men just nu föredrar jag ordet förkroppsligande, för när du pratar om robotar frammanar det bilder av mänskliga robotar, vilket inte är vad jag pratar om. Det viktiga är att AI måste ha sensorer och kunna flytta dem i förhållande till sig själv och de saker som den modellerar. Men du kan också ha en virtuell AI som rör sig på internet.

Denna idé skiljer sig ganska mycket från många populära idéer om intelligens, om en kroppslös hjärna.

Rörelse är verkligen intressant. Hjärnan använder samma mekanismer för att flytta mitt finger över en kaffekopp, eller röra mina ögon, eller till och med när du tänker på ett konceptuellt problem. Din hjärna rör sig genom referensramar för att komma ihåg fakta som den har lagrat på olika platser.

Det viktiga är att vilket intelligent system som helst, oavsett vilken fysisk form det är, lär sig en modell av världen genom att känna av olika delar av den, genom att röra sig i den. Det är berggrunden; du kan inte komma ifrån det. Oavsett om det ser ut som en humanoid robot, en ormrobot, en bil, ett flygplan eller, du vet, bara en dator som sitter på ditt skrivbord och kikar runt på internet – de är alla lika.

Vad tycker de flesta AI-forskare om dessa idéer?

Den stora majoriteten av AI-forskare omfamnar inte riktigt tanken att hjärnan är viktig. Jag menar, ja, folk kom på neurala nätverk för ett tag sedan, och de är typ inspirerade av hjärnan. Men de flesta människor försöker inte replikera hjärnan. Det är bara vad som än fungerar, fungerar. Och dagens neurala nätverk fungerar tillräckligt bra.

Relaterad berättelse

AI-pionjären Geoff Hinton: Deep learning kommer att kunna göra allt För trettio år sedan var Hintons tro på neurala nätverk motstridig. Nu är det svårt att hitta någon som inte håller med, säger han.

Och de flesta inom AI har väldigt liten förståelse för neurovetenskap. Det är inte förvånande, för det är verkligen svårt. Det är inget man bara sätter sig ner och ägnar ett par dagar åt att läsa om. Neurovetenskapen själv har kämpat för att förstå vad fan som händer i hjärnan.

Men ett av de stora målen med att skriva den här boken var att starta ett samtal om intelligens som vi inte har. Jag menar, min ideala dröm är att alla AI-labb i världen läser den här boken och börjar diskutera dessa idéer. Accepterar vi dem? Är vi oense? Det har inte riktigt varit möjligt tidigare. Jag menar, den här hjärnforskningen är mindre än fem år gammal. Jag hoppas att det blir en riktig vändpunkt.

Hur ser du på att dessa samtal förändrar AI-forskningen?

Som fält har AI saknat en definition av vad intelligens är. Du vet, Turing-testet är något av det värsta som någonsin hänt, enligt mig. Än idag fokuserar vi fortfarande så mycket på riktmärken och smarta knep. Jag försöker inte säga att det inte är användbart. En AI som kan upptäcka cancerceller är jättebra. Men är det intelligens? Nej. I boken använder jag exemplet med robotar på Mars som bygger en livsmiljö för människor. Försök att föreställa dig vilken typ av AI som krävs för att göra det. Är det möjligt? Det är fullt möjligt. Jag tror att i slutet av århundradet kommer vi att ha sådana maskiner. Frågan är hur vi kommer ifrån, till exempel, här är ett annat knep till de grunder som behövs för att bygga framtiden.

Vad gjorde Turing för fel när han inledde samtalet om maskinintelligens?

Jag menar bara att om du går tillbaka och läser hans originalverk så försökte han i princip få folk att sluta bråka med honom om huruvida du kunde bygga en intelligent maskin. Han tänkte: Här är några saker att tänka på – sluta störa mig. Men problemet är att det är fokuserat på en uppgift. Kan en maskin göra något som en människa kan göra? Och det har utökats till alla mål vi satt upp för AI. Så att spela Go var en stor prestation för AI. Verkligen? [ skrattar ] Jag menar, okej.

Problemet med alla prestationsbaserade mätvärden, och Turing-testet är ett av dem, är att det bara undviker samtalet eller den stora frågan om vad ett intelligent system är. Om du kan lura någon, om du kan lösa en uppgift med någon form av smart ingenjörskonst, då har du uppnått det riktmärket, men du har inte nödvändigtvis gjort några framsteg mot en djupare förståelse av vad det innebär att vara intelligent.

Är fokus på mänskliga prestationer också ett problem?

Jag tror att många intelligenta maskiner i framtiden inte kommer att göra något som människor gör. Många kommer att vara väldigt enkla och små - du vet, precis som en mus eller en katt. Så att fokusera på språk och mänsklig erfarenhet och allt det här för att klara Turing-testet är lite irrelevant för att bygga en intelligent maskin. Det är relevant om du vill bygga en mänsklig maskin, men jag tror inte att vi alltid vill göra det.

Du berättar en historia i boken om att pitcha handdatorer för en chef på Intel som inte kunde se vad de var till för. Så vad kommer dessa framtida AI:er att göra?

Jag vet inte. Ingen vet. Men jag tvivlar inte på att vi kommer att hitta massor av användbara saker för intelligenta maskiner att göra, precis som vi har gjort för telefoner och datorer. Ingen förutsåg på 1940- eller 50-talen vad datorer skulle göra. Det kommer att vara samma sak med AI. Det kommer att bli bra. Vissa dåliga, men mestadels bra.

Men jag föredrar att tänka på det här på lång sikt. Istället för att fråga Vad är fördelen med att bygga intelligenta maskiner? Jag frågar vad är meningen med livet? Vi lever i ett enormt universum där vi är små prickar av ingenting. Jag har haft detta frågetecken i mitt huvud sedan jag var liten. Varför bryr vi oss om någonting? Varför gör vi allt detta? Vad ska vårt mål vara som art?

Jag tror att det inte handlar om att bevara genpoolen: det handlar om att bevara kunskap. Och om du tänker på det så är intelligenta maskiner nödvändiga för det. Vi kommer inte att finnas kvar för alltid, men våra maskiner kan vara det.

Jag tycker att det är inspirerande. Jag vill ha en mening med mitt liv. Jag tror att AI – AI som jag föreställer mig det, inte dagens AI – är ett sätt att i huvudsak bevara oss själva för en tid och en plats som vi ännu inte känner till.

Dölj