Vad som krävs för att datorer ska vara medvetna

Är en mask medveten? Vad sägs om en humla? Känner en dator som kan spela schack något?

Christopher Koch

För Christof Koch, vetenskapschef på Allen Institute for Brain Science i Seattle, kan svaret på dessa frågor ligga i själva universums struktur. Medvetande, tror han, är en inneboende egenskap hos materia, precis som massa eller energi. Organisera materia på precis rätt sätt, som i däggdjurshjärnan, och här , kan du känna.

Koch, nu 57, har tillbringat nästan ett kvarts sekel med att försöka förklara varför, säg, solen känns varm i ansiktet. Men efter att ha skrivit tre böcker om medvetande , säger Koch att forskare fortfarande är långt ifrån att veta varför det inträffar, eller ens överens om vad det är. Det är ett svårt problem (se Knäcka hjärnans koder). Det är en anledning till att Koch lämnade sin position på Caltech 2011 för att bli en del av ett projekt på 500 miljoner dollar som lanserades av miljardären Paul Allen, Microsofts medgrundare.

Allen Institutes mål är att bygga en detaljerad atlas över varje neuron och synaps i däggdjurshjärnan. Det skulle ge neurovetenskap en eldslang av data liknande vad Human Genome Project uppnådde.

Men Koch har inte gett upp sitt sökande efter en storslagen teori som kan förklara allt. Faktum är att han tror att medvetandet kan förklaras av något som kallas integrerad informationsteori , som hävdar att medvetandet är en produkt av strukturer, som hjärnan, som både kan lagra en stor mängd information och ha en kritisk täthet av sammankopplingar mellan sina delar.

För Koch ger teorin ett sätt att bedöma grader av medvetande hos människor med hjärnskador, hos arter över hela djurriket och till och med, säger han, bland maskiner. Vi frågade Koch om datormedvetande förra veckan under MIT Technology Review s EmTech-konferens.

Kommer att upptäcka den biologiska grunden för medvetandet vara avhumaniserande på något sätt? Tänk om allt bara är en illusion?

Jag tycker att den här synen hos vissa människor att medvetande är en illusion är löjlig. Om det är en illusion så är det den mest kraftfulla illusionen vi har. Jag menar, vad är den mest kända slutsatsen inom västerländsk filosofi? Jag tror. Därför är jag. Det faktum att du har medveten erfarenhet är den enda obestridliga säkerhet du har.

Om forskare upptäcker grunden för medvetande, vilken typ av teknologi kan bli resultatet av det?

Vi skulle kunna ha ett test för att säga vem som har medvetande och vem som inte har det. Vi har väldigt känslosamma debatter i det här landet om abort. Jag skulle vilja ha något objektivt sätt att testa vid vilken tidpunkt ett foster faktiskt börjar få en medveten känsla. Eller om en patient [i koma] är vid medvetande eller inte. Ofta vet man bara inte. Det här är frågor som människor har ställt sedan historisk tid, men när vi väl har en teori och en allmänt accepterad teori kan vi svara på dem. Dessutom, om jag ville bygga en maskin som skulle vara medveten, skulle det ge mig en ritning.

Så du tror att en dator kan vara medveten?

Jag höll en föreläsning [förra veckan] på MIT om Integrated Information Theory, utvecklad av Giulio Tononi vid University of Wisconsin. Detta är en teori som gör en mycket tydlig förutsägelse: den säger att medvetande är en egenskap hos komplexa system som har en viss orsak-verkan-repertoar. De har ett speciellt sätt att interagera med världen, som hjärnan gör, eller i princip, som en dator skulle kunna. Om du skulle bygga en dator som har samma kretsar som hjärnan, skulle den här datorn också ha medvetande associerat med det. Det skulle kännas som något att vara den här datorn. Detsamma gäller dock inte för digitala simuleringar.

Om jag bygger en perfekt mjukvarumodell av hjärnan skulle den aldrig bli medveten, men en specialdesignad maskin som härmar hjärnan skulle det kunna vara?

Korrekt. Denna teori säger tydligt att en digital simulering inte skulle vara medveten, vilket skiljer sig slående från den dominerande funktionalistiska övertygelsen hos 99 procent av folket vid MIT eller filosofer som Daniel Dennett. De säger alla att när du simulerar allt krävs inget annat, och det kommer att vara medvetet.

Jag tror att medvetande, liksom massa, är en grundläggande egenskap hos universum. Analogin, och den är mycket bra, är att du kan göra ganska bra väderförutsägelser nu för tiden. Du kan förutsäga insidan av en storm. Men det är aldrig blött inuti datorn. Du kan simulera ett svart hål i en dator, men rum-tiden kommer inte att böjas. Att simulera något är inte den riktiga varan.

Det är samma sak med medvetandet. Om 100 år kanske du kan simulera medvetande på en dator. Men det kommer inte att uppleva något. Nada. Det blir svart inuti. Det kommer inte att ha någon som helst erfarenhet, även om det kan ha vår intelligens och vår förmåga att tala.

Jag säger inte att medvetandet är en magisk själ. Det är något fysiskt. Medvetandet överstiger alltid det fysiska. Men det krävs en viss typ av hårdvara för att instansiera den. En dator som består av transistorer, som flyttar laddning till och från en grind, där varje grind är ansluten till ett litet antal andra grindar, är bara en helt annan orsak-och-verkan-struktur än vad vi har i hjärnan, där du har en neuron kopplad till 10 000 ingångsneuroner och utskjutande till 10 000 andra neuroner. Men om du skulle bygga datorn på rätt sätt, som en neuromorf dator [se Thinking in Silicon ], kan den vara medveten.

Om jag skulle sätta dig i ett rum med en dator från framtiden, skulle du kunna avgöra om den är medveten?

Jag kunde inte utifrån. Jag skulle behöva titta på dess hårdvara.

Hur är det med Turing-testet?

Frågan som Turing ställde är Kan maskiner tänka ? Men i slutändan är det ett operativt test för intelligens, inte för medvetande. Om du har en smart konversation med någon kille i ett annat rum och efter en halvtimme kan du inte avgöra om det är en dator eller en människa, ja, då säger du att den är lika intelligent som en människa. Men Turing-testet skulle inte berätta för mig om maskinen upplever något. Jag skulle kunna fråga Är du vid medvetande? och maskinen kunde säga Ja, jag är vid fullt medvetande. Och varför påstår du att jag inte är det? Jag är förolämpad. Men jag kunde inte riktigt veta. Jag måste säga, förlåt, jag måste ta isär dig och förstå hur du är gjord och hur du faktiskt genererar dessa olika fysiska tillstånd.

Finns det inte någon trickfråga du kan ställa, som bara en medveten varelse kan svara på?

En mycket bra fråga. Hos människor har vi praktiska tester för medvetande. Om du råkar ut för en allvarlig olycka och går till akuten kommer de att fråga dig: Kan du röra ögonen? Kan du röra dina lemmar? Kan du prata? Om du kan prata, vet du vilket år det är? Vet du vem presidenten är?

Men hur vet jag egentligen att du är medveten? Detta är problemet med solipsism. I sista hand vet jag inte. Men jag vet att din hjärna är väldigt lik min. Jag har lagt många människor i skannrar, och jag vet att de alla har en hjärna och deras hjärnor beter sig som min. Så det finns en helt rimlig slutsats att du också är medveten.

Men ju mer dessa system skiljer sig från mig, desto svårare är det att göra det steg för steg. Ta till exempel ett bi. Känns det som något att vara ett bi och flyga i solens gyllene strålar och ha nektar? Jag har väldigt svårt att veta om ett bi är vid medvetande eller inte. Och en dator är ännu mer radikalt annorlunda. Det finns inget beteende jag kan bedöma det efter. Jag skulle behöva titta på dess underliggande hårdvara.

Tror du att vi någonsin kommer att bygga medvetna maskiner?

Jag är inte säker på varför vi skulle göra det. Men det råder ingen tvekan om att vi kommer att bygga smarta maskiner som klarar Turing-testet långt innan vi förstår den sanna biologiska grunden för mänsklig intelligens. Och jag tror att det finns faror förknippade med det som de flesta människor, som är glada optimister, helt ignorerar.

Vilka faror?

Tittar du inte på science fiction-filmer? Runaway AI såklart. Tänk på finansmarknaden, alla dessa handelsmaskiner, flashkrascher. Människor kommer att missbruka datorintelligens, blint maximera för något mål. Det kommer att leda till mer och mer maktkoncentration bland färre och färre människor. Vi ser det redan, det kommer att leda till massiv arbetslöshet. Och kanske 30 eller 40 år senare tror jag att det verkligen finns en existentialistisk fara för arten, på nivån med kärnvapen eller ett meteoritanfall.

Allt utan att maskinen är vid medvetande? I filmerna är det ögonblick då AI blir galen samma ögonblick som den får medveten självmedvetenhet.

Det beror på att folk vill göra en engagerande berättelse. Om fienden inte känner någonting, om det inte finns något där, är det inte en bra motståndare.

Dölj