211service.com
Paul Allen: Singulariteten är inte nära
Futurister gillar Vernor Vinge och Ray Kurzweil har hävdat att världen snabbt närmar sig en tipppunkt, där den accelererande takten för smartare och smartare maskiner snart kommer att överträffa alla mänskliga förmågor. De kallar denna tipppunkt för säregenhet , eftersom de tror att det är omöjligt att förutsäga hur den mänskliga framtiden kan utvecklas efter denna punkt. När dessa maskiner väl existerar, hävdar Kurzweil och Vinge, kommer de att ha en övermänsklig intelligens som är så obegriplig för oss att vi inte ens rationellt kan gissa hur våra livserfarenheter skulle förändras. frågar Vinge oss att begrunda människans roll i en värld där maskiner är lika mycket smartare än oss som vi är smartare än våra husdjurshundar och katter. Kurzweil, som är lite mer optimistisk, föreställer sig en framtid där utvecklingen inom medicinsk nanoteknik kommer att tillåta oss att ladda ner en kopia av våra individuella hjärnor till dessa övermänskliga maskiner, lämna våra kroppar bakom oss och på sätt och vis leva för evigt. Det är häftiga grejer.
Kredit: Technology Review
Även om vi antar att denna typ av singularitet en dag kan inträffa, tror vi inte att det är nära. Vi tror faktiskt att det kommer att dröja väldigt länge. Kurzweil håller inte med, baserat på hans extrapolationer om graden av relevanta vetenskapliga och tekniska framsteg. Han resonerar att framstegshastigheten mot singulariteten inte bara är en utveckling av stadigt ökande förmåga, utan i själva verket accelererar exponentiellt - vad Kurzweil kallar Lagen om accelererande avkastning . Han skriver att:
Så vi kommer inte att uppleva 100 år av framsteg under 2000-talet – det kommer att vara mer som 20 000 år av framsteg (i dagens takt). Avkastningen, som chiphastighet och kostnadseffektivitet, ökar också exponentiellt. Det finns till och med exponentiell tillväxt i hastigheten för exponentiell tillväxt. Inom några decennier kommer maskinintelligens att överträffa mänsklig intelligens, vilket leder till The Singularity ... [ett]
Genom att arbeta igenom en uppsättning modeller och historiska data, beräknar Kurzweil berömt att singulariteten kommer att komma runt 2045.
Denna förutsägelse förefaller oss ganska långsökt. Naturligtvis är vi medvetna om att vetenskapens och teknikens historia är full av människor som med tillförsikt hävdar att någon händelse inte kan hända, bara för att senare bevisas fel - ofta på ett spektakulärt sätt. Vi erkänner att det är möjligt men högst osannolikt att Kurzweil så småningom kommer att få rätt. En vuxen hjärna är en ändlig sak, så dess grundläggande funktioner kan i slutändan kännas till genom ihållande mänsklig ansträngning. Men om singulariteten ska komma fram till 2045 kommer den att ta oförutsebara och i grunden oförutsägbara genombrott, och inte för att lagen om accelererande avkastning gjorde den till det oundvikliga resultatet av en specifik exponentiell framstegshastighet.
Kurzweils resonemang vilar på lagen om snabbare returer och dess syskon, men dessa är inte fysiska lagar. De är påståenden om hur tidigare takter av vetenskapliga och tekniska framsteg kan förutsäga den framtida takten. Därför, precis som andra försök att förutsäga framtiden från det förflutna, kommer dessa lagar att fungera tills de inte gör det. Mer problematiskt för singulariteten, härleder dessa typer av extrapolationer mycket av sin övergripande exponentiella form från att anta att det kommer att finnas ett konstant utbud av allt kraftfullare beräkningsmöjligheter. För att lagen ska gälla och singulariteten ska inträffa omkring 2045, måste framstegen i kapacitet ske inte bara i en dators hårdvaruteknologier (minne, processorkraft, busshastighet, etc.) utan också i mjukvaran vi skapar för att köras på dessa mer kapabla datorer. För att uppnå singulariteten räcker det inte att bara köra dagens mjukvara snabbare. Vi skulle också behöva bygga smartare och mer kapabla program. Att skapa den här typen av avancerad programvara kräver en tidigare vetenskaplig förståelse av grunderna för mänsklig kognition, och vi skrapar bara ytan på detta.
Detta tidigare behov av att förstå den grundläggande vetenskapen om kognition är där singulariteten är nära argumenten misslyckas med att övertyga oss. Det är sant att maskinvaruteknik kan utvecklas otroligt snabbt när vi väl har en solid vetenskaplig ram och tillräckliga ekonomiska incitament. Men att skapa programvaran för en riktig datorintelligens på singularitetsnivå kommer att kräva grundläggande vetenskapliga framsteg bortom var vi är idag. Den här typen av framsteg är mycket annorlunda än Moores lag-liknande utveckling av datorhårdvara som inspirerade Kurzweil och Vinge. Att bygga den komplexa mjukvaran som skulle tillåta singulariteten att hända kräver att vi först har en detaljerad vetenskaplig förståelse av hur den mänskliga hjärnan fungerar som vi kan använda som en arkitektonisk guide, eller annars skapa allt om igen . Detta innebär inte bara att känna till hjärnans fysiska struktur, utan också hur hjärnan reagerar och förändras, och hur miljarder parallella neuroninteraktioner kan resultera i mänskligt medvetande och ursprungliga tankar. Att få den här typen av heltäckande förståelse av hjärnan är inte omöjligt. Om singulariteten kommer att inträffa på något liknande Kurzweils tidslinje, kräver vi absolut en massiv acceleration av våra vetenskapliga framsteg för att förstå varje aspekt av den mänskliga hjärnan.
Men historien säger oss att processen med ursprungliga vetenskapliga upptäckter helt enkelt inte beter sig på detta sätt, särskilt inom komplexa områden som neurovetenskap, kärnfusion eller cancerforskning. Övergripande vetenskapliga framsteg för att förstå hjärnan liknar sällan en ordnad, obönhörlig marsch mot sanningen, än mindre en exponentiellt accelererande marsch. Istället är vetenskapliga framsteg ofta oregelbundna, med oförutsägbara blixtar av insikt som avbryter det långsamma labarbetet med att skapa och testa teorier som kan passa med experimentella observationer. Verkligt betydelsefulla konceptuella genombrott kommer inte när de förutsägs, och då och då sveper nya vetenskapliga paradigm genom fältet och får forskare att omvärdera delar av det de trodde att de hade gjort upp. Vi ser detta inom neurovetenskap med upptäckten av långsiktig potentiering, den kolumnära organisationen av kortikala områden och neuroplasticitet. Dessa typer av fundamentala förändringar stöder inte den övergripande Moores Law-acceleration som behövs för att komma till singulariteten på Kurzweils schema.
Komplexitetsbromsen
Det föregående pekar på en grundläggande fråga om hur snabbt en vetenskapligt adekvat redogörelse för mänsklig intelligens kan utvecklas. Vi kallar denna fråga för komplexitetsbroms . När vi går djupare och djupare i vår förståelse av naturliga system, finner vi vanligtvis att vi kräver mer och mer specialiserad kunskap för att karakterisera dem, och vi tvingas att kontinuerligt utöka våra vetenskapliga teorier på mer och mer komplexa sätt. Att förstå de detaljerade mekanismerna för mänsklig kognition är en uppgift som är föremål för denna komplexitetsbroms. Tänk bara på vad som krävs för att grundligt förstå den mänskliga hjärnan på mikronivå. Hjärnans komplexitet är helt enkelt fantastisk. Varje struktur har formats exakt av miljontals år av evolution för att göra en viss sak, vad den än kan vara. Det är inte som en dator, med miljarder identiska transistorer i vanliga minnesarrayer som styrs av en CPU med några olika element. I hjärnan har varje individuell struktur och neurala kretsar förfinats individuellt av evolution och miljöfaktorer. Ju närmare vi tittar på hjärnan, desto större grad av neural variation finner vi. Att förstå den mänskliga hjärnans neurala struktur blir svårare när vi lär oss mer. Med andra ord, ju mer vi lär oss, desto mer inser vi att det finns att veta, och desto mer måste vi gå tillbaka och revidera våra tidigare uppfattningar. Vi tror att en dag kommer denna stadiga ökning av komplexitet att upphöra – hjärnan är trots allt en ändlig uppsättning neuroner och fungerar enligt fysiska principer. Men under överskådlig framtid är det komplexitetsbromsen och ankomsten av kraftfulla nya teorier, snarare än lagen om accelererande avkastning, som kommer att styra takten i vetenskapliga framsteg som krävs för att uppnå singulariteten.
Så även om vi tror att en finkornig förståelse av hjärnans neurala struktur i slutändan är möjlig, har det inte visat sig vara den typ av område där vi kan göra exponentiellt accelererande framsteg. Men anta att forskare gör några lysande nya framsteg inom hjärnskanningsteknik. Singularitetsförespråkare hävdar ofta att vi kan uppnå datorintelligens bara genom att numeriskt simulera hjärnan nerifrån och upp från en detaljerad bild på neural nivå. Till exempel förutspår Kurzweil utvecklingen av oförstörande hjärnskannrar som gör det möjligt för oss att exakt ta en ögonblicksbild av en persons levande hjärna på subneuronnivå. Han föreslår att dessa skannrar med största sannolikhet skulle fungera inifrån hjärnan via miljontals injicerbara medicinska nanobotar. Men oavsett om nanobotbaserad skanning lyckas (och vi är inte ens i närheten av att veta om detta är möjligt), hävdar Kurzweil i huvudsak att detta är det nödvändiga vetenskapliga framstegen som kommer att stänga singulariteten: datorer skulle helt enkelt kunna uppvisa intelligens på mänsklig nivå genom att ladda tillståndet och anslutningen för var och en av hjärnans neuroner inuti en massiv digital hjärnsimulator, koppla in ingångar och utgångar och trycka på start.
Men svårigheten att bygga mjukvara på mänsklig nivå går djupare än att beräkningsmodellera de strukturella kopplingarna och biologin hos var och en av våra neuroner. Hjärndupliceringsstrategier som dessa förutsätter att det inte finns någon grundläggande fråga för att komma till mänsklig kognition annat än att ha tillräcklig datorkraft och neuronstrukturkartor för att göra simuleringen. [två] Även om detta kan vara sant teoretiskt, har det inte fungerat så i praktiken, eftersom det inte tar upp allt som faktiskt behövs för att bygga programvaran. Om vi till exempel ville bygga mjukvara för att simulera en fågels förmåga att flyga under olika förhållanden, är det inte tillräckligt att ha ett komplett diagram över fågelanatomi. För att helt simulera en faktisk fågels flygning behöver vi också veta hur allt fungerar tillsammans. Inom neurovetenskap finns det en parallell situation. Hundratals försök har gjorts (med användning av många olika organismer) att kedja ihop simuleringar av olika neuroner tillsammans med deras kemiska miljö. Det enhetliga resultatet av dessa försök är att för att skapa en adekvat simulering av den verkliga pågående neurala aktiviteten hos en organism behöver du också en stor mängd kunskap om funktionell roll som dessa neuroner spelar, hur deras anslutningsmönster utvecklas, hur de är strukturerade i grupper för att omvandla rå stimuli till information och hur neural informationsbehandling i slutändan påverkar en organisms beteende. Utan denna information har det visat sig omöjligt att konstruera effektiva datorbaserade simuleringsmodeller. Särskilt för människors kognitiva neurovetenskap är vi inte i närheten av den erforderliga nivån av funktionell kunskap. Hjärna simuleringsprojekt pågår idag modellerar bara en liten bråkdel av vad neuroner gör och saknar detaljer för att helt simulera vad som händer i en hjärna. Forskningstakten på detta område, även om den är uppmuntrande, verkar knappast vara exponentiell. Återigen, när vi lär oss mer och mer om den faktiska komplexiteten i hur hjärnan fungerar, är det viktigaste vi finner att problemet faktiskt blir svårare.
AI-metoden
Singularitetsförespråkare vädjar då och då till utvecklingen inom artificiell intelligens (AI) som ett sätt att komma runt den långsamma hastigheten av övergripande vetenskapliga framsteg i nedifrån och upp, neurovetenskapsbaserade metoder för kognition. Det är sant att AI har haft stora framgångar med att duplicera vissa isolerade kognitiva uppgifter, senast med IBMs Watson-system för Jeopardy! fråga svar. Men när vi tar ett steg tillbaka kan vi se att den övergripande AI-baserade kapaciteten inte har ökat exponentiellt heller, åtminstone när den mäts mot skapandet av en helt allmän mänsklig intelligens. Även om vi har lärt oss mycket om hur man bygger individuella AI-system som gör till synes intelligenta saker, har våra system alltid funnits spröd – Deras prestationsgränser är strikt satta av deras interna antaganden och definierande algoritmer, de kan inte generalisera, och de ger ofta meningslösa svar utanför deras specifika fokusområden. Ett datorprogram som spelar utmärkt schack kan inte utnyttja sin skicklighet för att spela andra spel. De bästa medicinska diagnosprogrammen innehåller oerhört detaljerad kunskap om människokroppen men kan inte dra slutsatsen att en lindrare skulle ha ett bra sinne för balans.
Varför har det visat sig så svårt för AI-forskare att bygga människoliknande intelligens, även i liten skala? Ett svar handlar om det grundläggande vetenskapliga ramverket som AI-forskare använder. När människor växer från spädbarn till vuxna börjar de med att skaffa sig en allmän kunskap om världen och sedan kontinuerligt utöka och förfina denna allmänna kunskap med specifik kunskap om olika områden och sammanhang. AI-forskare har vanligtvis försökt göra tvärtom: de har byggt system med djup kunskap om smala områden och försökt skapa en mer generell förmåga genom att kombinera dessa system. Den här strategin har generellt sett inte varit framgångsrik, även om Watsons prestation fortsatte Jeopardy! indikerar att vägar som denna ännu kan ha lovat. De få försök som har gjorts för att direkt skapa en stor mängd allmän kunskap om världen och sedan lägga till den specialiserade kunskapen om en domän (till exempel arbetet med Cycorp ), har också haft begränsad framgång. Och i vilket fall som helst har AI-forskare bara precis börjat teoretisera om hur man effektivt kan modellera de komplexa fenomen som ger mänsklig kognition dess unika flexibilitet: osäkerhet, kontextkänslighet, tumregler, självreflektion och insiktsblixtar som är väsentliga till tanke på högre nivå. Precis som inom neurovetenskap verkar den AI-baserade vägen för att uppnå datorintelligens på singularitetsnivå kräva många fler upptäckter, några nya teorier av Nobelkvalitet och förmodligen till och med helt nya forskningsmetoder som inte står i proportion till vad vi tror nu. Den här typen av grundläggande vetenskapliga framsteg sker inte på en tillförlitlig exponentiell tillväxtkurva. Så även om utvecklingen inom AI i slutändan kan bli vägen till singulariteten, bromsar komplexitetsbromsen återigen vår framstegshastighet och driver singulariteten avsevärt in i framtiden.
Den häpnadsväckande invecklade mänsklig kognition bör tjäna som en varning för dem som hävdar att singulariteten är nära. Utan att ha en vetenskapligt djup förståelse av kognition, kan vi inte skapa programvaran som kan utlösa singulariteten. Snarare än det ständigt accelererande framsteg som förutspåtts av Kurzweil, tror vi att framstegen mot denna förståelse i grunden bromsas av komplexitetsbromsen. Vår förmåga att uppnå denna förståelse, antingen via AI eller neurovetenskapens tillvägagångssätt, är i sig en mänsklig kognitiv handling, som härrör från den oförutsägbara naturen hos mänsklig uppfinningsrikedom och upptäckt. Framstegen här påverkas djupt av hur våra hjärnor absorberar och bearbetar ny information, och av forskarnas kreativitet när det gäller att skapa nya teorier. Det styrs också av hur vi socialt organiserar forskningsarbetet inom dessa områden och sprider den kunskap som blir resultatet. På Vulcanus och vid Allen Institute for Brain Science , arbetar vi på avancerade verktyg för att hjälpa forskare att hantera denna skrämmande komplexitet och påskynda dem i sin forskning. Att få en heltäckande vetenskaplig förståelse för mänsklig kognition är ett av de svåraste problemen som finns. Vi fortsätter att göra uppmuntrande framsteg. Men i slutet av århundradet, tror vi, kommer vi fortfarande att undra om singulariteten är nära.
Paul G. Allen, som var med och grundade Microsoft 1975, är en filantrop och ordförande för Vulcan, som investerar i en rad teknik-, flyg-, underhållnings- och sportföretag. Mark Greaves är en datavetare som fungerar som Vulcans chef för kunskapssystem.
[ett] Kurzweil, The Law of Accelerating Returns, mars 2001.
[två] Vi börjar komma inom räckhåll för den datorkraft vi kan behöva för att stödja den här typen av massiv hjärnsimulering. Petaflop-klass datorer (som IBM:s BlueGene/P som användes i Watson-systemet) är nu tillgängliga kommersiellt. Exaflop-klassdatorer finns för närvarande på ritborden. Dessa system skulle förmodligen kunna använda den råa beräkningskapacitet som behövs för att simulera avfyrningsmönstren för alla hjärnans neuroner, även om det för närvarande sker många gånger långsammare än vad som skulle hända i en verklig hjärna.
UPPDATERING: Ray Kurzweil svarar här .