211service.com
Nej, experterna tror inte att superintelligent AI är ett hot mot mänskligheten
Om du tror på allt du läser är du förmodligen ganska orolig över utsikterna till en superintelligent, mördare AI. De väktare , en brittisk tidning, varnade nyligen att vi är som barn som leker med en bomb, och en ny Newsweek rubriken lyder: Artificiell intelligens kommer och det kan utplåna oss.
Många sådana rubriker, underblåsta av kommentarer från sådana som Elon Musk och Stephen Hawking, är starkt influerade av en mans arbete: professor Nick Bostrom, författare till den filosofiska avhandlingen Superintelligens: vägar, faror och strategier .
Bostrom är en Oxford-filosof, men kvantitativ bedömning av risker är den försäkringstekniska vetenskapens provins. Han kan kallas världens första framstående aktuariella filosof, även om termen verkar vara en oxymoron med tanke på att filosofin är en arena för konceptuella argument, och riskbedömning är en datadriven statistisk övning.
Så vad säger uppgifterna? Bostrom sammanställer resultaten från fyra olika undersökningar av grupper som deltagare i en konferens kallad Philosophy and Theory of AI, som hölls 2011 i Thessaloniki, Grekland, och medlemmar av Greek Association for Artificial Intelligence (han tillhandahåller inte svarsfrekvenser eller formuleringen frågor, och han redogör inte för beroendet av data som samlats in i Grekland).
Hans resultat presenteras som sannolikheter för att AI på mänsklig nivå kommer att uppnås inom en viss tid:
År 2022: 10 procent.
År 2040: 50 procent.
År 2075: 90 procent.
Denna sammansättning av fyra undersökningar är huvudkällan till data om tillkomsten av intelligens på mänsklig nivå i över 300 sidor med filosofiska argument, fabler och metaforer.
För att få en mer korrekt bedömning av åsikten från ledande forskare inom området vände jag mig till Fellows of the American Association for Artificial Intelligence, en grupp forskare som är erkända för att ha gjort betydande, varaktiga bidrag till området.
I början av mars 2016 skickade AAAI ut en anonym undersökning å mina vägnar och ställde följande fråga till 193 stipendiater:
I sin bok har Nick Bostrom definierat Superintelligens som ’ett intellekt som är mycket smartare än de bästa mänskliga hjärnorna inom praktiskt taget alla områden, inklusive vetenskaplig kreativitet, allmän visdom och sociala färdigheter.’ När tror du att vi kommer att uppnå Superintelligens?
Under den kommande veckan eller så svarade 80 stipendiater (en svarsfrekvens på 41 procent), och deras svar sammanfattas nedan:
I huvudsak, enligt 92,5 procent av de tillfrågade, ligger superintelligens bortom den förutsebara horisonten. Denna tolkning stöds också av skriftliga kommentarer som delas av stipendiaten.
Även om undersökningen var anonym, valde 44 stipendiater att identifiera sig, inklusive Geoff Hinton (deep-learning luminary), Ed Feigenbaum (Stanford, Turing Award-vinnare), Rodney Brooks (ledande robotiker) och Peter Norvig (Google).
Respondenterna delade också flera kommentarer, inklusive följande:
Så, så, mycket mer än 25 år. Århundraden med största sannolikhet. Men inte aldrig.
Vi konkurrerar med miljontals års utveckling av den mänskliga hjärnan. Vi kan skriva enkla program som kan konkurrera med människor och ibland briljera, men världen är inte snyggt indelad i enkla problemfrågor.
Nick Bostrom är en professionell skrämselförare. Hans instituts roll är att hitta existentiella hot mot mänskligheten. Han ser dem överallt. Jag är frestad att hänvisa till honom som 'Donald Trump' av AI.
Undersökningar har naturligtvis begränsat vetenskapligt värde. De är notoriskt känsliga för frågeformuleringar, urval av respondenter etc. Det är dock den enda datakällan som Bostrom själv vänder sig till.
En annan metod skulle vara att extrapolera från det nuvarande tillståndet för AI till framtiden. Detta är dock svårt eftersom vi inte har ett kvantitativt mått på det aktuella tillståndet för intelligens på mänsklig nivå. Vi har uppnått superintelligens i brädspel som schack och Go (se Googles AI Masters Go a Decennium Tidigare än förväntat), och ändå lyckades våra program inte få över 60 procent på åttonde klass vetenskapstester, vilket Allen Institutes forskning har visat (se The Bästa AI-programmet gör fortfarande ett vetenskapligt test i åttonde klass ), eller över 48 procent i disambiguerande enkla meningar (se Tuffare Turing-test avslöjar Chatbots dumhet).
Det finns många giltiga farhågor om AI, från dess inverkan på jobb till dess användning i autonoma vapensystem och till och med till den potentiella risken för superintelligens. Förutsägelser om att superintelligens är vid den förutsebara horisonten stöds dock inte av tillgängliga data. Dessutom misslyckas förutsägelser om undergång och dysterhet ofta att ta hänsyn till de potentiella fördelarna med AI för att förhindra medicinska fel, minska bilolyckor och mer.
Slutligen är det möjligt att AI-system kan samarbeta med människor för att skapa en symbiotisk superintelligens. Det skulle vara mycket annorlunda än det fördärvliga och autonoma slag som professor Boström föreställt sig.
Oren Etzioni är VD för Allen Institute for Artificial Intelligence och professor i datavetenskap vid University of Washington.
Uppdaterad 2 november 2016:
Jag är glad över att professorerna Dafoe & Russell, som svarade på min artikel här, och jag verkar vara överens i tre kritiska frågor. För det första bör vi avstå från ad hominem-attacker. Här måste jag be om ursäkt: Jag borde inte ha citerat den anonyma AAAI-stipendiaten som liknade Dr Bostrom med Donald Trump. Jag menade inte att ge min röst till den jämförelsen; Jag bad uppriktigt Bostrom om ursäkt för detta misstag via e-post, en ursäkt som han nådigt accepterade. Två, som forskare måste vi bedöma uttalanden om risken med AI baserat på data. Det var min viktigaste poäng kort artikel , och artikeln erbjöd unik information om detta ämne. Tre, vi är också överens om att media har felaktigt framställt konsekvenserna av Bostroms arbete – ett ämne av stor oro som i viss mån mildrades av Vita husets rapport om AI . Naturligtvis skiljer vi oss åt i många av detaljerna och krångligheterna i argumenten, men tiden får utvisa.