AI-förutsägelsernas sju dödssynder

Joost Swarte

Vi är omgivna av hysteri om framtiden för artificiell intelligens och robotik – hysteri om hur kraftfulla de kommer att bli, hur snabbt och vad de kommer att göra med jobben.

Jag såg nyligen en berättelse i MarketWatch som sagt Robotar kommer att ta hälften av dagens jobb om 10 till 20 år . Den hade till och med en grafik för att bevisa siffrorna.

Den här historien var en del av vårt novembernummer 2017

• Se resten av frågan
• Prenumerera

Påståendena är löjliga. (Jag försöker behålla ett professionellt språk, men ibland...) Till exempel verkar historien säga att vi kommer att gå från en miljon mark- och underhållsarbetare i USA till endast 50 000 om 10 till 20 år, eftersom robotar kommer att ta över dessa jobb . Hur många robotar är för närvarande i drift i dessa jobb? Noll . Hur många realistiska demonstrationer har det varit av robotar som arbetar på den här arenan? Noll . Liknande historier gäller för alla andra kategorier där det föreslås att vi kommer att se slutet på mer än 90 procent av jobben som för närvarande kräver fysisk närvaro på någon speciell plats.

Felaktiga förutsägelser leder till rädsla för saker som inte kommer att hända, oavsett om det är den omfattande förstörelsen av jobb, singulariteten eller tillkomsten av AI som har andra värden än våra och som kan försöka förstöra oss. Vi måste trycka tillbaka på dessa misstag. Men varför gör folk dem? Jag ser sju vanliga orsaker.

Joost Swarte

1. Överskattning och underskattning

Roy Amara var en av grundarna av Institute for the Future i Palo Alto, Silicon Valleys intellektuella hjärta. Han är mest känd för sitt ordspråk som nu kallas Amaras lag:

Vi tenderar att överskatta effekten av en teknik på kort sikt och underskatta effekten på lång sikt.

Det är mycket samlat i dessa 21 ord. En optimist kan läsa det på ett sätt och en pessimist kan läsa det på ett annat.

Ett bra exempel på de två sidorna av Amaras lag är U.S. Global Positioning System. Från och med 1978 placerades en konstellation av 24 satelliter (nu 31 inklusive reservdelar) i omloppsbana. Målet med GPS var att tillåta exakt leverans av ammunition av den amerikanska militären. Men programmet lades nästan ner gång på gång på 1980-talet. Den första operativa användningen för sitt avsedda syfte var 1991 under Desert Storm; det krävdes flera framgångar för militären att acceptera dess användbarhet.

Felaktiga förutsägelser leder till rädsla för saker som inte kommer att hända.

Idag är GPS i vad Amara skulle kalla det långsiktiga, och sättet att använda den var till en början oanade. Min Series 2 Apple Watch använder GPS när jag är ute och springer och registrerar min plats tillräckligt exakt för att se vilken sida av gatan jag springer längs. Den lilla storleken och priset på mottagaren skulle ha varit obegriplig för de tidiga GPS-ingenjörerna. Tekniken synkroniserar fysikexperiment över hela världen och spelar en intim roll för att synkronisera det amerikanska elnätet och hålla det igång. Det låter till och med högfrekventa handlare som verkligen kontrollerar aktiemarknaden för det mesta undvika katastrofala timingfel. Den används av alla våra flygplan, stora som små, för att navigera, och den används för att spåra människor ut ur fängelset villkorligt. Det avgör vilken frövariant som kommer att planteras i vilken del av många fält över hela världen. Den spårar lastbilsflottor och rapporterar om förarens prestanda.

GPS började med ett mål, men det var svårt att få det att fungera så bra som ursprungligen förväntades. Nu har det sipprat in i så många aspekter av våra liv att vi inte bara skulle gå vilse om det försvann; vi skulle vara kalla, hungriga och möjligen döda.

Vi ser ett liknande mönster med andra teknologier under de senaste 30 åren. Ett stort löfte på förhand, besvikelse och sedan långsamt växande förtroende för resultat som överträffar de ursprungliga förväntningarna. Detta gäller beräkningar, genomsekvensering, solenergi, vindkraft och till och med hemleverans av matvaror.

AI har överskattats om och om igen, på 1960-talet, på 1980-talet, och jag tror igen nu, men dess framtidsutsikter på lång sikt underskattas förmodligen också. Frågan är: Hur lång är det långsiktiga ? De följande sex felen hjälper till att förklara varför tidsskalan kraftigt underskattas för AIs framtid.

Joost Swarte

2. Att föreställa sig magi

När jag var tonåring var Arthur C. Clarke en av de tre stora science fiction-författarna, tillsammans med Robert Heinlein och Isaac Asimov. Men Clarke var också en uppfinnare, en vetenskapsskribent och en futurist. Mellan 1962 och 1973 formulerade han tre ordspråk som har kommit att kallas Clarkes tre lagar:

När en framstående men äldre forskare säger att något är möjligt har han nästan säkert rätt. När han säger att något är omöjligt har han mycket troligt fel.

Det enda sättet att upptäcka det möjligas gränser är att våga sig en bit förbi dem in i det omöjliga.

All tillräckligt avancerad teknik går inte att skilja från magi.

Personligen borde jag nog vara försiktig med den andra meningen i hans första lag, eftersom jag är mycket mer konservativ än vissa andra om hur snabbt AI kommer att stiga. Men för nu vill jag förklara Clarkes tredje lag.

Föreställ dig att vi hade en tidsmaskin och att vi kunde transportera Isaac Newton från slutet av 1600-talet till idag, sätta ner honom på en plats som skulle vara bekant för honom: Trinity College Chapel vid University of Cambridge.

Visa nu Newton an Apple. Dra fram en iPhone ur fickan och slå på den så att skärmen lyser och är full av ikoner, och lämna den till honom. Newton, som avslöjade hur vitt ljus är tillverkat av komponenter av olikfärgat ljus genom att dra isär solljus med ett prisma och sedan sätta ihop det igen, skulle utan tvekan bli förvånad över ett så litet föremål som producerar så levande färger i kapellets mörker . Spela nu en film från en engelsk countryscen och sedan lite kyrkomusik som han skulle ha hört. Och sedan visa honom en webbsida med hans över 500 sidor personligt kommenterad kopia av hans mästerverk Principer , lära honom hur man använder nypgesten för att zooma in på detaljer.

Se upp för argument om framtida teknik som är magisk.

Kunde Newton börja förklara hur den här lilla enheten gjorde allt det? Även om han uppfann kalkyl och förklarade både optik och gravitation, kunde han aldrig sortera ut kemi från alkemi. Så jag tror att han skulle bli upprörd och oförmögen att komma på ens den minsta sammanhängande översikten av vad den här enheten var. Det skulle inte vara annorlunda för honom från en förkroppsligande av det ockulta - något som var av stort intresse för honom. Det skulle inte kunna skiljas från magi. Och kom ihåg att Newton var en riktigt smart kille.

Om något är magiskt är det svårt att veta dess begränsningar. Anta att vi vidare visar Newton hur enheten kan lysa upp mörkret, hur den kan ta foton och filma och spela in ljud, hur den kan användas som förstoringsglas och som spegel. Sedan visar vi honom hur det kan användas för att utföra aritmetiska beräkningar med otrolig hastighet och med många decimaler. Vi visar den räkna stegen han har tagit när han bär den, och visar honom att han kan använda den för att prata med människor var som helst i världen, direkt, därifrån i kapellet.

Vad mer kan Newton gissa att enheten kan göra? Prismor fungerar för evigt. Skulle han gissa att iPhone skulle fungera för alltid precis som den är, utan att förstå att den behöver laddas om? Kom ihåg att vi tog honom från en tid 100 år före Michael Faradays födelse, så han saknade en vetenskaplig förståelse för elektricitet. Om iPhone kan vara en ljuskälla utan eld, kan den kanske också omvandla bly till guld?

Detta är ett problem vi alla har med föreställd framtidsteknik. Om det är tillräckligt långt borta från den teknik vi har och förstår idag, då känner vi inte till dess begränsningar. Och om det blir omöjligt att skilja från magi, är allt man säger om det inte längre falsifierbart.

Detta är ett problem jag stöter på regelbundet när jag försöker diskutera med människor om huruvida vi ska frukta artificiell allmän intelligens, eller AGI – idén att vi kommer att bygga autonoma agenter som fungerar ungefär som varelser i världen. Jag får höra att jag inte förstår hur kraftfullt AGI kommer att vara. Det är inget argument. Vi har ingen aning om det ens kan existera. Jag skulle vilja att det fanns – det här har alltid varit min egen motivation för att arbeta med robotik och AI. Men dagens AGI-forskning går inte alls bra när det gäller att antingen vara allmän eller stödja en oberoende enhet med en pågående existens. Det verkar mest ha fastnat i samma frågor i resonemang och sunt förnuft som AI har haft problem med i minst 50 år. Alla bevis som jag ser säger att vi ännu inte har någon riktig aning om hur man bygger en. Dess egenskaper är helt okända, så retoriskt blir den snabbt magisk, kraftfull utan gränser.

Ingenting i universum är obegränsat.

Se upp för argument om framtida teknik som är magisk. Ett sådant argument kan aldrig vederläggas. Det är ett trosbaserat argument, inte ett vetenskapligt argument.

Joost Swarte

3. Prestation kontra kompetens

Vi använder alla ledtrådar om hur människor utför en viss uppgift för att uppskatta hur väl de kan utföra en annan uppgift. I en främmande stad frågar vi en främling på gatan om vägbeskrivning, och hon svarar med tillförsikt och med vägbeskrivningar som verkar vettiga, så vi tror att vi också kan fråga henne om det lokala systemet för att betala när du vill åka buss.

Anta nu att en person berättar för oss att ett speciellt foto visar människor som spelar frisbee i parken. Vi utgår naturligtvis från att denna person kan svara på frågor som t.ex Vilken form har en frisbee? Ungefär hur långt kan en person kasta en frisbee? Kan en person äta en frisbee? Ungefär hur många spelar frisbee samtidigt? Kan en tre månader gammal person spela frisbee? Är dagens väder lämpligt för att spela frisbee?

Datorer som kan märka bilder som människor som spelar frisbee i en park har ingen chans att svara på de frågorna. Förutom det faktum att de bara kan märka fler bilder och inte kan svara på frågor alls, har de ingen aning om vad en person är, att parker vanligtvis ligger utanför, att människor har åldrar, att vädret är något mer än hur det får ett foto att se ut, etc.

Detta betyder inte att dessa system är värdelösa; de är av stort värde för sökmotorer. Men här är vad som går fel. Folk hör att någon robot eller något AI-system har utfört någon uppgift. De generaliserar sedan från den prestationen till en kompetens som en person som utför samma uppgift kan förväntas ha. Och de tillämpar den generaliseringen på roboten eller AI-systemet.

Dagens robotar och AI-system är otroligt smala i vad de kan göra. Generaliseringar av mänsklig stil gäller inte.

Joost Swarte

4. Resväska ord

Marvin Minsky kallade ord som har en mängd olika betydelser för resväska ord. Lärande är ett kraftfullt resväska ord; det kan syfta på så många olika typer av erfarenheter. Att lära sig använda ätpinnar är en helt annan upplevelse än att lära sig låten av en ny låt. Och att lära sig skriva kod är en helt annan upplevelse än att lära sig runt en stad.

När människor hör att maskininlärning gör stora framsteg inom någon ny domän, tenderar de att som en mental modell använda det sätt på vilket en person skulle lära sig den nya domänen. Maskininlärning är dock mycket spröd, och det kräver mycket förberedelse av mänskliga forskare eller ingenjörer, specialkodning, specialuppsättningar av träningsdata och en anpassad inlärningsstruktur för varje ny problemdomän. Dagens maskininlärning är inte alls den svampliknande inlärning som människor ägnar sig åt och gör snabba framsteg inom en ny domän utan att behöva ändras kirurgiskt eller specialbyggas.

På samma sätt, när folk hör att en dator kan slå världsmästaren i schack (1997) eller en av världens bästa Go-spelare (2016), tenderar de att tro att den spelar spelet precis som en människa skulle göra. Naturligtvis hade dessa program i verkligheten ingen aning om vad ett spel faktiskt var, eller ens att de spelade. De var också mycket mindre anpassningsbara. När människor spelar ett spel, en liten förändring i reglerna inte kasta bort dem. Inte så för AlphaGo eller Deep Blue.

Resväska ord vilseleder människor om hur bra maskiner klarar sig vid uppgifter som människor kan utföra. Det beror delvis på att AI-forskare – och, ännu värre, deras institutionella presskontor – är ivriga att hävda framsteg i en instans av ett resväskakoncept. Den viktiga frasen här är ett exempel. Den detaljen försvinner snart. Rubriker basunerar ut resväskans ord och förvränger den allmänna förståelsen av var AI är och hur nära det är att åstadkomma mer.

Joost Swarte

5. Exponentialer

Många människor lider av ett allvarligt fall av exponentialism.

Alla har en uppfattning om Moores lag, som tyder på att datorer blir bättre och bättre på ett ur-liknande schema. Vad Gordon Moore faktiskt sa var att antalet komponenter som fick plats på ett mikrochip skulle fördubblas varje år. Det gällde i 50 år, även om tidskonstanten för fördubbling gradvis förlängdes från ett år till över två år, och mönstret närmar sig sitt slut.

En fördubbling av komponenterna på ett chip har gjort att datorer kontinuerligt har fördubblats i hastighet. Och det har lett till minneskretsar som fyrdubblas i kapacitet vartannat år. Det har också lett till digitalkameror som har bättre och bättre upplösning, och LCD-skärmar med exponentiellt fler pixlar.

Anledningen till att Moores lag fungerade är att den tillämpades på en digital abstraktion av en sann-eller-falsk fråga. Finns det en elektrisk laddning eller spänning i någon given krets eller inte? Svaret är fortfarande klart när chipkomponenter blir mindre och mindre - tills en fysisk gräns ingriper, och vi kommer ner till komponenter med så få elektroner att kvanteffekter börjar dominera. Det är där vi är nu med vår kiselbaserade chipteknologi.

När människor lider av exponentialism, kanske de tror att de exponentiala de använder för att motivera ett argument kommer att fortsätta i snabb takt. Men Moores lag och andra till synes exponentiella lagar kan misslyckas eftersom de inte var riktigt exponentiella i första hand.

Tillbaka i den första delen av detta århundrade, när jag drev MIT:s datavetenskap och artificiell intelligens Laboratory (CSAIL) och behövde hjälpa till att samla in pengar till över 90 olika forskargrupper, försökte jag använda minnesökningen på iPods för att visa sponsorer hur saker och ting fortsatte att förändras mycket snabbt. Här är uppgifterna om hur mycket musiklagring man fick i en iPod för $400 eller mindre:

år	gigabyte
2002	10
2003	tjugo
2004	40
2006	80
2007	160

Sedan skulle jag extrapolera några år och fråga vad vi skulle göra med allt det där minnet i fickan.

Extrapolerat fram till idag skulle vi förvänta oss att en $400 iPod skulle ha 160 000 gigabyte minne. Men dagens bästa iPhone (som kostar mycket mer än $400) har bara 256 gigabyte minne, mindre än dubbelt så mycket kapacitet som 2007 års iPod. Denna speciella exponential kollapsade mycket plötsligt när mängden minne kom till en punkt där det var tillräckligt stort för att hålla alla rimliga personers musikbibliotek och appar, foton och videor. Exponentialer kan kollapsa när en fysisk gräns nås, eller när det inte finns något mer ekonomiskt skäl att fortsätta med dem.

På samma sätt har vi sett en plötslig ökning av prestanda för AI-system tack vare framgången med djupinlärning. Många människor verkar tro att det betyder att vi kommer att fortsätta att se AI-prestanda öka med lika många gånger på en regelbunden basis. Men framgången för djupinlärning var under 30 år, och det var en isolerad händelse.

Det betyder inte att det inte kommer att bli fler isolerade händelser, där arbete från AI-forskningens bakvatten plötsligt ger en snabb ökning av prestandan för många AI-applikationer. Men det finns ingen lag som säger hur ofta de kommer att hända.

Joost Swarte

6. Hollywood-scenarier

Handlingen för många Hollywood science fiction-filmer är att världen är precis som den är idag, förutom en ny twist.

I Tvåhundraårig man , Richard Martin, spelad av Sam Neill, sätter sig ner till frukosten och blir uppvaktad av en gående, pratande humanoid robot, spelad av Robin Williams. Richard plockar fram en tidning för att läsa över frukosten. En tidning! Tryckt på papper. Inte en surfplatta, inte en podcast som kommer från en Amazon Echo-liknande enhet, inte en direkt neural anslutning till Internet.

Det visar sig att många AI-forskare och AI-forskare, särskilt de pessimister som hänger sig åt förutsägelser om att AI kommer utom kontroll och dödar människor, är likadana fantasiutmanade. De ignorerar det faktum att om vi så småningom kan bygga sådana smarta enheter kommer världen att ha förändrats avsevärt då. Vi kommer inte plötsligt att bli förvånade över förekomsten av sådana superintelligenser. De kommer att utvecklas tekniskt över tiden, och vår värld kommer att bli befolkad av många andra intelligenser, och vi kommer redan att ha massor av erfarenhet. Långt innan det finns onda superintelligenser som vill bli av med oss, kommer det att finnas något mindre intelligenta, mindre krigförande maskiner. Innan dess kommer det att finnas riktigt griniga maskiner. Innan dess, ganska irriterande maskiner. Och framför dem, arroganta, obehagliga maskiner. Vi kommer att förändra vår värld längs vägen och anpassa både miljön för ny teknik och den nya tekniken i sig. Jag säger inte att det kanske inte finns utmaningar. Jag säger att de inte kommer att vara plötsliga och oväntade, som många tror.

Joost Swarte

7. Utbyggnadshastighet

Nya versioner av programvara distribueras mycket ofta i vissa branscher. Nya funktioner för plattformar som Facebook distribueras nästan varje timme. För många nya funktioner, så länge de har klarat integrationstester, finns det väldigt lite ekonomisk nackdel om ett problem dyker upp på fältet och versionen måste dras tillbaka. Detta är ett tempo som Silicon Valley och webbprogramutvecklare har vant sig vid. Det fungerar eftersom marginalkostnaden för nyinstallation av kod är väldigt, väldigt nära noll.

Att implementera ny hårdvara har å andra sidan betydande marginalkostnader. Det vet vi från våra egna liv. Många av de bilar vi köper idag, som inte är självkörande, och för det mesta inte är mjukvaruaktiverade, kommer förmodligen fortfarande att finnas på vägen år 2040. Detta sätter en inneboende gräns för hur snart alla våra bilar kommer att vara självkörande. -körning. Om vi ​​bygger ett nytt hem idag kan vi räkna med att det kan finnas kvar i över 100 år. Byggnaden jag bor i byggdes 1904, och den är inte alls den äldsta i mitt kvarter.

Kapitalkostnader håller fysisk hårdvara kvar under lång tid, även när det finns högteknologiska aspekter av det, och även när det har ett existentiellt uppdrag.

Det amerikanska flygvapnet flyger fortfarande B-52H-varianten av bombplanet B-52. Denna version introducerades 1961, vilket gör den 56 år gammal. Den sista byggdes 1962, för bara 55 år sedan. För närvarande förväntas dessa plan fortsätta flyga till åtminstone 2040, och kanske längre - det talas om att förlänga deras livslängd till 100 år.

Jag ser regelbundet decennier gammal utrustning i fabriker runt om i världen. Jag ser till och med datorer som kör Windows 3.0 – en mjukvaruversion som släpptes 1990. Tanken är att Om den inte är trasig, fixa den inte. Dessa datorer och deras mjukvara har kört samma applikation som gör samma uppgift tillförlitligt i över två decennier.

Nästan alla innovationer inom robotik och AI tar långt, långt, längre tid att få en riktigt stor spridning än vad människor på fältet och utanför fältet föreställer sig.

Den huvudsakliga kontrollmekanismen i fabriker, inklusive helt nya i USA, Europa, Japan, Korea och Kina, är baserad på programmerbara logiska styrenheter eller PLC:er. Dessa introducerades 1968 för att ersätta elektromekaniska reläer. Spolen är fortfarande den huvudsakliga abstraktionsenheten som används idag, och PLC:er är programmerade som om de vore ett nätverk av 24-volts elektromekaniska reläer. Fortfarande. Några av de direkta ledningarna har ersatts av Ethernet-kablar. Men de ingår inte i ett öppet nätverk. Istället är de individuella kablar, som löper punkt till punkt, som fysiskt förkroppsligar kontrollflödet – den ordning som stegen utförs i – i dessa helt nya gamla automationskontroller. När du vill ändra informationsflödet, eller styra flödet, i de flesta fabriker runt om i världen, tar det veckor av konsulter som tar reda på vad som finns där, designar nya omkonfigurationer och sedan team av hantverkare för att koppla om och konfigurera om hårdvaran. En av de stora tillverkarna av denna utrustning berättade nyligen för mig att de siktar på tre mjukvaruuppgraderingar vart 20:e år.

I princip skulle det kunna göras annorlunda. I praktiken är det inte det. Jag tittade precis på en jobblista, och även idag, just denna dag, försöker Tesla Motors anställa PLC-tekniker vid sin fabrik i Fremont, Kalifornien. De kommer att använda elektromagnetisk reläemulering i produktionen av den mest AI-förbättrade bilen som finns.

Många AI-forskare och förståsigpåare föreställer sig att världen redan är digital och att helt enkelt introduktion av nya AI-system omedelbart kommer att sippra ner till operativa förändringar på fältet, i försörjningskedjan, på fabriksgolvet, i designen av produkter.

Inget kunde vara längre från sanningen. Nästan alla innovationer inom robotik och AI tar långt, långt, längre tid att få en riktigt stor spridning än vad människor på fältet och utanför fältet föreställer sig.

Rodney Brooks är en tidigare chef för datavetenskap och artificiell intelligens Laboratory vid MIT och en grundare av Rethink Robotics och iRobot. Denna uppsats är bearbetad med tillstånd från a posta som ursprungligen dök upp på rodneybrooks.com.

Dölj