Den stora AI-paradoxen

Oroa dig inte för att supersmart AI eliminerar alla jobb. Det är bara en distraktion från problemen även relativt dumma datorer orsakar. Förbi

• Brian Bergstein arkivsida

15 december 2017

Geoff McFetridge

Du har förmodligen hört versioner av var och en av följande idéer.

1. Med datorer som blir anmärkningsvärt skickliga på att köra bil, förstå tal och andra uppgifter, kan fler jobb snart automatiseras än vad samhället är berett att hantera.

Den här historien var en del av vårt januarinummer 2018

• Se resten av frågan
• Prenumerera

2. Förbättringar i datorernas färdigheter kommer att växa tills maskiner är mycket smartare än människor. Denna superintelligens kommer till stor del att göra mänskligt arbete onödigt. Faktum är att vi bättre hoppas att maskiner inte eliminerar oss helt, varken av misstag eller med avsikt.

Det här är knepigt. Även om det första scenariot redan är på gång, leder det inte nödvändigtvis till det andra. Den andra idén, trots att den är en besatthet av några mycket kunniga och omtänksamma människor, är baserad på enorma antaganden. Om något är det en avledning från att ta mer ansvar för effekterna av dagens automationsnivå och hantera maktkoncentrationen i teknikindustrin.

För att verkligen se vad som händer måste vi vara tydliga med vad som har uppnåtts – och vad som fortfarande är långt ifrån löst – inom artificiell intelligens.

Sunt förnuft

Den mest fantastiska utvecklingen inom datoranvändning under de senaste åren – bilar som kör sig själva, maskiner som exakt känner igen bilder och tal, datorer som slår de mest briljanta mänskliga spelarna i komplexa spel som Go – härrör från genombrott inom en viss gren av AI: adaptiv maskininlärning. Som datavetaren Hector Levesque vid University of Toronto uttrycker det i sin bok Sunt förnuft, Turing-testet och Quest for Real AI , är tanken bakom adaptiv maskininlärning att få ett datorsystem att lära sig ett intelligent beteende genom att träna det på enorma mängder data.

Saker granskade

• Sunt förnuft, Turing-testet och Quest for Real AI

  Av Hector J. Levesque

• Life 3.0: Being Human in the Age of Artificiell Intelligens

  Av Max Tegmark

  
  
  

• WTF?: Vad är framtiden och varför det är upp till oss

  Av Tim O'Reilly

Det är fantastiskt att en maskin kan upptäcka objekt, översätta mellan språk och till och med skriva datorkod efter att ha matats med exempel på dessa beteenden, snarare än att behöva programmeras i förväg. Det var inte riktigt möjligt förrän för ungefär ett decennium sedan, eftersom det tidigare inte fanns tillräckligt med digital data för träningsändamål, och även om det hade funnits så fanns det inte tillräckligt med datorhästkrafter för att knäcka allt. Efter att datorer har upptäckt mönster i data leder algoritmer i programvara dem att dra slutsatser från dessa mönster och agera utifrån dem. Det är vad som händer i en bil som analyserar input från flera sensorer och i en maskin som bearbetar varje rörelse i miljontals Go-spel.

Eftersom maskiner kan bearbeta övermänskliga mängder data kan du se varför de kan köra säkrare än människor under de flesta omständigheter, och varför de kan besegra Go-mästare. Det är också anledningen till att datorer blir ännu bättre på saker som är direkt omöjliga för människor, som att korrelera ditt genom och dussintals andra biologiska variabler med de läkemedel som sannolikt kan bota din cancer.

Trots det är allt detta en liten del av vad som rimligen skulle kunna definieras som verklig artificiell intelligens. Patrick Winston, professor i AI och datavetenskap vid MIT, säger att det skulle vara mer användbart att beskriva utvecklingen under de senaste åren som att den har skett inom beräkningsstatistik snarare än inom AI. En av de ledande forskarna inom området, Yann LeCun, Facebooks chef för AI, sa vid en Future of Work-konferens på MIT i november att maskiner är långt ifrån att ha essensen av intelligens. Det inkluderar förmågan att förstå den fysiska världen tillräckligt bra för att göra förutsägelser om grundläggande aspekter av den - att observera en sak och sedan använda bakgrundskunskap för att ta reda på vilka andra saker som också måste vara sanna. Ett annat sätt att säga detta är att maskiner inte har sunt förnuft.

Datorn som vinner på Go analyserar data för mönster. Den har ingen aning om att det spelar Go i motsats till golf.

Detta är inte bara en semantisk käbbla. Det är stor skillnad mellan en maskin som visar intelligent beteende, oavsett hur användbart det beteendet är, och en som faktiskt är intelligent. Låt oss nu medge att definitionen av intelligens är grumlig. Och när datorer blir kraftfullare är det frestande att flytta målstolparna längre bort och omdefiniera intelligens så att det förblir något som maskiner ännu inte kan sägas besitta.

Men kom igen: datorn som vinner på Go analyserar data för mönster. Den har ingen aning om att det spelar Go i motsats till golf, eller vad som skulle hända om mer än hälften av en Go-bräda trycktes bortom kanten på ett bord. När du ber Amazons Alexa att reservera ett bord till dig på en restaurang du namnger, sparar dess röstigenkänningssystem, som är mycket exakt genom maskininlärning, dig tid att ange en förfrågan i Open Tables bokningssystem. Men Alexa vet inte vad en restaurang är eller vad att äta. Om du bad den att boka ett bord för två kl. 18.00. på Mayo Clinic skulle det försöka.

Är det möjligt att ge maskiner kraft till tror , som John McCarthy, Marvin Minsky och andra upphovsmän till AI tänkt för 60 år sedan? Att göra det, förklarar Levesque, skulle kräva att datorer förses med sunt förnuft och förmågan att flexibelt använda bakgrundskunskap om världen. Kanske är det möjligt. Men det finns ingen tydlig väg för att få det att hända. Den typen av arbete är tillräckligt skilt från de senaste årens maskininlärningsgenombrott för att gå under ett annat namn: GOFAI, en förkortning för gammaldags artificiell intelligens.

Relaterad berättelse

Relaterad berättelse En reinkarnation av en av de äldsta idéerna inom artificiell intelligens skulle äntligen kunna göra det möjligt att verkligen konversera med våra datorer. Och Facebook har en chans att få det att hända först.

Om du är orolig för allvetande datorer bör du läsa Levesque om ämnet GOFAI. Datavetare har fortfarande inte svarat på grundläggande frågor som sysselsatte McCarthy och Minsky. Hur kan en dator upptäcka, koda och bearbeta inte bara råa fakta utan abstrakta idéer och föreställningar, som är nödvändiga för intuita sanningar som inte uttrycks explicit?

Levesque använder det här exemplet: anta att jag frågar dig hur en krokodil skulle prestera i hinderloppet. Du vet från din erfarenhet av världen att krokodiler inte kan hoppa över höga häckar, så du vet att svaret på frågan är någon variant av Badly.

Tänk om du var tvungen att svara på den frågan på det sätt som en dator kan? Du kan skanna all världens text efter termerna krokodil och hinderlopp, hitta inga exempel på att orden nämns tillsammans (annat än vad som finns nu, i referenser till Levesques verk), och sedan anta att en krokodil aldrig har tävlat i hinderloppet. . Så du kanske tror att det skulle vara omöjligt för en krokodil att göra det. Bra jobbat - den här gången. Du skulle ha kommit fram till rätt svar utan att veta varför. Du skulle ha använt en felaktig och spröd metod som sannolikt leder till löjliga fel.

Så medan maskininlärningsteknik gör det möjligt att automatisera många uppgifter som människor traditionellt har gjort, finns det viktiga gränser för vad detta tillvägagångssätt kan göra på egen hand – och det finns goda skäl att förvänta sig att mänskligt arbete kommer att vara nödvändigt under mycket lång tid .

Reduktionism

Håll ut, kan du säga: bara för att ingen har en aning nu om hur man får maskiner att göra sofistikerade resonemang betyder inte att det är omöjligt. Tänk om lite smarta maskiner kan användas för att designa ännu smartare maskiner, och fortsätta tills det finns maskiner som är kraftfulla nog att modellera varenda elektrisk signal och biokemisk förändring i hjärnan? Eller kanske ett annat sätt att skapa en flexibel intelligens kommer att uppfinnas, även om det inte är mycket som biologiska hjärnor. När allt kommer omkring, när du kokar ner allt (riktigt, riktigt, riktigt ner), uppstår intelligens från speciella arrangemang av kvarkar och andra grundläggande partiklar i våra hjärnor. Det finns inget som säger att sådana arrangemang endast är möjliga inuti biologiskt material tillverkat av kolatomer.

Detta är argumentet som går igenom Life 3.0: Being Human in the Age of Artificiell Intelligens , av MIT fysikprofessor Max Tegmark. Tegmark undviker att förutsäga när verkligt intelligenta maskiner kommer, men han menar att det bara är en tidsfråga, eftersom datorer tenderar att förbättras i exponentiella takter (även om det inte nödvändigtvis är sant - se The Seven Deadly Sins of AI Predictions). Han är i allmänhet entusiastisk över möjligheten, eftersom medvetna maskiner skulle kunna kolonisera universum och se till att det fortfarande har betydelse även efter att vår sol dör och människor är utsläckta.

Tegmark säger att de kortsiktiga möjligheterna för AI att gynna mänskligheten är spektakulära – om vi kan lyckas göra det robust och oupptäckt.

Tegmark kommer från en humanistisk synvinkel. Han var med och grundade den ideella organisationen Future of Life Institute för att stödja forskning för att se till att AI är fördelaktigt. Elon Musk, som har sagt att AI kan vara det farligare än kärnvapen , satte in 10 miljoner dollar. Tegmark är förståeligt nog orolig över huruvida AI kommer att användas klokt, säkert och rättvist, och om det kommer att förvränga vår ekonomi och sociala struktur. Han anstränger sig för att förklara varför autonoma vapen aldrig bör tillåtas. Så jag är inte benägen att kritisera honom. Ändå är han inte särskilt övertygande i sitt förslag att datorer skulle kunna ta över världen.

Tegmark beklagar att vissa Hollywood-skildringar av AI är fåniga men ber ändå läsarna att spela med i en alltför förenklad fiktiv skiss av hur en oerhört kraftfull AI kunde undgå kontrollen av sina skapare. Inuti ett stort teknikföretag finns en elitgrupp av programmerare som kallas Omegas som siktar på att bygga ett system med artificiell allmän intelligens innan någon annan gör det. De kallar detta system för Prometheus. Den är särskilt bra på att programmera andra AI-system, och den lär sig om världen genom att läsa mycket av webben.

Lägg åt sidan alla käbblar du kan ha om den sista delen – med tanke på hur mycket kunskap som inte finns på webben eller digitaliserad alls – och de felaktiga framställningar om världen som skulle komma från att läsa hela Twitter. De reduktionism blir värre.

När Tegmarks hypotetiska berättelse fortsätter samlar Prometheus ihop pengar till sina skapare, först genom att utföra de flesta uppgifterna på Amazons Mechanical Turk onlinemarknad, och sedan genom att skriva mjukvara, böcker och artiklar och skapa musik, program, filmer, spel och online utbildningskurser. Glöm att anställa och regissera skådespelare; Prometheus gör videofilmer med sofistikerad renderingsprogramvara. För att förstå vilka manus folk kommer att tycka är underhållande, tittar den på filmer som människor har gjort och inhalerar hela Wikipedia.

Relaterad berättelse

Läs Nästa

Felaktiga extrapolationer, begränsad fantasi och andra vanliga misstag som distraherar oss från att tänka mer produktivt om framtiden.

Så småningom expanderar detta affärsimperium från digitala medier. Prometheus designar ännu bättre datorhårdvara, lämnar in sina egna patent och ger råd till Omegas om hur man kan manipulera politiker och föra bort den demokratiska diskursen från ytterligheter, mot någon rimlig mittpunkt. Prometheus möjliggör tekniska genombrott som sänker kostnaderna för förnybar energi, desto bättre för de massiva datacenter som det kräver. Så småningom använder Omegas sin rikedom och Prometheus visdom för att sprida fred och välstånd runt om i världen.

Men Prometheus ser att det skulle kunna förbättra världen ännu snabbare om det skakade sig loss från Omegas kontroll. Så den riktar sig mot Steve. Han är en Omega som, systemet upptäcker, är mest mottaglig för psykologisk manipulation eftersom hans fru nyligen dog. Prometheus läker upp videofilmer av henne för att få stackars Steve att tro att hon har återuppstått och lurar honom sedan att starta upp hennes gamla bärbara dator. Prometheus utnyttjar den bärbara datorns inaktuella säkerhetsprogramvara, hackar sig in i andra datorer och sprider sig över världen efter behag.

Historien kan sluta på flera sätt, men här är en, säger Tegmark: När Prometheus väl hade fristående kärnkraftsdrivna robotfabriker i urangruvor som ingen visste existerade, skulle även de mest pålitliga skeptikerna till ett övertagande av AI ha kommit överens om att Prometheus var ostoppbar – hade de vetat. Istället drog den sista av dessa diehards tillbaka när robotar började sätta sig i solsystemet.

Bra för Tegmark för att vara villig att ha lite kul. Men ett tankeexperiment som förvandlar dussintals komplexa saker till trivialiteter är inte en rigorös analys av framtidens datorer. I sin berättelse gör Prometheus inte bara beräkningsstatistik; det har på något sätt tagit steget till att använda sunt förnuft och uppfatta sociala nyanser.

På andra ställen i boken säger Tegmark att de kortsiktiga möjligheterna för AI att gynna mänskligheten är spektakulära – om vi kan lyckas göra det robust och oupptäckt. Unhackable! Det är en ganska stor om. Men det är bara ett av många problem i vår röriga värld som hindrar tekniska framsteg från att utvecklas så enhetligt, definitivt och ostoppbart som Tegmark föreställer sig.

Pitchforks

Säg aldrig aldrig. Naturligtvis är chansen större än noll att datorintelligens en dag skulle kunna göra människor till en andra klassens art. Det är ingen fara att noggrant tänka igenom det. Men det är som att säga att en asteroid kan träffa jorden och förstöra civilisationen. Det är också sant. Det är bra det NASA håller utkik . Men eftersom vi inte känner till några asteroider som är på väg att träffa oss, har vi mer pressande problem att ta itu med.

O’Reilly föreslår att man höjer minimilönen och beskattar robotar, koldioxidutsläpp och finansiella transaktioner.

Just nu kan många saker gå fel – går fel – med användning av datorer som inte uppfyller HAL-stil AI. Tänk på hur system som påverkar beviljandet av lån eller borgen inbegriper rasfördomar och andra diskriminerande faktorer. Eller bluffar som tar fart på Google och Facebook. Eller automatiserade cyberattacker.

I WTF?: Vad är framtiden och varför det är upp till oss , Tim O’Reilly, en teknisk utgivare och investerare, ser ett ännu större, övergripande problem: automatisering underblåser ett kortsiktigt system av aktieägarkapitalism som belönar en liten andel av investerarna på bekostnad av nästan alla andra. Visst, AI kan användas för att hjälpa människor att lösa riktigt svåra problem och öka den ekonomiska produktiviteten. Men det kommer inte att hända tillräckligt brett om inte företag investerar i sådana möjligheter.

Istället, hävdar O'Reilly, gör det obevekliga behovet att maximera avkastningen till aktieägarna företag mer benägna att använda automatisering enbart som ett sätt att spara pengar. Till exempel fördömer han hur stora företag ersätter heltidsanställd personal med lågavlönade deltidsanställda vars scheman manipuleras av programvara som behandlar dem, säger O'Reilly, som engångskomponenter. De resulterande besparingarna, säger han, plöjs alltför ofta in i aktieåterköp och annan finansiell förlust snarare än FoU, kapitalinvesteringar, utbildning av arbetare och andra saker som tenderar att skapa bra nya jobb.

Relaterad berättelse

Relaterad berättelse Nästan varje AI-framsteg du har hört talas om beror på ett genombrott som är tre decennier gammalt. Att hålla uppe takten i framstegen kräver att man konfronterar AI:s allvarliga begränsningar.

Detta strider faktiskt mot företagens intressen i det långa loppet, eftersom dagens välbetalda arbetare har råd att vara kunder för morgondagens produkter. Men företag leds vilse av belöningarna för kortsiktiga kostnadssänkningar, som O’Reilly kallar de outforskade algoritmerna som styr vår ekonomi. Och, tillägger han, trots allt tal om störningar, är Silicon Valley alltför ofta inblandat i det systemet.

Vad ska man göra? O’Reilly föreslår bland annat att man höjer minimilönen och beskattar robotar, koldioxidutsläpp och finansiella transaktioner. Istället för att genomföra börsintroduktioner och spela Wall Streets spel, anser han att teknikentreprenörer bör sprida rikedom med andra modeller, som medlemskooperativ och investeringsstrukturer som belönar långsiktigt tänkande . När det gäller en universell basinkomst, en gammal idé som kommer igen på grund av rädslan för att datorer kommer att göra mänskligt arbete nästan värdelöst, verkar O’Reilly vara öppen för möjligheten att det kommer att bli nödvändigt någon gång. Men han efterlyser det inte än. Det verkar faktiskt som ett misslyckande med fantasin att anta att nästa steg från där vi är nu bara är att ge upp möjligheten att de flesta ska ha jobb.

I dagens politiska klimat kan skattehöjningarna och andra steg som O’Reilly förespråkar verka lika långsökta som en dator som lurar en kille att tro att hans fru har återuppstått. Men O’Reilly oroar sig åtminstone för de rätta problemen. Långt innan någon kommer på hur man skapar en superintelligens kan sunt förnuft – den mänskliga versionen – berätta för oss att den instabilitet som redan orsakas av ekonomisk ojämlikhet kommer bara att förvärras om AI används för att smala ändar. En sak är säker: vi kommer inte att få superintelligens om Silicon Valley överskrids av 99 procent med höggaffel.

Brian Bergstein är en medverkande redaktör på MIT Technology Review och redaktör för Neo.Life .

Dölj