211service.com
Hur man vet om artificiell intelligens är på väg att förstöra civilisationen
mekaniska kanariefåglar illustration Ms Tech
Kunde vi vakna upp en morgon som dumt över att en superkraftig AI har dykt upp, med katastrofala konsekvenser? Böcker som Superintelligens av Nick Bostrom och Livet 3.0 av Max Tegmark, samt nyare artiklar , hävdar att illvillig superintelligens är en existentiell risk för mänskligheten.
Men man kan spekulera i det oändliga. Det är bättre att ställa en mer konkret, empirisk fråga: Vad skulle varna oss om att superintelligens verkligen är runt hörnet?
Vi skulle kunna kalla sådana förebud för kanariefåglar i AI:s kolgruvor. Om ett program med artificiell intelligens utvecklar en fundamental ny förmåga, är det likvärdigt med en kanariefågel som kollapsar: en tidig varning om AI-genombrott vid horisonten.
Kan det berömda Turing-testet fungera som en kanariefågel? Testet, som uppfanns av Alan Turing 1950, hävdar att AI på mänsklig nivå kommer att uppnås när en person inte kan skilja att konversera med en människa från att prata med en dator. Det är ett viktigt test, men det är inte en kanariefågel; det är snarare tecknet på att AI på mänsklig nivå redan har anlänt. Många datavetare tror att om det ögonblicket kommer, kommer superintelligens snabbt att följa. Vi behöver fler mellanliggande milstolpar.
Är AI:s prestanda i spel som t.ex Gå , poker eller Quake 3 , en kanariefågel? Det är det inte. Huvuddelen av så kallad artificiell intelligens i dessa spel är faktiskt mänsklig arbeta med att rama in problemet och designa lösningen. AlphaGos seger över mänskliga Go-mästare var en kredit till det begåvade mänskliga teamet på DeepMind, inte till maskinen, som bara körde den algoritm som människorna hade skapat. Detta förklarar varför det tar år av hårt arbete att översätta AI-framgång från en smal utmaning till nästa. Till och med AlphaZero, som lärde sig att spela Go i världsklass på några timmar, har inte utökat sin räckvidd avsevärt sedan 2017. Metoder som djupinlärning är generella, men deras framgångsrika tillämpning på en viss uppgift kräver omfattande mänsklig inblandning.
Mer allmänt är maskininlärning kärnan i AI:s framgångar under det senaste decenniet eller så. Ändå är termen maskininlärning en felaktig benämning. Maskiner besitter bara en smal bit av människors rika och mångsidiga inlärningsförmåga. Att säga att maskiner lär sig är som att säga att pingvinungar vet hur man fiskar. Verkligheten är att vuxna pingviner simmar, fångar fisk , smälta det, slänga upp i deras näbbar och lägg bitar i deras barns mun. AI matas också med sked av mänskliga vetenskapsmän och ingenjörer.
I motsats till maskininlärning kartlägger mänskligt lärande en personlig motivation (jag vill köra för att vara oberoende av mina föräldrar) till en strategisk inlärningsplan (Ta förarutbildning och träna på helgerna). En människa formulerar specifika inlärningsmål (Bli bättre på parallellparkering), samlar in och märker data (Vinkeln var fel den här gången) och införlivar extern feedback och bakgrundskunskap (Instruktören förklarade hur man använder sidospeglarna). Människor identifierar, ramar in och formar inlärningsproblem. Ingen av dessa mänskliga förmågor replikeras ens på distans av maskiner. Maskiner kan utföra övermänskliga statistiska beräkningar, men det är bara den sista milen av lärande.
Maskiner kan utföra övermänskliga statistiska beräkningar, men det är bara den sista milen av lärande.
Den automatiska formuleringen av inlärningsproblem är alltså vår första kanariefågel. Det verkar inte vara i närheten av att dö.
Självkörande bilar är en andra kanariefågel. De ligger längre fram i framtiden än förväntat av boosters som Elon Musk . AI kan misslyckas katastrofalt i atypiska situationer, som när en person i rullstol korsar gatan. Att köra är mycket mer utmanande än tidigare AI-uppgifter eftersom det kräver att man fattar livskritiska beslut i realtid baserat på både den oförutsägbara fysiska världen och interaktion med mänskliga förare, fotgängare och andra. Naturligtvis bör vi sätta in begränsade självkörande bilar när de minskar olycksfrekvensen, men först när körning på mänsklig nivå uppnås kan denna kanariefågel sägas ha kölat över.
AI-läkare är en tredje kanariefågel. AI kan redan analysera medicinska bilder med övermänsklig noggrannhet, men det är bara en smal del av en mänsklig läkares jobb. En AI-läkare skulle behöva intervjua patienter, överväga komplikationer, konsultera andra läkare och mer. Det här är utmanande uppgifter som kräver förståelse för människor, språk och medicin. En sådan läkare skulle inte behöva lura en patient att tro att den är mänsklig – det är därför detta skiljer sig från Turing-testet. Men det skulle behöva approximera mänskliga läkares förmågor över ett brett spektrum av uppgifter och oväntade omständigheter.
Och även om Turing-testet i sig inte är en bra kanariefågel, kan begränsade versioner av testet fungera som kanariefåglar. Befintliga AI:er kan inte förstå människor och deras motivation, eller ens grundläggande fysiska frågor som Kommer en jumbojet att få plats genom ett fönster? Vi kan administrera ett partiellt Turing-test genom att samtala med en AI som Alexa eller Google Home i några minuter, vilket snabbt avslöjar deras begränsade förståelse av språket och världen. Betrakta ett mycket enkelt exempel baserat på Winograd-scheman som föreslagits av datavetaren Hector Levesque. Jag sa till Alexa: Min trofé får inte plats i min handbagage eftersom den är för stor. Vad ska jag göra? Alexas svar var att jag inte känner till den. Eftersom Alexa inte kan resonera om storleken på föremål kan den inte avgöra om det avser trofén eller handbagaget. När AI inte kan förstå innebörden av det är det svårt att tro att det är redo att ta över världen. Om Alexa kunde ha en innehållsrik dialog om ett rikt ämne, skulle det vara en fjärde kanariefågel.
Aktuella AI: er är idioter: framgångsrika på smala uppgifter, som att spela Go eller kategorisera MRI-bilder, men saknar allmänheten och mångsidigheten hos människor. Varje idiotsavant är konstruerad manuellt och separat, och vi är decennier borta från de mångsidiga förmågorna hos ett femårigt barn. De kanariefåglar jag föreslår, däremot, indikerar böjningspunkter för området AI.
Oren Etzioni med tillståndsfoto
Vissa teoretiker, som Bostrom, hävdar att vi ändå måste planera för händelser med mycket låg sannolikhet men hög konsekvens som om de vore oundvikliga. Konsekvenserna, säger de, är så djupgående att våra uppskattningar av deras sannolikhet inte är viktiga. Detta är ett dumt argument: det kan användas för att rättfärdiga nästan vad som helst. Det är en nutida version av 1600-talsfilosofen Blaise Pascals argument att det är värt att agera som om en kristen Gud existerar eftersom man annars riskerar ett evigt helvete. Han använde den oändliga kostnaden för ett fel för att hävda att ett visst tillvägagångssätt är rationellt även om det bygger på en mycket osannolik premiss. Men argument baserade på oändliga kostnader kan stödja motsägelsefulla föreställningar. Tänk till exempel på en antikristen Gud som lovar ett evigt helvete för varje kristen handling. Det är också högst osannolikt; ur en logisk synvinkel är det dock en lika rimlig satsning som att tro på Bibelns gud. Denna motsägelse visar på ett fel i argument som bygger på oändliga kostnader.
Min katalog över tidiga varningssignaler, eller kanariefåglar, är illustrativ snarare än heltäckande, men den visar hur långt vi är från AI på mänsklig nivå. Om och när en kanariefågel kollapsar, kommer vi att ha gott om tid innan uppkomsten av AI på mänsklig nivå för att designa robusta off-switchar och identifiera röda linjer som vi inte vill att AI ska korsa. AI-eskatologi utan empiriska kanariefåglar är en distraktion från att ta itu med befintliga frågor som hur man reglerar AI:s inverkan på sysselsättningen eller säkerställer att användningen av den i straffrättsliga straff eller kreditvärdering inte diskriminerar vissa grupper.
Som Andrew Ng, en av världens mest framstående AI-experter, har sagt, att oroa sig för att AI blir ond är lite som att oroa sig för överbefolkning på Mars. Tills kanarieöarna börjar dö har han helt rätt.
Oren Etzioni är VD för det ideella Allen Institute for AI och professor i datavetenskap vid University of Washington.