211service.com
Varför AI är ett hot mot demokratin – och vad vi kan göra för att stoppa det
Futuristen och NYU-professorn Amy Webb om en förestående katastrof med artificiell intelligens – och varför det fortfarande finns hopp om att den kan avvärjas. 26 februari 2019
Amy Webb, futurist och NYU-professor Elena Seibert
Amy Webb, futurist, NYU-professor och prisbelönt författare, har tillbringat mycket av det senaste decenniet med att forska, diskutera och träffa människor och organisationer om artificiell intelligens. Vi har nått febernivå i allt som rör AI, säger hon. Nu är det dags att ta ett steg tillbaka för att se vart det är på väg.
Detta är uppgiften för hennes nya bok, The Big Nine: Hur Tech Titans och deras tänkande maskiner kunde förvränga mänskligheten , där hon tar ett fågelperspektiv av trender som, varnar hon, har satt utvecklingen av teknik på en farlig väg. I USA försvåras Google, Microsoft, Amazon, Facebook, IBM och Apple (G-MAFIA) av de obevekliga kortsiktiga kraven från en kapitalistisk marknad, vilket gör en långsiktig, genomtänkt planering för AI omöjlig. I Kina konsoliderar och utvinner Tencent, Alibaba och Baidu enorma mängder data för att underblåsa regeringens auktoritära ambitioner.
Om vi inte ändrar denna bana, hävdar Webb, kan vi vara på väg mot en katastrof. Men det finns fortfarande tid att agera, och en roll för alla att spela. MIT Technology Review satt ner med henne för att prata om varför hon är orolig och vad hon tror att vi kan göra åt det.
Följande frågor och svar har sammanfattats och redigerats för tydlighetens skull.
Du nämner att vi för närvarande ser en konvergens av oroande tekniska, politiska och ekonomiska trender. Kan du utveckla vad de tekniska trenderna är?
När du pratar med en forskare som arbetar inom området kommer de att berätta för dig att det kommer att ta väldigt lång tid innan vi ser många av de löften som har getts om AI: saker som helautomatisering i fordon, absolut igenkänning eller artificiell allmän intelligens—AGI—system som är kapabla till kognition och mer människoliknande tankar.
Från min utsiktspunkt, när vi tittar mot horisonten för dagen, har vi någon form av gående, talande maskin eller en maskin med en kroppslös röst som fattar autonoma beslut, missar något poängen. Vi ser redan miljarder små framsteg som kommer att få en sammansatt effekt över tiden och leda till system som självständigt kan fatta många beslut samtidigt.
DeepMind-teamet, till exempel, har arbetat hårt med att lära maskiner hur man slår människor som spelar spel. De har tagit ett stort steg framåt inom områden som hierarkisk förstärkningsinlärning och multitask-inlärning. Den senaste versionen av sin AlphaGo-algoritm, AlphaZero, kan lära sig hur man spelar tre spel samtidigt utan att en människa är i slingan. Det är ett ganska stort språng. Det finns också det mycket nya fältet av generativa kontradiktoriska nätverk, där du med en anständig storlek av bilder nu kan skapa mänskliga ansikten som såg väldigt, väldigt realistiska ut.
Dessa framsteg är inte lika sexiga eller lika spännande som det vi har fått höra om AGI. Men om du kan se 40 000 fots vy kan du se att vi är på väg in i en situation där systemen kommer att göra val åt oss. Och vi måste stanna upp och fråga oss själva vad som händer när dessa system lägger undan mänsklig strategi till förmån för något helt okänt för oss.
Hur är det med de politiska och ekonomiska trenderna? Kan du beskriva de som är mest oroande för dig?
I USA kan det fria flödet av idéer spridas obehindrat. Det är så Silicon Valley grundades. Det har skapat både konkurrens och innovation, vilket är hur vi kom dit vi är nu med AI bland andra typer av teknologier.
The Big Nine: How Tech Titans & Their Thinking Machines Could Warp Humanity av Amy Webb
Men i USA lider vi också av en tragisk brist på framförhållning. I stället för att skapa en storslagen strategi för AI eller för vår långsiktiga framtid har den federala regeringen tagit bort finansiering från vetenskap och teknisk forskning. Så pengarna måste komma från den privata sektorn. Men investerare förväntar sig också någon form av avkastning. Det är ett problem. Du kan inte schemalägga dina FoU-genombrott när du arbetar med grundläggande teknik och forskning. Det skulle vara fantastiskt om de stora teknikföretagen hade lyxen att jobba riktigt hårt utan att behöva producera en årlig konferens för att visa upp sin senaste och bästa whiz-bang-grej. Istället har vi nu otaliga exempel på dåliga beslut som någon i G-MAFIA tog, förmodligen för att de arbetade snabbt. Vi börjar se de negativa effekterna av spänningen mellan att göra forskning som är i mänsklighetens bästa och att göra investerare nöjda.
Nu skulle det vara illa nog som det är, eller hur? Men allt detta händer samtidigt som det finns en enorm mängd makt som konsolideras i Kina. Kina har en suverän förmögenhetsfond som ägnas åt grundläggande grundforskning inom AI. De kastar enorma summor pengar på AI. Och de har en helt annan idé än USA när det gäller integritet och data. Detta innebär att de har mycket mer data som kan brytas och förfinas. Med en central myndighet är det superenkelt för regeringen att testa och bygga AI-tjänster som innehåller data från 1,3 miljarder människor. Och det är bara inom deras eget land.
Sedan har de Bältes- och väginitiativet, som ser ut som ett traditionellt infrastrukturprogram men delvis också är digitalt. Det handlar inte bara om att bygga vägar och broar; det handlar också om att bygga 5G-nät och lägga fiber, och om att bryta och förädla data utomlands. Utbyggnaden av dessa teknologier är en risk för människor som bryr sig om saker som yttrandefrihet och västerländska demokratiska ideal.
Varför ska vi sträva efter västerländska demokratiska ideal?
Det är en bra fråga. Jag har bott i Kina, i Japan och uppenbarligen i USA. Och du kan titta på tillståndet i vårt land just nu och vad som händer i Kina och undra, är det verkligen det värsta? Kinas sociala kreditvärderingssystem låter förresten galet och hemskt för amerikaner, men vad många människor inte inser är att självrapportering och övervakning av beteenden inom byar och samhällen har varit en del av den kinesiska kulturen för alltid. Den sociala kreditpoängen automatiserar typ bara det. Så ja, det är en fantastisk fråga.
Jag antar att det jag skulle säga är att om jag skulle titta på den idealiserade versionen av kinesisk kommunism och den idealiserade versionen av västerländsk demokrati, skulle jag välja den västerländska demokratin eftersom jag tror att det finns en bättre möjlighet för det fria flödet av idéer och för vardagen. människor att lyckas. Jag tror att ge människor incitament för individuella och personliga prestationer är ett bra sätt att lyfta ett samhälle, hjälper oss att nå vår individuella potential.
Med den riktning som världen är på väg med AI idag, är det en rättvis jämförelse? Ska vi jämföra de idealiserade versionerna av kinesisk kommunism med västerländsk demokrati, eller de värsta versionerna av de två?
Det är en bra fråga eftersom du kan hävda att delar av AI-ekosystemet redan påverkar våra västerländska demokratiska ideal på ett verkligt negativt sätt. Uppenbarligen fungerar allt som har hänt med Facebook som ett exempel. Men titta också på vad som händer med anti-vaxxer-gemenskapen. De sprider helt felaktig information om vacciner och grundläggande vetenskap. Våra amerikanska traditioner kommer att säga yttrandefrihet, plattformar är plattformar, vi måste låta människor uttrycka sig. Tja, utmaningen med det är att algoritmer gör val om redaktionellt innehåll som leder människor att fatta mycket dåliga beslut och som ett resultat av det blir barn sjuka.
Problemet är att vår teknik har blivit mer och mer sofistikerad, men vårt tänkande om vad som är yttrandefrihet och hur en fri marknadsekonomi ser ut har inte blivit lika sofistikerat. Vi tenderar att tillgripa mycket grundläggande tolkningar: Fritt yttrande betyder att allt yttrande är fritt om det inte strider mot förtalslagar, och det är slutet på historien. Det är inte slutet på historien. Vi måste börja ha en mer sofistikerad och intelligent konversation om våra nuvarande lagar, vår framväxande teknologi och hur vi kan få dessa två att mötas i mitten.
Med andra ord, du tror på att vi kommer att utvecklas från där vi är nu till en mer idealiserad version av västerländsk demokrati. Och du skulle mycket föredra det framför idealiserad kinesisk kommunism.
Ja, jag tror att det är möjligt. Min stora oro är att alla väntar, att vi drar hälarna och det kommer att krävas en sann katastrof för att få folk att agera, som om platsen vi har kommit till inte är katastrofal. Men det faktum att mässlingen är tillbaka i delstaten Washington för mig är ett katastrofalt resultat. Så är det som hände i kölvattnet av valet. Oavsett vilken sida av det politiska spektrumet du befinner dig på kan jag inte föreställa mig att någon idag tror att det nuvarande politiska klimatet är bra för vår framtid.
Så jag tror absolut att det finns en väg framåt. Men vi måste gå samman och överbrygga gapet mellan Silicon Valley och DC så att vi alla kan styra båten åt samma håll.
Vad rekommenderar du att myndigheter, företag, universitet och enskilda konsumenter gör?
Utvecklingsspåret för AI är ett problem, och var och en av oss har ett intresse. Du, jag, min pappa, min granne, killen på Starbucks som jag går förbi just nu. Så vad ska vanliga människor göra? Var mer medveten om vem som använder din data och hur. Ta några minuter att läsa arbeten skriven av smarta människor och ägna några minuter åt att ta reda på vad det är vi egentligen pratar om. Innan du undertecknar ditt liv och börjar dela bilder på dina barn, gör det på ett informerat sätt. Om du är okej med vad det innebär och vad det kan betyda senare, okej, men ha åtminstone den kunskapen först.
Företag och investerare kan inte förvänta sig att skynda på en produkt om och om igen. Det förbereder oss för problem på vägen. Så de kan göra saker som att stödja sina anställningsprocesser, avsevärt öka sina ansträngningar för att förbättra inkluderingen och se till att deras personal är mer representativ för hur den verkliga världen ser ut. De kan också sätta på några bromsar. Alla investeringar som görs i ett AI-företag eller projekt eller vad det nu kan vara bör också inkludera finansiering och tid för att kontrollera saker som risk och partiskhet.
Universiteten måste skapa utrymme i sina program för hybridexamina. De bör uppmuntra CS-studenter att studera jämförande litteratur, världsreligioner, mikroekonomi, kulturantropologi och liknande kurser på andra institutioner. De bör kämpa för dubbla examensprogram i datavetenskap och internationella relationer, teologi, statsvetenskap, filosofi, folkhälsa, utbildning och liknande. Etik bör inte undervisas som en fristående klass, något för att helt enkelt bocka av en lista. Skolor måste uppmuntra även fastanställda professorer att väva in komplicerade diskussioner om partiskhet, risk, filosofi, religion, kön och etik i sina kurser.
En av mina största rekommendationer är bildandet av GAIA, vad jag kallar Global Alliance on Intelligence Augmentation. För närvarande har människor runt om i världen väldigt olika attityder och förhållningssätt när det kommer till datainsamling och delning, vad som kan och bör automatiseras och hur en framtid med mer allmänt intelligenta system kan se ut. Så jag tycker att vi borde skapa någon form av central organisation som kan utveckla globala normer och standarder, något slags skyddsräcken för att genomsyra inte bara amerikanska eller kinesiska ideal i AI-system, utan världsbilder som är mycket mer representativa för alla.
Framför allt måste vi vara villiga att tänka på detta mycket längre sikt, inte bara om fem år. Vi måste sluta säga, Tja, vi kan inte förutsäga framtiden, så låt oss inte oroa oss för det just nu. Det är sant, vi kan inte förutse framtiden. Men vi kan säkert göra ett bättre jobb med att planera för det.
En förkortad version av den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.