Vi bekämpar falska nyheter AI-bots genom att använda mer AI. Det är ett misstag.

Foto av bokomslaget

• Samuel Woolley är biträdande professor vid Moody School of Communication vid University of Texas-Austin. Detta är ett anpassat utdrag ur hans kommande bok Verklighetsspelet .

Varje gång du loggar in på Twitter och tittar på ett populärt inlägg kommer du sannolikt att hitta botkonton som gillar eller kommenterar det. Om du klickar dig igenom kan du se att de har twittrat många gånger, ofta på kort tid. Ibland säljer deras inlägg skräp eller sprider digitala virus. Andra konton, särskilt bots som postar förvrängd vitriol som svar på särskilda nyhetsartiklar eller officiella uttalanden, är helt politiska.

Det är lätt att anta att hela detta fenomen drivs av avancerad datavetenskap. Jag har faktiskt pratat med många människor som tror att maskininlärningsalgoritmer som drivs av maskininlärning eller artificiell intelligens ger politiska bots möjligheten att lära av sin omgivning och interagera med människor på ett sofistikerat sätt.

Under händelser där forskare nu tror att politiska robotar och desinformation spelade en nyckelroll – Brexit-folkomröstningen, Trump-Clinton-tävlingen 2016, Krimkrisen – finns det en utbredd uppfattning att smarta AI-verktyg gjorde det möjligt för datorer att posera som människor och hjälpa till att manipulera det offentliga samtalet.

Pundits och journalister har underblåst detta: Det har funnits extremt provocerande berättelser om uppkomsten av en beväpnad AI-propagandamaskin och berättelser hävdar att artificiell intelligens erövrade demokratin. Till och med min egen forskning om hur sociala medier används för att forma den allmänna opinionen, hacka sanning och tysta protester – det som kallas beräkningspropaganda – har citerats i artiklar som tyder på att våra robotöverherrar redan är här.

Verkligheten är dock att komplexa mekanismer som artificiell intelligens spelade liten roll i beräkningspropagandakampanjer hittills. Alla bevis jag har sett på Cambridge Analytica tyder på att företaget aldrig lanserade de psykografiska marknadsföringsverktygen som det påstod sig ha under valet i USA 2016 – även om det sa att det kunde rikta in sig på individer med specifika meddelanden baserade på personlighetsprofiler som härrör från dess kontroversiella Facebook-databas.

När jag var på Oxford Internet Institute tittade vi under tiden på hur och om Twitter-botar användes under Brexit-debatten. Vi upptäckte att även om många användes för att sprida meddelanden om Leave-kampanjen, var de allra flesta av de automatiserade kontona väldigt enkla. De gjordes för att ändra onlinekonversationer med bots som hade byggts helt enkelt för att öka gilla-markeringar och följer, för att sprida länkar, till speltrender eller för att trolla motstånd. Det spelades av små grupper av mänskliga användare som förstod magin med memer och viralitet, att så konspirationer online och se dem växa. Konversationer blockerades av grundläggande bot-genererad spam och brus, målmedvetet kopplade till särskilda hashtags för att demobilisera onlinekonversationer. Länkar till nyhetsartiklar som visade en politiker i ett visst ljus hypades av falska konton eller proxykonton som gjordes för att posta och reposta samma skräp om och om och om igen. Dessa kampanjer användes ganska rakt på sak: dessa bots var inte designade för att vara funktionellt konverserande. De utnyttjade inte AI.

Inte dum längre

Det finns dock signaler om att AI-aktiverad beräkningspropaganda och desinformation börjar användas. Hackare och andra grupper har redan börjat testa effektiviteten hos farligare AI-bots över sociala medier. Ett 2017-stycke från Gizmodo rapporterade att två dataforskare lärde en artificiell intelligens att designa sin egen nätfiskekampanj: I tester var den artificiella hackern avsevärt bättre än sina mänskliga konkurrenter, komponerade och distribuerade fler nätfiske-tweets än människor och med en avsevärt bättre konverteringsfrekvens.

Problematiskt innehåll sprids inte bara av maskininlärningsaktiverade politiska bots. Inte heller genereras problematisk användning eller design av teknik enbart av sociala medieföretag. Forskare har påpekat att maskininlärning kan befläckas av giftattacker — illvilliga aktörer som påverkar träningsdata för att ändra resultaten av en given algoritm — innan maskinen ens offentliggörs.

Kalev Leetaru, senior stipendiat vid George Washington University, föreslår att de första attackerna som drivs av AI-bots kanske inte är riktade mot sociala medier utan istället skulle involvera vad som kallas en distribuerad denial-of-service-attack, som innebär att riktade webbservrar stängs av. genom att översvämma dem med trafik.

Föreställ dig för ett ögonblick att du överlämnade det botnätet till kontrollen av ett djupinlärningssystem och gav den AI-algoritmen fullständig kontroll över varje ratt och ratt på det botnätet, Leetaru skriver .

Dessa ansträngningar är inte inriktade på att hjälpa nyhetsorganisationer att kontrollera mängden innehåll. Snarare hjälper de ett mångmiljardföretag att hålla rent i sitt eget hus.

Du ger den också liveflöden av global internetstatusinformation från stora cybersäkerhets- och övervakningsleverantörer runt om i världen så att den sekund för sekund kan observera hur offret och resten av internet i stort reagerar på attacken. Kanske kommer allt detta efter att du har låtit algoritmen spendera flera veckor på att övervaka målet i utsökt detalj för att förstå helheten och nyansen av dess trafikmönster och beteenden och gräva sig igenom dess yttre lager av försvar.

Bortom försvaret

I april 2018 dök Mark Zuckerberg upp inför kongressen: han befann sig under det politiska luppet för felaktig hantering av användarinformation under valet 2016. I sitt tvådelade vittnesmål nämnde han artificiell intelligens mer än 30 gånger, vilket antydde att AI skulle vara lösningen på problemet med digital desinformation genom att tillhandahålla program som skulle bekämpa den stora mängden beräkningspropaganda. Han förutspådde att AI under det kommande decenniet skulle bli räddaren för de enorma skalaproblem som Facebook och andra stöter på när de hanterar den globala spridningen av skräpinnehåll och manipulation.

Så finns det något sätt vi kan använda AI eller automatiserad bot-teknik för att tackla manipulation av den allmänna opinionen online? Kan vi använda AI för att bekämpa AI?

Observatoriet för sociala medier vid Indiana University har byggt offentliga verktyg som utnyttjar maskininlärning för att upptäcka bots genom att titta på 1 200 funktioner för att avgöra om det är mer sannolikt att det är en människa eller en bot.

Och Facebooks produktchef Tessa Lyons sa i ett tillkännagivande 2018 att maskininlärning hjälper oss att identifiera dubbletter av avslöjade berättelser. Till exempel avvisade en faktagranskare i Frankrike påståendet att man kan rädda en person som får en stroke genom att använda en nål för att sticka fingret och ta blod. Detta gjorde det möjligt för oss att identifiera över 20 domäner och över 1 400 länkar som spred samma påstående.

I sådana fall kan företag på sociala medier utnyttja maskininlärning för att fånga upp, och till och med verifiera, faktakontroller från hela världen och använda dessa bevisdrivna korrigeringar för att flagga falskt innehåll.

Det finns dock en stor debatt i det akademiska samfundet om huruvida det faktiskt är effektivt att passivt identifiera potentiellt falsk information för användare av sociala medier. Några forskare tyder på att faktagranskning både online och offline inte fungerar särskilt effektivt i sin nuvarande form. I början av 2019, faktakontrollwebbplatsen Snopes, som hade samarbetat med Facebook i sådana korrigerande ansträngningar, bröt förhållandet . I en intervju med Poynter Institute, sa Snopes vice vd för operationer Vinny Green: Det verkar inte som att vi strävar efter att göra tredjepartsfaktakontroll mer praktiskt för utgivare – det verkar som om vi strävar efter att göra det enklare för Facebook.

Organisationer som Facebook fortsätter att förlita sig på små, vanligtvis ideella organisationer, för att kontrollera innehåll. Potentiellt falska artiklar eller videor skickas ofta till dessa grupper utan bakgrundsinformation om hur eller varför de flaggades från första början.

Dessa ansträngningar är inte inriktade på att hjälpa nyhetsorganisationer att granska mängden innehåll eller leads de får varje dag för att hjälpa journalister med bristande resurser att göra ett bättre arbete. Snarare hjälper de ett mångmiljardföretag att hålla rent i sitt eget hus på ett post hoc-sätt. Det är dags för Facebook att ta ansvar internt för faktagranskning, snarare än att lämna över uppgiften att verifiera eller avslöja nyhetsrapporter till andra grupper. Facebook och andra sociala medier-företag måste också sluta förlita sig på faktakontroller i efterhand – det vill säga först efter att en falsk artikel har blivit viral. Dessa företag måste skapa något slags tidig varningssystem för beräkningspropaganda.

Facebook, Google och andra som dem anställer människor för att hitta och ta bort innehåll som innehåller våld eller information från terroristgrupper. De är dock mycket mindre nitiska i sina ansträngningar att bli av med desinformation. Den uppsjö av olika sammanhang där falsk information flödar på nätet – överallt från ett val i Indien till ett stort sportevenemang i Sydafrika – gör det svårt för AI att arbeta utifrån sin egen, frånvarande mänskliga kunskap. Men under de kommande månaderna och åren kommer det att ta horder av människor över hela världen för att effektivt kontrollera de enorma mängderna innehåll under de otaliga omständigheter som kommer att uppstå.

Det finns helt enkelt ingen enkel lösning på problemet med beräkningspropaganda på sociala medier. Det är dock företagens ansvar att hitta ett sätt att fixa det. Hittills verkar Facebook vara mycket mer fokuserat på PR än på att reglera flödet av beräkningspropaganda eller grafiskt innehåll. Enligt The Verge , lägger företaget mer tid på att fira sina ansträngningar att bli av med vissa bitar av vitriol eller våld än på att systematiskt se över sina modereringsprocesser.

Bortom faktagranskning

Det kommer att vara någon kombination av mänskligt arbete och AI som så småningom lyckas bekämpa beräkningspropagandan, men hur detta kommer att ske är helt enkelt inte klart. AI-förbättrad faktakontroll är bara en väg framåt. Maskininlärning och djupinlärning, i samverkan med mänskliga arbetare, kan bekämpa beräkningspropaganda, desinformation och politiska trakasserier på flera andra sätt.

Jigsaw, den Google-baserade teknikinkubatorn där jag arbetade som forskarstipendiat under ett år, designade och byggde ett AI-baserat verktyg som heter Perspective för att bekämpa trolling online och hatretorik. Det här verktyget (som jag inte arbetade med själv) är ett API som låter utvecklare automatiskt upptäcka giftigt språk.

Det är kontroversiellt eftersom det inte bara riskerar att bli falskt positivt – flaggande inlägg som faktiskt inte innehåller trolling eller övergrepp – utan också modererar tal. Enligt Trådbunden , verktyget tränades med hjälp av maskininlärning, men alla sådana verktyg tränas också med hjälp av input från människor, som har sina egna fördomar. Så kan ett verktyg byggt för att upptäcka rasistiskt eller hatiskt språk misslyckas på grund av bristfällig utbildning?

2016 lanserade Facebook Deeptext, ett AI-verktyg som liknar Googles Perspective. säger företaget det hjälpte till att radera över 60 000 hatiska inlägg i veckan. Facebook medgav dock att verktyget fortfarande förlitade sig på en stor pool av mänskliga moderatorer för att faktiskt bli av med skadligt innehåll. Twitter gjorde äntligen åtgärder i slutet av 2017 för att arbeta mer noggrant för att förbjuda liknande hotfulla eller våldsamma inlägg. Men även om det har börjat stävja detta problematiska material – och också tar bort horder av politiska botkonton – har Twitter inte gett några tydliga indikationer om hur det upptäcker och tar bort konton. Mina forskningssamarbetspartners och jag fortsätter att hitta massiva manipulativa botnät på Twitter nästan varje månad.

Bortom horisonten

Det är föga förvånande att en teknolog som Zuckerberg skulle föreslå en teknisk lösning, men AI är inte perfekt i sig. Tekniska ledares närsynta fokus på datorbaserade lösningar återspeglar naiviteten och arrogansen som fick Facebook och andra att lämna användarna sårbara i första hand.

Det finns ännu inga arméer av smarta AI-botar som arbetar för att manipulera opinionen under omtvistade val. Kommer det att finnas i framtiden? Kanske. Men det är viktigt att notera att även arméer av smarta politiska robotar inte kommer att fungera på egen hand: de kommer fortfarande att kräva mänsklig tillsyn för att manipulera och lura. Vi står inte inför en onlineversion av The Terminator här. Armaturer från områdena datavetenskap och AI, inklusive Turing Award-vinnaren Ed Feigenbaum och Geoff Hinton, gudfadern för djupinlärning, har argumenterat starkt mot rädslan för att singulariteten – den ostoppbara tidsåldern för smarta maskiner – kommer när som helst snart. I en undersökning av American Association of Artificial Intelligence-stipendiater sa över 90 % att superintelligens ligger bortom den förutsebara horisonten. De flesta av dessa experter var också överens om att när och om supersmarta datorer kommer fram kommer de inte att vara ett hot mot mänskligheten.

Stanford-forskare arbetar med att spåra det senaste inom AI föreslå att våra maskinöverherrar för närvarande fortfarande inte kan visa sunt förnuft eller den allmänna intelligensen hos ens en 5-åring. Så hur kommer dessa verktyg att undergräva mänskligt styre eller, säg, lösa ytterst mänskliga sociala problem som politisk polarisering och brist på kritiskt tänkande? Wall Street Journal uttryckte det kortfattat 2017 : Utan människor är artificiell intelligens fortfarande ganska dumt.

Grady Booch, en ledande expert på AI-system, är också skeptisk till framväxten av supersmarta oseriösa maskiner, men av en annan anledning. I ett TED-föredrag 2016 , sa han att att nu oroa sig för uppkomsten av en superintelligens är på många sätt en farlig distraktion eftersom uppkomsten av datorer i sig ger oss ett antal mänskliga och samhälleliga frågor som vi nu måste ta itu med.

Ännu viktigare, betonade Booch, nuvarande AI-system kan göra alla möjliga fantastiska saker, från att samtala med människor på naturligt språk till att känna igen objekt – men dessa saker bestäms av människor och kodas med mänskliga värderingar. De är inte programmerade, men de får lära sig hur de ska bete sig.

I vetenskapliga termer är det här vad vi kallar grundsanning, säger Booch, och här är den viktiga punkten: när vi tillverkar dessa maskiner lär vi dem därför en känsla av våra värderingar. För det ändamålet litar jag på en artificiell intelligens på samma sätt, om inte mer, som en människa som är vältränad.

Jag skulle ta Boochs idé ännu längre. För att ta itu med problemet med beräkningspropaganda måste vi sätta oss in i människorna bakom verktygen.

Ja, ständigt utvecklande teknik kan automatisera spridningen av desinformation och trolling. Det kan låta förövare verka anonymt och utan rädsla för upptäckt. Men denna svit av verktyg som ett sätt för politisk kommunikation är i slutändan fokuserad på att uppnå det mänskliga målet att kontrollera. Propaganda är en mänsklig uppfinning, och den är lika gammal som samhället. Som en expert på robotik en gång sa till mig, bör vi inte frukta maskiner som är smarta som människor, lika mycket som människor som inte är smarta om hur de bygger maskiner.

Utdrag från The Reality Game: How the Next Wave of Technology Will Break the Truth, av Samuel Woolley. Copyright 2020. Tillgänglig från PublicAffairs, ett avtryck från Hachette Book Group, Inc.

Dölj