Framtida val kan styras av intelligenta, beväpnade chatbotar

Magoz

Kampen mot propagandarobotar är en kapprustning för vår demokrati. Det är en vi kan vara på väg att förlora. Bots – enkla datorskript – designades ursprungligen för att automatisera repetitiva uppgifter som att organisera innehåll eller utföra nätverksunderhåll och på så sätt bespara människor timmar av trötthet. Företag och medier använder också bots för att driva konton i sociala medier, för att omedelbart uppmärksamma användare om senaste nyheter eller marknadsföra nyligen publicerat material.

Men de kan också användas för att driva ett stort antal falska konton, vilket gör dem idealiska för att manipulera människor. Vår forskning vid Computational Propaganda Project studerar de otaliga sätten på vilka politiska bots som använder big data och automatisering har använts för att sprida desinformation och förvränga diskurs på nätet.

Den här historien var en del av vårt septembernummer 2018

• Se resten av frågan
• Prenumerera

Bots har visat sig vara ett av de bästa sätten att sända extremistiska åsikter på sociala medier, men också att förstärka sådana åsikter från andra, äkta konton genom att gilla, dela, retweeta, hjärta och följa, precis som en människa skulle göra. Genom att göra det spelar de algoritmerna och belönar inläggen de har interagerat med genom att ge dem mer synlighet.

Detta kommer att verka tamt jämfört med vad som är på väg.

Styrka i siffror

I kölvattnet av Rysslands inblandning i det amerikanska valet 2016 kom en våg av diskussion om hur man skulle skydda politik från propaganda. Twitter har tagit bort misstänkta konton, inklusive bots, i tiotals miljoner i år, medan tillsynsmyndigheter har föreslagit botförbud och transparensåtgärder, och efterlyst bättre samarbete med internetplattformar.

Så det kan verka som om vi tar överhanden. Och det är delvis sant - robotarnas taktik har förlorat sin nyhet och aldrig haft finess. Deras styrka brukade ligga i siffror. Propagandister skulle mobilisera arméer av dem för att översvämma internet med inlägg och svar i ett försök att överväldiga en genuin demokratisk diskurs. Eftersom vi har skapat tekniska motåtgärder som är bättre på att upptäcka botliknande beteende, har det blivit lättare att stänga av dem. Människor har också blivit piggare och effektivare på att upptäcka dem. Den genomsnittliga boten gör lite för att dölja sin robotkaraktär, och en snabb titt på dess tweetingmönster, eller till och med dess profilbild, kan ge bort det.

Nästa generation av bots utvecklas dock snabbt. Till stor del tack vare framstegen inom bearbetning av naturliga språk – samma teknik som möjliggör röststyrda gränssnitt som Amazons Alexa, Google Assistant och Microsofts Cortana – kommer dessa bots att bete sig mycket mer som riktiga människor.

Visserligen är dessa konversationsgränssnitt fortfarande ojämna, men de blir bättre, och fördelarna med att framgångsrikt kunna avkoda mänskligt språk är enorma. Digitala assistenter är bara en användning av dem – varumärken driver konversationschatbotar för kundtjänst, och utgivare som CNN använder dem för att distribuera personligt medieinnehåll.

Sådana chatbots förklarar sig öppet som automatiserade, men propagandabotarna kommer inte att göra det. De kommer att presentera sig själva som mänskliga användare som deltar i onlinekonversationer i kommentarsektioner, gruppchattar och anslagstavlor.

I motsats till vad många tror, ​​händer detta inte än. De flesta bots reagerar bara på nyckelord som utlöser ett svar, som sällan passar in i sammanhanget eller syntaxen för en given konversation. Dessa svar är ofta lätta att upptäcka.

Men det blir svårare. Redan har några enkla förprogrammerade bot-skript lyckats vilseleda användare. När bots lär sig att förstå sammanhang och avsikt, blir de skickligare på att delta i konversationer utan att spränga skyddet.

Om några år kan konversationsrobotar söka upp mottagliga användare och närma sig dem via privata chattkanaler. De navigerar vältaligt i konversationer och analyserar en användares data för att leverera anpassad propaganda. Bots kommer att peka människor mot extremistiska åsikter och motargumentera på ett konversationssätt.

Istället för att sända propaganda till alla, kommer dessa bots att rikta sin aktivitet mot inflytelserika personer eller politiska dissidenter. De kommer att attackera individer med skriptade hatretorik, överväldiga dem med spam eller få sina konton stängda genom att rapportera deras innehåll som kränkande.

Bra för Google, bra för bots

Det är värt att ta en titt på exakt hur AI-teknikerna som driver dessa typer av bots blir bättre, eftersom metoderna som används av teknikföretag också råkar vara bra för att öka kapaciteten hos politiska bots.

För att fungera kräver bearbetning av naturligt språk avsevärda mängder data. Teknikföretag som Google och Amazon får sådan data genom att öppna sina språkbearbetningsalgoritmer för allmänheten via applikationsprogrammeringsgränssnitt eller API:er. Tredje parter – som till exempel en bank – som vill automatisera konversationer med sina kunder kan skicka rådata, som ljud- eller textskript från telefonsamtal, till dessa API:er. Algoritmer bearbetar språket och returnerar maskinläsbar data redo att utlösa kommandon. I gengäld får teknikföretagen som tillhandahåller dessa API:er tillgång till stora mängder samtalsexempel, som de kan använda för att förbättra sin maskininlärning och algoritmer.

Dessutom gör nästan alla stora teknikföretag öppen källkodsalgoritmer för bearbetning av naturliga språk tillgängliga för utvecklare. Utvecklarna kan använda dessa för att bygga nya, proprietära applikationer, till exempel programvara för en röststyrd robot. När utvecklarna avancerar och förfinar de ursprungliga algoritmerna, tjänar teknikföretagen på deras feedback.

Problemet är att sådana tjänster är allmänt tillgängliga för nästan alla – inklusive de som bygger politiska bots. Genom att tillhandahålla en verktygslåda för att automatisera konversationer lär teknikföretag omedvetet propaganda att prata.

Det värsta är fortfarande framför oss

Botar som är bevandrade i mänskligt språk förblir extrema än så länge. Det kräver fortfarande betydande expertis, datorkraft och träningsdata för att utrusta botar med toppmoderna språkbehandlingsalgoritmer. Men det är inte utom räckhåll. Sedan 2010 har politiska partier och regeringar spenderat mer än en halv miljard dollar på manipulation av sociala medier, vilket förvandlat det till en mycket professionaliserad och välfinansierad sektor.

Det är fortfarande en lång väg kvar innan en bot kommer att kunna förfalska en människa i en-mot-en-konversation. Men allteftersom algoritmerna utvecklas kommer dessa förmågor att dyka upp.

Som med alla andra innovationer kommer de oundvikligen att bryta sig loss från den begränsade uppsättning applikationer som de ursprungligen designades för att utföra när dessa AI-tekniker väl är ur lådan.

Lisa-Maria Neudert är doktorand vid Oxford Internet Institute och forskare med Computational Propaganda Project.

Dölj