Det växande problemet med bots som slåss online

Programvaruagenter, eller bots, genomsyrar webben. De samlar in data om webbsidor, de korrigerar vandalism på Wikipedia, de genererar spam och till och med efterliknar människor.

Och deras inverkan ökar. Enligt vissa mått står bots för 49 procent av besöken på webbsidor och ansvarar för över 50 procent av klicken på annonser. Denna effekt kommer att öka när antalet bots ökar exponentiellt.

Ett ökande antal beslut, alternativ, val och tjänster beror nu på att bots fungerar korrekt, effektivt och framgångsrikt, säger Taha Yasseri och kompisar vid University of Oxford i Storbritannien. Ändå vet vi väldigt lite om livet och utvecklingen av våra digitala underhuggare.

Detta väcker en intressant fråga. Hur interagerar bots med varandra? Och hur skiljer sig dessa interaktioner från hur människor interagerar?

Idag kastar Yasseri och kompisar lite ljus över dessa frågor genom att studera hur bots på Wikipedia interagerar med varandra. Och allt är inte bra i cyberrymdens land. Vi finner att även om Wikipedia-botar är avsedda att stödja uppslagsverket, så ångrar de ofta varandras redigeringar och dessa sterila 'bråk' kan ibland fortsätta i flera år, säger de.

Wikipedia har länge använt bots för att hantera repetitiva uppgifter som att lägga till länkar mellan olika språkutgåvor, kontrollera stavning, ångra skadegörelse och så vidare. Under 2014 utförde bots cirka 15 procent av alla redigeringar på alla språkutgåvor.

Alla dessa botar måste godkännas av Wikipedia och måste följa organisationens botpolicy. Så i teorin borde Wikipedias botvärld vara lycklig. I praktiken är saker och ting annorlunda.

Yasseri och co fokuserar särskilt på om bots inte håller med varandra. Ett sätt att mäta detta på Wikipedia är genom återställningar – redigeringar som ändrar en artikel tillbaka till hur den var innan en tidigare ändring.

Under en 10-årsperiod vände människor om varandra ungefär tre gånger i genomsnitt. Men bots var mycket mer aktiva. Under 10-årsperioden har bots på engelska Wikipedia återställt en annan bot i genomsnitt 105 gånger, säger Yasseri och co.

Det finns betydande variationer mellan olika språkversioner av Wikipedia. Till exempel, bots som arbetar på den tyska utgåvan återgår till varandra i genomsnitt 24 gånger, medan de på den portugisiska utgåvan hade cirka 185 bot-bot återvänder.

Bots och människor skiljer sig avsevärt åt i sina återgångsvanor. Den mest sannolika tiden för en människa att göra en återgång är antingen inom två minuter efter att en förändring har gjorts, efter 24 timmar eller efter ett år. Det är tydligt relaterat till rytmerna i mänskliga livsstilar.

Robotar följer naturligtvis inte dessa rytmer: snarare har de en karakteristisk genomsnittlig svarstid på en månad. Denna skillnad beror troligen på att robotar systematiskt genomsöker artiklar och för det andra är botar begränsade till hur ofta de kan göra ändringar, säger Yasseri och co.

Trots det kan bots hamna i betydande dispyter med varandra, och beter sig lika oförutsägbart och ineffektivt som människor. Men varför?

Yasseri och co tror att de vet svaret. Oenigheten uppstår sannolikt från communityns bottom-up-organisation, där mänskliga redaktörer individuellt skapar och kör bots, utan en formell mekanism för samordning med andra botägare, säger de.

Faktum är att de flesta av tvisterna uppstår mellan bots som är specialiserade på att skapa och ändra länkar mellan olika språkversioner av Wikipedia. Det beror möjligen på att redaktörerna bakom dessa bots talar olika språk, vilket gör samordningen ännu svårare. Bristen på samordning kan bero på att olika språkutgåvor har lite olika namnregler och -konventioner, säger teamet.

Det är intressant arbete eftersom det visar hur relativt enkla bots kan producera komplex dynamik med oavsiktliga konsekvenser. Det är desto mer oroande med tanke på att Wikipedia är en gated community där användningen av robotar är någorlunda väl styrd.

Det är inte fallet på andra områden, som sociala medier som Twitter. En grupp har uppskattat att under 2009 genererades en fjärdedel av alla tweets av bots. Det kommer sannolikt att ha förändrats avsevärt sedan dess. Och det finns många exempel på avancerade bots som är allt svårare att skilja från människor.

Dynamiken som dessa bots producerar i relativt oreglerade miljöer är någons gissning. Men det betyder att det finns en intressant utmaning här att förstå hur bots interagerar och att kartlägga den komplexa dynamiken de skapar.

Ref: arxiv.org/abs/1609.04285 : Även Good Bots Fight

Dölj