Hur avancerade socialbots har infiltrerat Twitter

Om du har ett Twitterkonto är chansen stor att du har färre än 50 följare och att du själv följer färre än 50 personer. Du känner förmodligen många av dessa människor väl men det kan också finnas några på din lista som du aldrig har träffat.

Så här är en intressant fråga: hur vet du att dessa Twitter-användare är riktiga människor och inte automatiserade konton, kända som bots, som matar dig med länkar och meddelanden som är utformade för att påverka dina åsikter?

Man kan säga att bots inte är särskilt sofistikerade och så lätta att upptäcka. Och att Twitter övervakar Twittersfären och letar efter och tar bort alla automatiserade konton som den hittar. Följaktligen är det osannolikt att du omedvetet följer några automatiska konton, skadliga eller inte.

Om du har den åsikten är det en som du kanske vill revidera efter arbetet av Carlos Freitas vid Federal University of Minas Gerais i Brasilien och några kompisar, som har studerat hur lätt det är för socialbots att infiltrera Twitter.

Deras resultat kommer att överraska. De säger att en betydande del av socialbotarna de har skapat inte bara infiltrerade sociala grupper på Twitter utan blev inflytelserika bland dem också. Dessutom har Freitas och co identifierat de egenskaper som gör socialbots mest sannolikt att lyckas.

De här killarna började med att skapa 120 socialbots och släppa loss dem på Twitter. Botarna fick en profil, gjordes till man eller kvinna och fick några följare att börja med, varav några var andra bots.

Botarna genererar tweets antingen genom att återposta meddelanden som andra har postat eller genom att skapa sina egna syntetiska tweets med hjälp av en uppsättning regler för att plocka ut vanliga ord om ett visst ämne och sätta ihop dem till en mening.

Botarna fick också en aktivitetsnivå. Hög aktivitet motsvarar att posta minst en gång i timmen och låg aktivitet motsvarar att göra det en gång varannan timme (även om båda grupperna är ganska aktiva jämfört med de flesta människor). Botarna sov också mellan 22.00. och 09.00 Stillahavstid för att simulera stilleståndstiden för mänskliga användare.

Slutligen sattes de upp för att följa en av tre olika grupper av människor. Den första bestod av 200 personer slumpmässigt utvalda från Twitter-strömmen, den andra var 200 personer som regelbundet postar tweets om ett specifikt ämne i det här fallet mjukvaruutveckling, och den sista gruppen bestod av 200 mjukvaruutvecklare som alla var socialt kopplade till varandra på Twitter.

Efter att ha släppt socialbotarna var den första frågan som Freitas och co ville svara på om deras anklagelser kunde undvika de försvar som Twitter satt upp för att förhindra automatiserade inlägg. Under de 30 dagar som experimentet genomfördes stängdes 38 av de 120 socialbotarna av, säger de. Med andra ord undgick 69 procent av de sociala botarna upptäckt.

Den mer intressanta frågan var dock om de sociala botarna framgångsrikt kan infiltrera de sociala grupper som de var inställda på att följa. Och på den poängen är resultaten överraskande. Under experimentets varaktighet fick de 120 socialbotarna totalt 4 999 uppföljningar från 1 952 olika användare. Och mer än 20 procent av dem fick över 100 följare, vilket är fler följare än 46 procent av människorna på Twitter.

Freitas och co övervakade också Klout-poängen för var och en av deras sociala bots för att se hur det gick för dem. (Klout är en onlinetjänst som mäter inverkan av Twitter-konton, vilket ger dem en poäng mellan 0 och 100). Vi finner att socialbotarna uppnådde Klout-poäng av samma storleksordning (eller ibland till och med högre än) flera välkända akademiker och sociala nätverksforskare, säger de.

Teamet retade också isär data för att ta reda på vilka faktorer som bidrog till framgången för botarna. Föga överraskande är aktivitetsnivån viktig och de mer aktiva botarna uppnådde större popularitet i sina sociala nätverk. Det förväntas eftersom mer aktiva bots är mer benägna att ses av andra (även om de också är mer benägna att upptäckas av Twitters försvarsmekanismer).

Mer överraskande, socialbotarna som genererade syntetiska tweets (istället för att bara reposta) presterade också bättre. Det tyder på att Twitter-användare inte kan skilja mellan inlägg som genereras av människor och av bots. Det beror möjligen på att en stor del av tweets på Twitter är skrivna i en informell, grammatiskt osammanhängande stil, så att även enkla statistiska modeller kan producera tweets med kvalitet som liknar dem som publiceras av människor på Twitter, föreslår Freitas och co.

De grupper som socialbotarna satts upp för att följa hade också stor effekt. Gruppen av socialt anslutna mjukvaruutvecklare producerade minst anhängare medan gruppen slumpmässigt utvalda mjukvaruutvecklare genererade flest av dem.

Kön spelade också en roll. Medan manliga och kvinnliga bots var lika effektiva när de betraktas som helhet, var kvinnliga sociala bots mycket effektivare när det gäller att generera följare bland gruppen av socialt anslutna mjukvaruutvecklare. Detta tyder på att socialbotarnas kön kan göra skillnad om målanvändarna är könsförsedda, säger Freitas och kompisar.

Det är ett intressant arbete. Det tyder på att Twittersphere kan vara mer sårbart för automatiserade attacker än man tidigare trott.

Det är ett fynd som kan ha betydande konsekvenser för vissa typer av grupper på Twitter. Under de senaste åren har ett antal tjänster uppstått för att mäta intresse och åsikter bland Twitter-användare om en mängd olika ämnen, såsom röstavsikter, produktsentiment, sjukdomsutbrott, naturkatastrofer och så vidare.

Oron är att automatiserade bots kan utformas för att avsevärt påverka opinionen inom ett eller flera av dessa områden. Det skulle till exempel vara relativt enkelt att skapa en bot som sprider falska rykten om en politisk kandidat på ett sätt som kan påverka ett val.

Så Freitas och cos arbete är en väckarklocka för Twitter. Om den framgångsrikt vill förhindra den här typen av attacker, kommer den att behöva förbättra sina försvarsmekanismer avsevärt. Och eftersom detta arbete avslöjar vad som gör bots framgångsrika, har Twitters forskargrupp en fördel.

Tricket kommer att vara att upptäcka sociala bots och utesluta dem utan att av misstag utesluta mänskliga användare i processen. Det blir ingen lätt uppgift.

Men med uppskattningsvis 20 miljoner falska Twitter-konton redan inrättade, har Twitters forskare massor av data att arbeta med.

Ref: arxiv.org/abs/1405.4927 : Reverse Engineering Socialbot Infiltration Strategies i Twitter

Dölj