Nästan hälften av Twitter-konton som pressar på att öppna Amerika igen kan vara bots

Demonstranter ber Massachusettss guvernör Baker att öppna igen.

Maddie Meyer / Getty





Kathleen M. Carley och hennes team vid Carnegie Mellon Universitys Center for Informed Democracy & Social Cybersecurity har spårat bots och påverkan kampanjer under lång tid. I amerikanska och utländska val, naturkatastrofer och andra politiserade händelser är nivån av botengagemang normalt mellan 10 och 20 %, säger hon.

Men i en ny studie har forskarna funnit att bots kan stå för mellan 45 och 60% av Twitter-konton som diskuterar covid-19. Många av dessa konton skapades i februari och har sedan dess spridit och förstärkt desinformation, inklusive falska medicinska råd, konspirationsteorier om virusets ursprung och pushar för att få slut på order om att stanna hemma och öppna Amerika igen.

Mer om coronaviruset

  • Vår viktigaste täckning av covid-19 är gratis, inklusive:

    Vad är flockimmunitet?



    Vad är serologisk testning?

    Hur fungerar coronaviruset?

    Vilka är de potentiella behandlingarna?



    Vilka läkemedel fungerar bäst?

    Vad är det rätta sättet att göra social distansering?

    Andra vanliga frågor om coronaviruset



    ---

    Nyhetsbrev: Coronavirus Tech Report

    Zoomshow: Radio Corona

  • Se även:

    All vår covid-19 täckning

    Covid-19 specialnummer

  • Klicka här för att prenumerera och stödja vår ideella journalistik.

De följer slitna mönster av samordnade påverkanskampanjer, och deras strategi fungerar redan: sedan krisens början har forskarna observerat en större polarisering i Twitter-diskursen kring ämnet.

Ett antal faktorer kan förklara denna ökning. Pandemins globala karaktär innebär att ett större antal aktörer är motiverade att dra nytta av krisen som ett sätt att möta sina politiska agendor. Desinformation är nu också mer samordnad generellt, med fler företag tillgängliga för uthyrning för att skapa sådana påverkanskampanjer.

Men det är inte bara mängden konton som oroar Carley, centrets chef. Deras beteendemönster har också blivit mer sofistikerade. Bots är nu ofta mer djupt kopplade till andra konton, vilket gör det lättare för dem att sprida sina budskap brett. De engagerar sig också i fler strategier för att rikta in sig på riskgrupper som invandrare och minoriteter och hjälper riktiga konton som ägnar sig åt hatretorik att bilda onlinegrupper.

För att utföra sin senaste analys har forskarna studerat mer än 200 miljoner tweets som diskuterade coronavirus eller covid-19 sedan januari. De brukade maskininlärning och nätverksanalys tekniker för att identifiera vilka konton som spred desinformation och vilka som mest sannolikt var bots eller cyborgs (konton som drivs gemensamt av bots och människor).

Systemet letar efter 16 olika manövrar som desinformationskonton kan utföra, inklusive överbrygga mellan två grupper (koppla samman två online-gemenskaper), stödja en individ (följa kontot för att öka personens nivå av upplevt inflytande) och kärnvapen i en grupp (åtgärder som leder till till en onlinegemenskap som avvecklas).

Genom analysen identifierade de mer än 100 typer av felaktiga covid-19-historier och fann att bots inte bara fick dragkraft och ackumulerade följare, utan de stod för 82 % av de 50 bästa och 62 % av de 1 000 mest inflytelserika retweetarna. Varje kontos inflytande beräknades för att återspegla antalet följare det nådde såväl som antalet följare dess följare nådde.

Forskarna har börjat analysera Facebook, Reddit och YouTube för att förstå hur desinformation sprider sig mellan plattformar. Arbetet är fortfarande i ett tidigt skede, men det har redan avslöjat några oväntade mönster. För det första har forskarna funnit att många desinformationsberättelser kommer från vanliga webbplatser eller bloggar innan de plockas upp på olika sociala plattformar och förstärks. Olika typer av berättelser har också olika härkomstmönster. De som hävdar att viruset är ett biovapen, till exempel, kommer mestadels från så kallade svarta nyhetssidor, falska nyhetssidor utformade för att sprida desinformation som ofta drivs utanför USA. Däremot kommer retoriken om att återuppta Amerika mestadels från bloggar och Facebook-sidor som drivs i USA.

Forskarna fann också att användare av olika plattformar kommer att reagera på sådant innehåll på väldigt olika sätt. På Reddit, till exempel, är moderatorer mer benägna att debunka och förbjuda desinformation. När en samordnad kampanj kring återöppningen av Amerika dök upp på Facebook började Reddit-användare diskutera fenomenet och motverka meddelandena. De sa: 'Tro inte på något av det där. Du kan inte lita på Facebook, säger Carley.

Tyvärr finns det inga enkla lösningar på detta problem. Att förbjuda eller ta bort konton kommer inte att fungera, eftersom mer kan skapas för varje som raderas. Att förbjuda konton som sprider felaktiga fakta kommer inte heller att lösa någonting. Mycket desinformation görs genom insinuationer eller genom ologiska uttalanden, och de är svåra att upptäcka, säger hon.

Carley säger att forskare, företag och regeringen måste samordna sig bättre för att komma fram till effektiva riktlinjer och metoder för att stävja detta. Jag tror att vi behöver någon form av allmän tillsynsgrupp, säger hon. För ingen grupp kan göra det ensam.

Dölj