Det är för sent att stoppa QAnon med faktakontroller och kontoförbud

Unsplash/@dole777

Twitter är perfekt som megafon för extremhögern: dess trendämnen är lätta att spela, journalister spenderar alldeles för mycket tid på sajten, och - om du har tur - kanske USA:s president retweetar dig.

QAnon, den ständigt utvecklande pro-Trump konspirationsteorin, är bra på Twitter på samma sätt som andra framgångsrika internetbaserade ideologier – att använda plattformen för att manipulera information, uppmärksamhet och distribution samtidigt. På tisdag, Twitter tog ett steg riktat att begränsa hur framgångsrik QAnon kan vara där, inklusive att ta bort cirka 7 000 konton som främjar konspirationen, utse QAnon som samordnad skadlig aktivitet och förhindra relaterade termer från att dyka upp i trend- och sökresultat.

Vi kommer permanent att stänga av konton som twittrar om dessa ämnen som vi vet är engagerade i brott mot vår policy för flera konton, koordinerar övergrepp kring enskilda offer eller försöker undvika en tidigare avstängning, Twitter meddelade . Företaget tillade att de hade sett en ökning av dessa aktiviteter under de senaste veckorna.

De Det rapporterade New York Times att Facebook planerade att vidta liknande åtgärder för att begränsa räckvidden för QAnon-innehåll på sin plattform nästa månad, med hänvisning till två anställda på företaget som talade anonymt. På fredag, TikTok blockerade flera hashtags relaterat till QAnon från sökresultat.

Denna senaste insats för att begränsa QAnons räckvidd följer två högprofilerade kampanjer som drivs av konspirationsteorin. Den första amerikanska modellen och kändisen Chrissy Teigen, som har mer än 13 miljoner följare på Twitter, var mål av en intensiv trakasseringskampanj. Sen, på senare tid, var QAnon-konton avgörande för att sprida en falsk konspirationsteori om människohandel om möbelmarknadsplatsen Wayfair. Påståendena spreds från Twitters trendbar till Instagram och TikTok konton som främjar teorin för sina anhängare.

Relaterad berättelse

Hur man pratar med konspirationsteoretiker – och ändå är snäll

Experter och r/ChangeMyView subreddit-moderatorer erbjuder 10 tips för att avslöja konspirationsteorier på ett övertygande sätt.

Den aktiviteten har lyft fram det mycket långvariga problemet med samordnad brigadering. Den typen av masstrakasserier har en betydande inverkan på människors liv, säger Renee DiResta, forskningschef vid Stanford Internet Observatory och expert på desinformation online.

Men Twitter-kunskaper är bara en liten del av varför QAnon utövar inflytande, och bara ett exempel på hur plattformar förstärker gränsövertygelser och skadlig aktivitet. Att faktiskt stoppa QAnon, säger experter, skulle kräva mycket mer arbete och samordning. Det vill säga om det ens är möjligt.

En allkonspiration

QAnon föddes i slutet av 2017 efter ett skämt som president Donald Trump gjorde på en presskonferens om ett lugn innan stormen gav upphov till en rad mystiska inlägg på 4chan tillskrivas Q, förutsäger den kommande arresteringen av Hillary Clinton. Även om det inte hände fortsatte Q att skriva och påstod sig veta allt om en hemlig plan ledd av Trump för att arrestera sina fiender.

QAnon har sitt ursprung i en multiplattformskonversation som började på sociala medier, i en pseudonym miljö, där det inte finns någon konsekvens för tal, säger Brian Friedberg, senior forskare vid Harvard Shorenstein Centers Technology and Social Change Project. Inläggen har flyttats från en sida till en annan efter förbud och visas nu på en anslagstavla som heter 8kun.

Inläggen har lockat följare som lägger sin tid på att tolka dessa meddelanden, dra slutsatser och leda kampanjer för att göra budskapen mer synliga. Vissa QAnon-anhängare har lett samordnade trakasseringskampanjer mot journalister, rivaliserande nätgemenskaper, kändisar och liberala politiker. Andra har dykt upp på Trump-möten iförda varor med Q-tema. Presidenten har retweetade Twitter-konton relaterade till Q eller konspirationsteorier dussintals gånger , även om det är en öppen fråga hur medveten han är om vad Q är, bortom en rörelse som stödjer hans presidentskap på internet. Och det har varit flera incidenter verkligt våld kopplat till QAnon-supportrar.

Relaterad berättelse

Hur covid-19-konspirationsteoretiker utnyttjar YouTube-kulturen Covid-19-konspirationsteoretiker får fortfarande miljontals visningar på YouTube, även när plattformen slår ner på desinformation om hälsa.

Den traditionella uppfattningen av QAnon var att dess idéer sprids av ett relativt litet antal anhängare som är extremt bra på att manipulera sociala medier för maximal synlighet. Men pandemin gjorde det mer komplicerat, eftersom QAnon började smälta mer djupgående med desinformation om hälsa och snabbt öka sin närvaro på Facebook.

Vid det här laget har QAnon blivit en omnikonspirationsteori, säger DiResta – det handlar inte längre bara om några anslagstavlor, utan istället en bred rörelse som främjar många olika, länkade idéer. Forskare vet att tro på en konspirationsteori kan leda till acceptans av andra, och kraftfulla rekommendationsalgoritmer för sociala medier har i huvudsak turboladdat den processen. Till exempel, säger DiResta, forskning har visat att medlemmar av anti-vaccin Facebook-grupper såg rekommendationer för grupper som främjade Pizzagate konspirationsteorin redan 2016.

Rekommendationsalgoritmen verkar ha identifierat ett samband mellan användare som delade en övertygelse om att regeringen döljde en hemlig sanning. Den hemliga sanningens detaljer varierade, säger hon.

Forskare har i åratal vetat att olika plattformar spelar olika roller i samordnade kampanjer. Människor kommer att samordna sig i en chattapp, anslagstavla eller privat Facebook-grupp, rikta in sina meddelanden (inklusive trakasserier och övergrepp) på Twitter och vara värd för videor om det hela på YouTube.

I detta informationsekosystem fungerar Twitter mer som en marknadsföringskampanj för QAnon: innehåll skapas för att ses och interageras med av utomstående. Samtidigt är Facebook ett kraftpaket för samordning, särskilt i slutna grupper.

'Q' har gjort många felaktiga förutsägelser och fortsätter att föra fram tron ​​att det finns en 'deep state'-komplott mot Donald Trump.

Reddit brukade vara ett vanligt nav för QAnon-aktivitet, fram till webbplatsen började klämma fast den 2018 för att ha anstiftat till våld och upprepade gånger brutit mot dess användarvillkor. Men istället för att förlora sin makt, gick QAnon helt enkelt över till andra vanliga sociala medier-plattformar där det var mindre sannolikt att det skulle förbjudas.

Allt detta betyder att när en plattform agerar på egen hand för att blockera eller minska effekten av QAnon, attackerar den bara en del av problemet.

Friedberg sa att för honom känns det som om sociala medier väntade på ett massvåldsdåd för att samordna ett mer aggressivt deplattformararbete. Men den potentiella skadan med QAnon är redan uppenbar om du slutar se det som en pro-Trump kuriosa och istället ser det för vad det är: en distributionsmekanism för desinformation av alla sorter, sa Friedberg, och en som anhängare är villiga att öppet främja och identifiera sig med, oavsett konsekvenserna.

Tre år av nästan obegränsad tillgång

Steven Hassan, en mentalvårdsrådgivare och expert på sekter som flydde från Sun Myung Moons Unification Church , känd som Moonies, säger att det inte räcker att diskutera grupper som QAnon som enbart ett felinformations- eller algoritmproblem.

Jag ser på QAnon som en sekt, säger Hassan. När du blir rekryterad till en sekt för sinneskontroll och indoktrinerad i ett nytt trossystem ... är mycket av det motiverat av rädsla.

De har haft tre år av nästan obegränsad tillgång att utvecklas och expandera.

Folk kan avprogrammeras från det här, säger Hassan. Men de människor som kommer att bli mest framgångsrika med detta är familjemedlemmar och vänner. Människor som redan är nära en QAnon-supporter kan tränas i att ha flera interaktioner över tid i hopp om att dra ut personen.

Om plattformar på allvar ville ta upp ideologier som QAnon, skulle de göra mycket mer än de är, säger han.

För det första skulle Facebook behöva utbilda användare inte bara om hur man upptäcker felaktig information, utan också om hur man förstår när de manipuleras av samordnade kampanjer. Samordnade push på sociala medier är en viktig faktor i QAnons växande räckvidd på vanliga plattformar , som nyligen dokumenterats av Guardian. Gruppen har uttryckligen omfamnas informationskrigföring som en taktik för att få inflytande. I maj tog Facebook bort en liten samling av QAnon-anslutna konton för oäkta beteende .

Och för det andra rekommenderar Hassan att plattformar stoppar människor från att gå ner i algoritmiska eller rekommendationstunnlar relaterade till QAnon, och istället mata dem med innehåll från personer som han, som har överlevt och rymt från sekter – särskilt från de som sugits in i och klättrat ut ur QAnon.

Friedberg, som har studerat rörelsen djupt, säger att han anser att det är absolut för sent för vanliga sociala medier att stoppa QAnon, även om det finns några saker de kan göra för att till exempel begränsa dess anhängares förmåga att evangelisera på Twitter.

De har haft tre år av nästan obegränsad tillgång utanför vissa plattformar för att utveckla och expandera, säger Friedberg. Dessutom har QAnon-anhängare ett aktivt förhållande till källan till konspirationsteorin, som ständigt lägger upp nytt innehåll för att tyda och nämner Q-anhängares meddelanden i sociala medier i sina inlägg. Att bryta QAnons inflytande skulle kräva att bryta förtroendet mellan Q, en anonym figur utan några definierande egenskaper, och deras supportrar. Med tanke på att Q:s långa meritlista av felaktiga förutsägelser inte har brutit det förtroendet, är det svårt, och kritisk mediabevakning eller deplattforming har ännu inte gjort mycket på den fronten. Om något ger de bara QAnon-troende bränsle till att anta att de är inne på något.

De bästa idéerna för att begränsa QAnon skulle kräva drastisk förändring och själsrannsakan från de människor som driver företagen på vars plattformar det har blomstrat. Men även denna veckas tillkännagivanden är inte riktigt så dramatiska som de kan tyckas först: Twitter förtydligas att den inte automatiskt skulle tillämpa sin nya policy mot politiker som marknadsför QAnon-innehåll, inklusive flera initiativtagare som kandiderar till posten i USA.

Och, sa Friedberg, QAnon-anhängare var redo att testa dessa begränsningar och testade redan dessa begränsningar. Till exempel förbjöd Twitter vissa konspirationsrelaterade webbadresser att delas, men folk har redan alternativa att använda.

I slutändan, att faktiskt göra något åt ​​det skulle kräva att hela informationsekosystemet omprövas, säger DiResta. Och jag menar det i en mycket vidare mening än att bara reagera på en konspirationsfraktion.

Dölj