Naturligtvis kunde du ha sett detta komma

Chris Kleponis/Sipa USA, via AP Images

Kanske såg du detta komma för nästan ett decennium sedan, när #YourSlipIsShowing avslöjade hur rasistiska Twitter-användare imiterade svarta kvinnor på internet. För dig kanske det var under Gamergate, onlinekampanjen för övergrepp riktad mot kvinnor i branschen. Eller så var det masskjutningen i Christchurch, Nya Zeeland, när en beväpnad man genomsyrades av 8chans kultur livestreamade sig själv och mördade dussintals människor.

Kanske var det när du, eller din vän, eller ditt samhälle, blev måltavla för en extremistisk onlinemobb, och du såg onlineilska bli verklig fara och skada.

Eller kanske det som hände i onsdags, när ett gäng internetdrivna Trump-anhängare invaderade Capitolium, kom som en överraskning.

I flera veckor hade de planerat sitt agerande direkt på internet – men de har visat dig vilka de är i flera år. Graden av chock du känner just nu över kraften och faran med extremism på nätet beror på om du var uppmärksam.

Konsekvenserna av passivitet

Mobben som försökte blockera kongressen från att bekräfta Joe Bidens presidentseger visade hur dumheten och faran med det högerextrema internet kunde komma in i den verkliga världen igen, men den här gången slog det till i centrum för den amerikanska regeringen. Nynazistiska streamers fanns inte bara inne i Capitolium; de satte upp en show för publik på tiotusentals människor som satte på dem i chattarna. Pöbeln hade roligt med att göra memes i den amerikanska demokratins hallar som kvinna— en Trump-supporter vars historia i sociala medier visar hennes hängivenhet för QAnon – dödades när han försökte bryta sig in i kongressens kontor.

Relaterad berättelse

Hur en lögn på internet om Capitol-invasionen förvandlades till en omedelbar konspirationsteori Falska påståenden om att invasionen av kongressen var iscensatt spreds i rasande takt – tack vare aktivister, media och republikanska politiker.

Det senaste året, särskilt sedan pandemin, har varit en gigantisk demonstration av konsekvenserna av passivitet: konsekvenserna av att ignorera de många, många människor som har bett sociala medieföretag att ta de mem-skapande extremisterna och konspirationsteoretiker som har frodats på deras plattformar på allvar.

Facebook och Twitter agerade för att bromsa uppkomsten av QAnon under sommaren , men först efter att pro-Trump konspirationsteorin kunde växa relativt obegränsat där i tre år . Kontoförbud och algoritmjusteringar har länge varit för lite, för sent för att ta itu med rasister, extremister och konspirationsteoretiker, och de har sällan tagit upp det faktum att dessa kraftfulla system fungerade exakt som de var tänkta.

Jag pratade med en liten handfull personer som kunde ha berättat för dig att detta skulle komma för en berättelse i oktober. Forskare, teknologer och aktivister berättade för mig att stora sociala medieföretag under hela sin historia har valt att inte göra någonting eller att bara agera efter deras plattformar orsakar missbruk och skada.

Ariel Waldman försökte få Twitter att på ett meningsfullt sätt ta itu med övergrepp där 2008. Forskare som Shafiqah Hudson, I’Nasah Crockett och Shireen Mitchell har spårat exakt hur trakasserier fungerar och hittar en publik på dessa plattformar i flera år. Whitney Phillips pratade om hur hon hemsökts av skratt – inte bara från andra människor utan också från sina egna – redan under de första dagarna av sin forskning om onlinekultur och trolling, när överväldigande vita forskare och personligheter behandlade extremisterna bland dem som edgy kuriosa.

Många, många människor har bett sociala medieföretag att ta meme-skapande extremister och konspirationsteoretiker på allvar.

Ellen Pao, som en kort tid tjänstgjorde som VD för Reddit 2014 och avgick efter att ha introducerat plattformens första anti-trakasserier, var förvånad över att Reddit hade förbjudit r/The_Donald först i juni 2020, efter att bevis hade byggts upp i flera år för att visa att den populära pro-Trump anslagstavla fungerade som ett organiserande utrymme för extremister och en kanal för mobbövergrepp. Naturligtvis, när det förbjöds, hade många av dess användare redan migrerat bort från Reddit till TheDonald.win, ett oberoende forum skapat av samma personer som körde den tidigare versionen. Dess sidor var fyllda med dussintals uppmaningar om våld inför onsdagens rally vände ett kuppförsök.

Att förbjuda Trump löser inte problemet

Facebook, Twitter och YouTube skapade inte konspirationstänkande eller extremistiska ideologier, naturligtvis. De uppfann inte heller idén om farliga personlighetskulter. Men dessa plattformar har – genom design – gett dessa grupper mekanismerna för att nå mycket större publik mycket snabbare och att rekrytera och radikalisera nya konvertiter, även på bekostnad av de människor och samhällen som dessa ideologier riktar sig till för missbruk. Och avgörande, även när det stod klart vad som hände, valde de den minimala mängden förändring – eller bestämde sig för att inte ingripa alls.

I kölvattnet av kuppförsöket vid Capitol-byggnaden tittar folk återigen på de stora sociala medieföretagen för att se hur de reagerar. Fokus ligger på Trumps personliga konton , som han använde för att uppmuntra supportrar att gå ner till DC och sedan berömma dem när de gjorde det. Kommer han att förbjudas från Twitter? Det finns övertygande argument för varför han borde vara det.

Men hur tungt och följdrikt det än skulle vara, så är det också, på andra sätt … inte. Missbruk, trakasserier, konspirationstänkande och rasism kommer fortfarande att kunna dra nytta av sociala medieföretag som förblir intresserade av att agera bara när det är för sent, även utan att Trump retweetar dem och eggar dem.

Facebook har förbjudit Trump på obestämd tid, och det har också ökat moderering av grupper, där mycket konspirationsdriven aktivitet lever. Dessa förändringar är bra, men återigen, inte nya: folk har berättat om detta för Facebook i flera år; Facebook anställda har berättat detta för Facebook i flera år. Grupper var avgörande för att organisera Stop the Steal-protester dagarna efter valet, och dessförinnan i antimaskprotester, och innan dess i spridningen av falska nyheter, och innan dess som ett centralt utrymme för desinformation mot vaccin. Inget av detta är nytt.

Det finns bara så många sätt att säga att fler borde ha lyssnat. Om du är uppmärksam nu kanske du äntligen börjar höra vad de säger.

Dölj