Varför sociala medier inte kan fortsätta moderera innehåll i skuggan

Pexels

Redan 2016 kunde jag räkna på ena sidan de typer av interventioner som teknikföretag var villiga att använda för att befria sina plattformar från desinformation, hatretorik och trakasserier. Under årens lopp har grova mekanismer som att blockera innehåll och förbjuda konton förvandlats till en mer komplex uppsättning verktyg, inklusive karantänämnen, ta bort inlägg från sökningar, spärra rekommendationer och prioritera ned inlägg.

Och ändå, även med fler alternativ till sitt förfogande, förblir desinformation ett allvarligt problem. Det fanns en hel del täckning om desinformation på valdagen – min kollega Emily Drefyuss upptäckte till exempel att när Twitter försökte hantera innehåll med hashtaggen #BidenCrimeFamily, med taktik inklusive avindexering genom att blockera sökresultat, användare inklusive Donald Trumf anpassas genom att använda varianter av samma tagg . Men vi vet fortfarande inte mycket om hur Twitter bestämde sig för att göra dessa saker i första hand, eller hur det väger och lär sig av hur användarna reagerar på moderering.

Vilka åtgärder vidtog dessa företag? Hur fungerar deras modereringsteam? Vad är processen för att fatta beslut?

När sociala medieföretag stängde av konton och märkte och raderade inlägg, försökte många forskare, civilsamhällesorganisationer och journalister förstå sina beslut. Bristen på transparens kring dessa beslut och processer gör att – för många – får valresultatet en asterisk i år, precis som de gjorde 2016.

Vilka åtgärder vidtog dessa företag? Hur fungerar deras modereringsteam? Vad är processen för att fatta beslut? Under de senaste åren har plattformsföretag satt ihop stora arbetsgrupper som är dedikerade till att ta bort felaktig information om val och märka tidiga segerförklaringar. Sarah Roberts , en professor vid UCLA, har skrivit om det osynliga arbetet hos moderatorer för plattformsinnehåll som en skuggindustri, en labyrint av entreprenörer och komplexa regler som allmänheten inte vet mycket om. Varför vet vi inte mer?

I dimman efter valet har sociala medier blivit terrängen för ett låggradigt krig mot vår kognitiva säkerhet, med desinformationskampanjer och konspirationsteorier som sprider sig. När sändningsnyheterna tjänade rollen som informationsportvakt var det det besvärad med skyldigheter av allmänt intresse som att dela aktuell, lokal och relevant information. Sociala medieföretag har ärvt en liknande position i samhället, men de har inte tagit på sig samma ansvar. Denna situation har laddat kanonerna för påståenden om partiskhet och censur i hur de modererade valrelaterat innehåll.

Står för kostnaderna

I oktober, I gick med i en expertpanel om desinformation, konspiration och infodemik för House Permanent Select Committee on Intelligence. Jag flankerades av Cindy Otis, en före detta CIA-analytiker; Nina Jankowicz, en desinformationskollega vid Wilson Center; och Melanie Smith, analyschef på Graphika.

När jag förberedde mitt vittnesbörd kämpade Facebook för att klara av QAnon, en militariserad social rörelse som övervakas av deras avdelning för farliga organisationer och fördömdes av kammaren i ett tvådelat lagförslag . Mitt team har varit undersökt QAnon i flera år . Denna konspirationsteori har blivit ett populärt ämne bland desinformationsforskare på grund av alla sätt som den har förblivit utbyggbar, anpassningsbar och motståndskraftig inför plattformsföretagens ansträngningar att karantänsätta och ta bort den.

QAnon har också blivit en fråga för kongressen, eftersom det inte längre handlar om människor som deltar i en konstigt onlinespel: den har landat som en tornado i politikers liv, som nu är måltavlor för trakasseringskampanjer som går över från feber drömmar om våldskonspirationer . Dessutom har det skett snabbt och på nya sätt. Det tar vanligtvis år att sprida konspirationsteorier i samhället, med främjande av viktiga politiska, mediala och religiösa personer. Sociala medier har påskyndat denna process genom ständigt växande former av innehållsleverans. QAnons följare kommenterar inte bara de senaste nyheterna; de böjer den efter sitt bud .

Jag fokuserade mitt vittnesbörd på de många icke namngivna skador som orsakas av sociala medieföretags oförmåga att förhindra att felaktig information mättar deras tjänster. Journalister, folkhälso- och sjukvårdspersonal, civilsamhällets ledare och stadsadministratörer, som brottsbekämpande myndigheter och valtjänstemän, bär kostnaderna för desinformation i stor skala och bördan av att ta itu med dess effekter. Många människor tippar på tån kring politiska frågor när de chattar med vänner och familj, men när desinformation om protester började mobilisera vita vigilanter och medicinsk desinformation fick människor att tona ner pandemin, tog olika yrkessektorer viktiga nya roller som förespråkar sanningen .

Ta folkhälso- och sjukvårdspersonal, som har varit tvungna att utveckla resurser för att mildra medicinsk desinformation om covid-19. Läkare försöker bli online-influencers för att korrigera falska råd och falska påståenden om mirakelkurer – ta tid från att ge vård eller utveckla behandlingar. Många redaktioner anpassade sig under tiden till normaliseringen av desinformation på sociala medier genom att utveckla ett desinformationsbeat – avslöjande av konspirationsteorier eller falska nyhetspåståenden som kan påverka deras läsare. Men dessa resurser skulle spenderas mycket bättre på att upprätthålla journalistik snarare än att i huvudsak agera som tredjeparts innehållsmoderatorer.

Relaterad berättelse

Tack för att du publicerade: Smoking’s lessons for regulating social media Tidigare Facebook-chefer erkänner att de använde tobaksindustrins handbok för beroendeframkallande produkter. Kanske kan den också användas för att åtgärda skadan.

Även organisationer i det civila samhället har tvingats lägga resurser på att övervaka desinformation och skydda sin bas från riktade kampanjer. Rasifierad desinformation är en erfaren taktik för inhemska och utländska inflytandeoperationer: kampanjer efterliknar antingen färggrupper eller använder rasism för att öka polariseringen i wedge-frågor. Brandi Collins-Dexter vittnade om dessa frågor vid en kongressutfrågning i juni och lyfte fram hur teknikföretag gömmer sig bakom uppmaningar om att skydda yttrandefriheten till varje pris utan att göra tillräckligt för att skydda svarta samhällen som riktas dagligen på sociala medier med medicinsk desinformation, hatretorik, hets och trakasserier.

Valförrättare , brottsbekämpande personal och första responders är i ett allvarligt underläge när de försöker göra sina jobb medan rykten och konspirationsteorier sprids på nätet. Just nu, brottsbekämpande myndigheter förbereder sig för våld vid vallokaler.

En väg att förbättra

När desinformation sprids från den digitala till den fysiska världen kan den omdirigera offentliga resurser och hota människors säkerhet. Det är därför sociala medieföretag måste ta frågan lika seriöst som de tar sin önskan att tjäna pengar.

Men de behöver en väg att förbättra. 230 § kommunikations- och anständighetslagen ger sociala medieföretag möjlighet att förbättra innehållsmoderering, men politiker har hotat att ta bort dessa skydd så att de kan fortsätta med sina egna propagandakampanjer. Under hela utfrågningen i oktober hägrade spöket för en ny byrå som oberoende kunde granska kränkningar av medborgerliga rättigheter, undersöka frågor om datasekretess och bedöma marknadsexternaliteterna för denna industri på andra sektorer.

Som jag hävdade under utfrågningen betyder den enorma räckvidden för sociala medier över hela världen att det är viktigt att reglering inte börjar med att avveckla avsnitt 230 förrän en ny policy är på plats.

Tills dess behöver vi mer transparens. Desinformation handlar inte bara om fakta; det handlar om vem som får säga vad fakta är. Rättvisa beslut om innehållsmoderering är nyckeln till offentligt ansvar.

Istället för att hålla fast vid teknostalgi under en tid då det inte var så illa, är det ibland värt att fråga vad som krävs för att uppfinna sociala medier, så att vi kan kartlägga en kurs för den webb vi vill ha – en webb som främjar demokrati, kunskap, omsorg och rättvisa. Annars blir varje oförklarat beslut av teknikföretag om tillgång till information potentiellt foder för konspiratorer och, ännu värre, grunden för att överskrida regeringens politik.

Dölj