Varför kongressen borde titta på Twitter och Facebook

Upprepa prestanda? Facebooks Sheryl Sandberg och Twitters Jack Dorsey vittnade inför kongressen 2018.

Twitter nyligen meddelat det skulle vidta åtgärder mot konton som publicerar information relaterad till QAnon-konspirationsteorin, vars anhängare följer brödsmulorna som lämnats av en mystisk figur känd som Q i kryptiska meddelanden om Trump-administrationen på anonyma anslagstavlor online. Som svar på deras spridning av desinformation och trakasserier, mer än 7 000 konton kommer att förbjudas permanent , medan andra kommer att tas bort från dess sök- och trendsidor.

Det är ett viktigt steg, inte bara på grund av dess omfattning, utan också för att många av dessa konton drivs av personer baserade i USA. Under de senaste åren har vi sett tekniska plattformar villigt vidta åtgärder mot samordnat oäkta beteende från utländska aktörer. Det är ett branschmyntat begrepp om konst som ifrågasätts av forskare som jag . Att analysera utvecklingen av ansträngningarna att stänga av och ta bort konton kopplade till desinformationskampanjer är inte lätt, eftersom dessa företag först nyligen har börjat tillhandahålla transparensrapporter. Medan Twitter publicerar fullt kontoarkiv set som den har tagit bort, Facebook publicerar bloggar om borttagningar utan att ge betydande tillgång till data för revision. Trots det har Facebook och YouTube tagit bort amerikanska konton för hatretorik: Facebook tog nyligen bort ett äldre nätverk av falska konton kopplade till Roger Stone och USA:s hatgrupp The Proud Boys , och i slutet av juni förbjöds YouTube flera länge Amerikanska innehållsskapare för hatretorik.

Att ta bort populära individer – och inte bara utländska influencers – är ett viktigt steg i kampen mot desinformation, eftersom influencers är beroende av deras namn som varumärke. Utan tillgång till deras namn som nyckelord upplever de svårigheter att återupprätta sin publik på andra plattformar. Det är just därför deplattforming fungerar för att förhindra desinformation och trakasserier.

Relaterad berättelse

Det är för sent att stoppa QAnon med faktakontroller och kontoförbud Twitter och Facebook kommer inte att kunna hantera allkonspirationen utan att tänka om hela informationsekosystemet.

Att ta bort storskaliga nätverk av konton har en annan, men inte mindre betydande, effekt. Förändringar i informationsekosystemet minskar förstärkningskraften hos dessa grupper; att ta bort den nätverksanslutna fraktionen av QAnon-konton före valet är anmärkningsvärt eftersom de är en betydande nod i den nya MAGA-koalitionen . Utan detta nätverk av superspridare på Twitter, det blir svårare att samordna manipulationen av sökmotorer och trendalgoritmer.

Men även om de lyckas minska spridningen av konspirationsteorier, avslöjar dessa handlingar de dubbla problemen som onlineplattformar står inför: visst tal är skadligt för samhället och utformningen av sociala mediasystem kan förvärra skadorna.

Talmonopol

Alla dessa ingripanden kommer som Amazon, Apple, Google och Facebook har blivit ombedda att vittna inför parlamentets underkommitté för rättsväsendets antitrust . Utfrågningen— nu försenad till onsdag —är en del av en serie som utforskar onlineplattformar och marknadsmakt och kommer att ringa Jeff Bezos från Amazon, Tim Cook från Apple, Sundar Pichai från Google och Mark Zuckerberg från Facebook.

Republikaner har försökt bjuda in andra, inklusive Twitter vd Jack Dorsey – men också en avvikare, John Matze, grundaren av högerappen Parler . Parler har byggt sitt varumärke på baksidan av påståenden som Twitter censurerar konservativa , och det gick nyligen på en sprint för att rekrytera republikanska politiker. I juli gästade Matze en podcast som rutinmässigt innehåller vitt nationalistiskt och kvinnofientligt innehåll och hade varit avstängd från YouTube 2018 för hatretorik . Under intervjun uttryckte Matze stolthet över att han tillhandahåller en plattform för dem som har tagits bort från andra plattformar, som Laura Loomer, Milo Yiannopoulos och Jacob Wohl. På Parler har dessa figurer sitt innehåll serverat tillsammans med bidrag från republikanska figurer som Rand Paul, Ted Cruz och Matt Gaetz, bland andra .

Mindre appar tillhandahåller alternativ infrastruktur för samhällen som handlar med hatretorik.

Forskning av mig och mina kollegor om utvecklingen av en annan app, Gab , som vunnit begränsad popularitet genom att marknadsföra sig själv som en fristad för yttrandefrihet efter det vita supremacistiska våldet i Charlottesville, Virginia, illustrerar de allvarliga begränsningarna hos mindre appar som tillhandahåller alternativ infrastruktur för samhällen som handlar med hatpropaganda.

Relaterad berättelse

Digitala trädgårdar låter dig odla din egen lilla bit av internet Ett växande antal människor skapar individualiserade, kreativa webbplatser som undviker utseendet och känslan i sociala medier som passar alla.

Gab har blivit synonymt med vita supremacister, som använder plattformen för att organisera sig våldsamma händelser . På många sätt följer Parler en liknande lekbok genom att marknadsföra sig själv som en befrielseteknik som värdesätter det första tillägget över allt annat . Denna marknadsföringsinsats driver på vågen av uppmärksamhet mot den pågående krisen som teknikföretag möter i sin kamp för att dämpa hatretorik, desinformation och trakasserier. Men vad är poängen med att bli ett säkert utrymme för sådana häftiga influencers? Parler använder det aktuella ögonblicket för att rekrytera nya kunder, och tillhandahåller i huvudsak samma gamla tjänst på ett sådant sätt att mottagligheten för manipulation är medvetet inbyggd.

Om kongressutfrågningarna utforskar konspirationsteorier och hatretorik kommer de att vara en viktig markör – inte minst för att medicinsk desinformation och politisk desinformation blir insnärjd på nya och farliga sätt, precis samtidigt som de av oss i mjuka karantäner har kommit till lita på sociala medier mer än någonsin. Glöm hatretorik: bedrägerier, bluff och desinformation om hälsa sprids i oroväckande takt i vårt medieekosystem.

Ett lopp mot botten

Plattformar har för mycket makt för att påverka den allmänna opinionen och påverka beteendet -och det påverkar direkt vår förmåga att engagera sig i en deliberativ debatt och att veta vad som är sant .

Twitter kanske inte längre är det yttrandefrihetspartiets yttrandefrihet , men alternativen verkar erbjuda lite annat än en kapplöpning mot botten, särskilt om de vägrar att erkänna att ideologin om yttrandefriheten som ett obehindrat gods är det som fick oss i denna fruktansvärda position i första hand.

Twitters agerande på QAnon-konton försöker åtgärda denna obalans, men just nu har designen av vårt medieekosystem gynnat desinformatörer och de som förstärker dem.

I politiken är detta antidemokratiskt; med medicinsk desinformation är det fysiskt farligt. Om kongressen väljer att leta på rätt ställen kan den upptäcka den verkliga kostnaden för sociala medier – och det faktum att vi inte kan bygga en sund demokrati ovanpå ett krångligt kommunikationssystem.

Dölj