Så här ska sociala medier-företag hantera onlinehat, enligt fysiken

Inne i Facebooks krigsrum, där den övervakar innehåll AP

Att bevaka hatgrupper online är som ett oändligt spel av mullvad: moderatorer tar bort en nynazistisk sida på Facebook, bara för att en annan ska dyka upp timmar senare . Det är ett tillvägagångssätt som inte fungerar, men ett team av fysiker har använt en studie av nätverk för att föreslå flera alternativa strategier som kan.

Omfattningen av problemet: Teamet från George Washington University undersökte dynamiken i hatgemenskaper – grupper som organiserar individer med liknande åsikter – på sociala medieplattformar Facebook och VKontakte (motsvarande i Ryssland) under några månader. De fann att dessa nätverk är anmärkningsvärt globalt sammankopplade och motståndskraftiga på mikronivå när de attackeras, korsar plattformar och hoppar mellan länder, kontinenter och språk. Bevis från verkliga världen på denna sammankoppling kan ses i hur vita extremistangripare i Norge, Nya Zeeland och USA har uttryckligen hämtat inspiration från varandra .

Det nuvarande tillvägagångssättet är brutet: Forskarnas matematiska modell förutspår att polisarbete inom en enda plattform, som Facebook, faktiskt kan göra spridningen av hatretorik värre och så småningom kan pressa det under jorden, där det är ännu svårare att studera och bekämpa. Teamet förklarade sina upptäckter i en tidning i Natur Denna vecka.

Vad kan göras? Forskarna föreslår policyer som skulle kunna implementeras av sociala medieföretag:

— Förbjud relativt små hatkluster, snarare än de största. Dessa är lättare att lokalisera, och att eliminera dem kan hjälpa till att stoppa de större klustren från att bildas i första hand.

— Förbjud ett litet antal användare som valts slumpmässigt från hatkluster online. Detta undviker att förbjuda hela grupper av användare, vilket resulterar i upprördhet och anklagelser om talundertryckning.

— Uppmuntra kluster av anti-hatanvändare att bildas. de kan motverka hatkluster.

— Eftersom många hatgrupper på nätet har motsatta åsikter bör plattformsadministratörer införa en konstgjord grupp användare för att så uppdelning mellan dessa grupper. Forskarna fann att den här typen av strider kunde få ner stora hatkluster som har motsatta åsikter.

Hur troligt är det? Vissa av politiken, särskilt de två sistnämnda, är ganska radikala. Men eftersom nuvarande tillvägagångssätt är så djupt ineffektiva, är det verkligen värt besväret för sociala medieföretag att prova dem. Över till dig, Mark Zuckerberg.

Registrera dig här för vårt dagliga nyhetsbrev The Download för att få din dos av de senaste måste-läs-nyheterna från världen av framväxande teknik.

Dölj