Reddits automoderator är framtiden för internet, och djupt ofullkomlig

bild av man som tittar på datorkod tre bildskärmar automoderator automod modererande reddit Jefferson Santos via Unsplash

Under de senaste fyra åren har Shagun Jhaver modererat flera subreddits, flitigt bläddrat igenom sidor och blockerat inlägg som bryter mot gemenskapens regler eller är direkt stötande.

En doktorand vid Georgia Tech vars forskning fokuserar på innehållsmoderering, Jhaver undrade om en automatisk moderator kunde hjälpa honom att spara inte bara tid utan också den mentala avgiften av att sålla igenom psykologiskt dränerande innehåll. Så tillsammans med tre kollegor satte han sig för att ta reda på om en automatisk moderator – i det här fallet, AutoMod – Fungerade faktiskt.

Teamet modererade personligen flera sidor på Reddit och genomförde sedan intervjuer med 16 andra moderatorer av några av de mest populära subredditsna på sajten – inklusive r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying och r/politics, var och en varav har miljontals prenumeranter. Alla förlitar sig på AutoMod för att hjälpa dem moderera. Jhaver kommer att presentera arbete nästa vecka kl ACM-konferens om datorstödt kooperativt arbete och social datoranvändning .

Sociala mediaplattformar som Facebook , Instagram och YouTube har länge förlitat sig på mänskliga moderatorer för att manuellt kamma igenom innehåll och ta bort våldsamt och kränkande material som sträcker sig från rasistiskt och sexistiskt hatretorik till grafisk video av masskjutningar. Ofta arbetar på kontrakt, till minimilöner med få förmåner, moderatorer kan finna sig i att dra långa timmar samtidigt som de blir puffade med innehåll som tar allvarligt på deras mentala hälsa .

Automoderatorer är ett försök att mildra tröttheten och negativa effekterna av sådant arbete. Utvecklat av Redditor Chad Birch som ett sätt att öka sin förmåga att moderera r/gaming-kanalen, är AutoMod ett regelbaserat verktyg för att identifiera ord som bryter mot en viss sidas inläggspolicy. Den har sedan dess blivit stor användning – Reddit använde den över hela webbplatsen 2015, och de enormt populära spelstreamingplattformarna Twitch och Discord följde efter strax efter.

Huruvida AutoMod faktiskt är en tidsbesparare är dock tveksamt. Å ena sidan är automoderatorer väldigt bra på vad de gör – om de är programmerade att hitta svordomar kommer de att hitta och blockera inlägg som innehåller dem utan att misslyckas. Det kan skicka meddelanden till affischer om problematiskt innehåll, som Jhaver säger är lärorikt, eftersom författare kan lära sig vad som var fel med det de postade.

Det är ingen liten bedrift. Som Jhaver och hans kollegor noterar togs cirka 22 % av alla bidrag på Reddit mellan mars och oktober 2018 bort. Det blir cirka 17,4 miljoner inlägg under den tidsperioden.

Men låt oss säga att ordet är viktigt för sammanhanget i inlägget – en diskussion 2016 om den snart blivande presidenten Donald Trumps ökända kommentar om att ta tag i en kvinnas könsorgan , till exempel. Sådana inlägg skulle flaggas på grund av det stötande språket, även om det är meningen med inlägget i första hand att diskutera det språket. Jhaver säger att detta frustrerar användare, som sedan måste gå tillbaka och be moderatorer att återinföra inlägget.

Och i en social mediavärld där oroväckande innehåll i allt högre grad består av stötande memes, liveströmmar av skottlossningar eller annat visuellt, textlöst innehåll, är AutoMods beroende av att hitta nyckelord en stor risk.

Robert Peck, moderator för de stora subredditsna r/pics och r/aww, vet detta alltför väl. Var och en av dessa sidor är bilddriven, och var och en har miljontals följare som publicerar mycket mer innehåll än någon rimligtvis kan bli ombedd att sålla igenom.

Ändå säger han att även om den inte kan analysera bilder har AutoMod gjort hans arbete lättare. Användare lägger till beskrivningar till bilder direkt, och vi kan kontrollera de titlarna, säger han. Vi letar efter kontofettning eller spam som har konton som automatiserar inlägg. De använder ofta parenteser. Vi kan säga till AutoMod att leta efter dessa mönster.

Gilla det eller inte, AutoMod och dess liknande är framtiden för moderering av sociala plattformar. Det kommer förmodligen alltid att vara ofullkomligt, eftersom maskiner fortfarande är långt ifrån att verkligen förstå mänskligt språk. Men det är detta som automatisering ska handla om: att spara tid på tråkiga eller stötande uppgifter. Att kunna koncentrera sig på inlägg som kräver en mänsklig beröring gör en moderators jobb så mycket mer värdefullt och låter både moderatorer och affischer fokusera på att ha bättre konversationer.

Det kommer inte att lösa problemet med människor som lägger upp otäckt, skadligt eller på annat sätt skadligt innehåll – det kommer fortfarande att vara ett av de svåraste problemen som drabbar det moderna internet. Men det gör skillnad. Peck säger att han är tacksam för AutoMods förmåga att hjälpa honom att batchbearbeta inlägg. Det är en kraftfull teknik och ganska användarvänlig - inte i närheten av svårigheten att programmera en motsvarande bot, säger han. [AutoMod] är mitt mest kraftfulla verktyg, och jag skulle gå vilse utan det.

Dölj