211service.com
Facebook behöver 30 000 egna innehållsmoderatorer, säger en ny rapport
Opartisk Press Opartisk Press
Tänk om Facebook slutade moderera sin sajt just nu. Vem som helst kunde posta vad de ville. Erfarenheten verkar tyda på att det ganska snabbt skulle bli en helvetes miljö översvämmad av spam, mobbning, brott, halshuggning av terrorister, nynazistiska texter och bilder av sexuella övergrepp mot barn. I det scenariot skulle antagligen stora delar av dess användarbas lämnas, följt av de lukrativa annonsörerna.
Men om måttlighet är så viktigt, behandlas det inte som det. Den överväldigande majoriteten av de 15 000 människor som ägnar hela dagen åt att bestämma vad som får och inte får finnas på Facebook, arbetar inte ens för Facebook. Hela funktionen av innehållsmoderering överförs till tredjepartsleverantörer, som anställer tillfälligt anställda på osäkra kontrakt på över 20 platser över hela världen. De måste granska hundratals inlägg om dagen, varav många djupt traumatiserande . Fel är utbredd , trots företagets antagande av AI-verktyg att triagera inlägg enligt vilka kräver uppmärksamhet. Facebook har själv erkänt en 10-procentig felfrekvens, oavsett om det är felaktig flaggning av inlägg som ska tas bort som ska hållas kvar eller vice versa. Med tanke på att recensenter måste vada igenom tre miljoner inlägg per dag, motsvarar det 300 000 misstag dagligen. Vissa fel kan ha dödliga effekter. Till exempel använde medlemmar av Myanmars militär Facebook att hetsa till folkmord mot den mestadels muslimska rohingya-minoriteten 2016 och 2017. Företaget erkände det senare misslyckades med att genomdriva sin egen politik förbud mot hatretorik och uppvigling till våld.
Om vi vill förbättra hur moderering utförs måste Facebook ta med innehållsmoderatorer internt, göra dem till helt anställda och dubbla deras antal, hävdar en ny rapport från New York Universitys Stern Center for Business and Human Rights.
Moderering av innehåll är inte som andra utlagda funktioner, som matlagning eller städning, säger rapportförfattaren Paul M. Barrett, biträdande chef för centret. Det är en central funktion i sociala mediers verksamhet, och det gör det något konstigt att det behandlas som om det är perifert eller någon annans problem.
Varför behandlas innehållsmoderering på detta sätt av Facebooks ledare? Det beror åtminstone delvis på kostnaden, säger Barrett. Hans rekommendationer skulle vara mycket kostsamt för företaget att anta – troligen i tiotals miljoner dollar (men för att sätta detta i perspektiv gör det miljarder dollar vinst varje år). Men det finns en andra, mer komplex anledning. Aktiviteten med innehållsmoderering passar helt enkelt inte in i Silicon Valleys självbild. Vissa typer av aktiviteter är mycket högt värderade och glamoriserade – produktinnovation, smart marknadsföring, ingenjörskonst ... den tråkiga världen av innehållsmoderering passar inte in i det, säger han.
Han tycker att det är dags för Facebook att behandla måttfullhet som en central del av sin verksamhet. Han säger att en höjning av dess status på detta sätt skulle hjälpa till att undvika den sortens katastrofala misstag som begås i Myanmar, öka ansvarsskyldigheten och bättre skydda anställda från skada på deras mentala hälsa.
Det verkar vara en oundviklig verklighet att innehållsmoderering alltid kommer att innebära att man utsätts för något fruktansvärt material, även om arbetet tas in i huset. Men det finns så mycket mer företaget kan göra för att göra det enklare: screena moderatorer bättre för att se till att de verkligen är medvetna om riskerna med jobbet, till exempel, och se till att de har förstklassig vård och rådgivning tillgänglig. Barrett tror att moderering av innehåll kan vara något som alla Facebook-anställda är skyldiga att göra under minst ett år som en slags pliktturné för att hjälpa dem att förstå konsekvenserna av deras beslut.
Rapporten ger åtta rekommendationer för Facebook:
- Sluta lägga ut innehållsmoderering på entreprenad och lyft moderatorernas station på arbetsplatsen.
- Dubbla antalet moderatorer för att förbättra kvaliteten på innehållsgranskningen.
- Anlita någon för att övervaka innehåll och faktagranskning som rapporterar direkt till VD eller COO.
- Utvidga återhållsamheten ytterligare i riskländer i Asien, Afrika och på andra håll.
- Ge alla moderatorer högkvalitativ medicinsk vård på plats, inklusive tillgång till psykiatriker.
- Sponsra forskning om hälsoriskerna med moderering av innehåll, särskilt PTSD.
- Utforska snävt skräddarsydd statlig reglering av skadligt innehåll.
- Utvidga faktagranskning avsevärt för att avslöja falsk information.
Förslagen är minst sagt ambitiösa. När de blev kontaktade för en kommentar, ville Facebook inte diskutera om de skulle överväga att anta dem. En talesperson sa dock att dess nuvarande tillvägagångssätt innebär att vi snabbt kan justera fokus för vår personal efter behov, och tillade att det ger oss möjligheten att se till att vi har rätt språkexpertis – och snabbt kan anställa i olika tidszoner – som nya behov uppstår eller när en situation runt om i världen motiverar det.
Men Barrett tror att ett nyligen genomfört experiment som utfördes som svar på coronakrisen visar att förändring är möjlig. Facebook meddelade att eftersom många av dess innehållsmoderatorer inte kunde gå in på företagets kontor, skulle det göra det flytta ansvaret till interna anställda för att kontrollera vissa känsliga kategorier av innehåll.
Jag tycker att det är väldigt talande att Zuckerberg i ett krisögonblick förlitade sig på de människor han litar på: sina heltidsanställda, säger han. Kanske kan det ses som grunden för en konversation inom Facebook om att justera hur man ser på innehållsmoderering.