Facebooks läckta modereringsregler visar varför Big Tech inte kan polisa hatpropaganda

Kategori: Silicon Valley Postad 28 dec

Samhället bad Big Tech att stänga ned hatretorik på nätet. Vi fick precis vad vi bad om.

Nyheterna: New York Times Max Fisher publicerade utdrag från mer än 1 400 sidor med interna Facebook-dokument, som innehåller regler för företagets globala armé med mer än 7 500 innehållsmoderatorer. (Moderkortet hade tidigare publicerat något av samma material.)

Vad finns inuti? En vidsträckt samling av riktlinjer, begränsningar och klassificeringar. Reglerna om hatretorik enbart omfattar 200 jargongfyllda, huvudsnurrande sidor. De inkluderar detaljer om hur man tolkar emoji (användning av ? kan tydligen vara både mobbning och beröm) och listor över personer eller politiska partier att övervaka för eventuellt hatretorik. Dokumenten visar att Facebook är en mycket mer kraftfull medlare av globalt tal än vad det har erkänt, skriver Fisher.

Problemet: Riktlinjerna är inte bara bysantinska; vissa är inaktuella eller innehåller fel. De varierar också mycket beroende på hur mycket press företaget är under: Facebook blockerar dussintals högerextrema grupper i Tyskland, där myndigheterna granskar det sociala nätverket, men bara en i grannlandet Österrike. Moderatorer, av vilka de flesta arbetar för outsourcingföretag och får minimal utbildning, förväntas göra komplexa bedömningar på några sekunder, bearbetar tusen inlägg om dagen , med regler som ändras ofta som svar på politiska händelser, och ofta med hjälp av Google Translate.

Takeaway: Detta tar bort alla kvarvarande föreställning att Facebook bara är en neutral publiceringsplattform. Politiska bedömningar genomsyrar varje sida i dessa riktlinjer.

Men vad förväntade du dig? Som Facebooks tidigare säkerhetschef, Alex Stamos, sa till mig i oktober, har vi krävt att tekniska plattformar ska polisa hattal, och det ger dem bara mer makt. Det är en farlig väg, varnade Stamos. Om fem eller tio år kan det finnas maskininlärningssystem som förstår mänskliga språk lika väl som människor. Vi kan sluta med maskinhastighet, realtidsmoderering av allt vi säger online.