Hur Facebook använder maskininlärning för att bekämpa ISIS och al-Qaida-propaganda

Kategori: Silicon Valley Postad 12 nov

Facebook hävdar att de proaktivt har hittat och tagit bort 99 % av terroristrelaterat innehåll på sajten under de senaste tre kvartalen. Det har gett en viss inblick i dess processer i en blogginlägg .

Lite statistik: Först är det viktigt att notera att när det står terrorism, syftar Facebook bara på ISIS och Al-Qaida. I genomsnitt hävdar företagen att de nu tar bort terroristinnehåll mindre än två minuter efter att det publicerats, jämfört med genomsnittet på 14 timmar som det tog tidigare i år. Facebook vidtog åtgärder på 9,4 miljoner delar av innehåll under andra kvartalet 2018, en siffra som sjönk till 3 miljoner under tredje kvartalet 2018, tack vare sina ansträngningar kvartalet innan.

Detektionssystem: Facebook har lanserat ett nytt maskininlärningsverktyg som bedömer om inlägg signalerar stöd för ISIS eller Al-Qaida. Den producerar en poäng som indikerar hur sannolikt det är att den bryter mot deras antiterrorismpolicy, med de som får högre poäng vidarebefordrade till sina mänskliga granskare att bedöma. För de högst poängsatta fallen tas inlägg bort automatiskt. I de sällsynta fall anställda upptäcker risken för överhängande skada, informerar Facebook omedelbart brottsbekämpande myndigheter, heter det.

Släpp bottarna: Det är uppenbart att Facebook är angelägen om att se hårt mot terrorism. Och som alltid förlitar den sig nästan uteslutande på algoritmer för att göra det. Det är mycket vettigt ur dess synvinkel, eftersom människor aldrig kunde skanna så mycket information så snabbt (och de är dyra). Men det är ännu en påminnelse om Facebooks roll som domare, jury och bödel på informationen som den låter oss se.