211service.com
Kvinnliga svarta journalister och politiker får skickade en kränkande tweet var 30:e sekund
Maskininlärning avslöjar en oroande nivå av trakasserier, övergrepp och trolling riktade mot kvinnor och minoriteter på Twitter. 18 december 2018
Mårten Björk | Unsplash
Twitter kan vara en giftig plats. De senaste åren har trolling och trakasserier på sajten gjort det till en extremt obehaglig och upprörande upplevelse för många människor, särskilt kvinnor och minoriteter. Men att automatiskt identifiera och stoppa sådana övergrepp är svårt att göra exakt och tillförlitligt. Detta beror på att, trots alla de senaste framstegen inom AI, maskiner i allmänhet fortfarande kämpar för att svara meningsfullt på mänsklig kommunikation. Till exempel har AI vanligtvis svårt att fånga upp kränkande meddelanden som kan vara sarkastiska eller förklädda med ett stänk av positiva sökord.
En ny studie har använt banbrytande maskininlärning för att få en mer exakt ögonblicksbild av omfattningen av trakasserier på Twitter. Dess analys bekräftar vad många redan kommer att misstänka: kvinnliga journalister och minoritetsjournalister och politiker möter en chockerande mängd övergrepp på plattformen.
Studien utförd av Amnesty International i samarbete med ett kanadensiskt företag ElementsAI , visar att svarta kvinnliga politiker och journalister är 84 % mer benägna att nämnas i kränkande eller problematiska tweets än vita kvinnor i samma yrke.
Det är bara irriterande, säger Julien Cornebise, forskningschef på ElementAI i London, ett kontor fokuserat på humanitära tillämpningar av maskininlärning. Dessa kvinnor är en stor del av hur samhället fungerar.
ElementAI-forskare använde först ett maskininlärningsverktyg som liknar det som används för att klassificera spam för att identifiera kränkande tweets. Forskarna gav sedan frivilliga en blandning av förklassificerade och tidigare osynliga tweets att klassificera. Tweets som identifierats som kränkande användes för att träna ett nätverk för djupinlärning. Resultatet är ett system som kan klassificera missbruk med imponerande noggrannhet, enligt Cornebise.
Projektet fokuserade på tweets som skickats till politiker och journalister. I studien sågs 6 500 frivilliga från 150 länder hjälpa till att klassificera övergrepp i 228 000 tweets som skickades till 778 kvinnliga politiker och journalister i Storbritannien och USA under 2017.
Studien undersökte tweets som skickats till kvinnliga ledamöter av det brittiska parlamentet och den amerikanska kongressen och senaten, såväl som kvinnliga journalister från tidningar som Daily Mail, Gal Dem, the Guardian, Pink News och the Sun i Storbritannien och Breitbart och New York Times i USA.
Den fann att 1,1 miljoner kränkande tweets skickades till de 778 kvinnorna under denna period - det motsvarar en var 30:e sekund. Den fann också att 7,1 % av alla tweets som skickas till kvinnor i dessa roller är kränkande. Forskarna bakom studien har också släppt ett verktyg, kallad Trollpatrull , för att testa om en tweet utgör övergrepp eller trakasserier.
Även om djupinlärningsmetoden var en stor förbättring av befintliga metoder för att upptäcka övergrepp, varnar forskarna för att maskininlärning eller AI inte kommer att räcka för att identifiera trolling hela tiden. Cornebise säger att verktyget ofta är lika bra som mänskliga moderatorer men är också benäget att göra fel. Det kommer att krävas ett visst mänskligt omdöme under överskådlig framtid, säger han.
Twitter har fått stor kritik för att inte göra mer för att övervaka sin plattform. Milena Marin, som arbetade med projektet på Amnesty International, säger att företaget åtminstone borde vara mer transparent om sina polismetoder.
Troll Patrol handlar inte om att bevaka Twitter eller tvinga den att ta bort innehåll, säger Marin. Men hon varnade för att Twitter måste börja vara transparent om exakt hur det använder maskininlärning för att upptäcka missbruk och publicera teknisk information om de algoritmer den förlitar sig på.
Som svar på rapporten pekade Twitter-juristen Vijaya Gadde på problemet med att definiera övergrepp. Jag skulle notera att begreppet 'problematiskt' innehåll i syfte att klassificera innehåll är ett som motiverar ytterligare diskussion, sa Gadde i ett uttalande. Vi arbetar hårt för att skapa globalt verkställbara regler och har börjat rådfråga allmänheten som en del av processen.