211service.com
Samling av 13 500 Nastygrams kunde föra kriget mot troll
En visualisering av inlägg på Wikipedias diskussionssidor i januari visar förekomsten av personangrepp, markerade i rött.
Kvinnohat, rasism, svordomar – en samling av mer än 13 500 personliga attacker online har allt.
Nastygrammen kom från diskussionssidorna på Wikipedia. Samlingen, tillsammans med över 100 000 mer godartade inlägg, har blivit frisläppt av forskare från Alphabet och Wikimedia Foundation, den ideella organisationen bakom Wikipedia. De säger att uppgifterna kommer att öka ansträngningarna för att träna programvara för att förstå och polisera trakasserier online.
Vårt mål är att se hur vi kan hjälpa människor att diskutera de mest kontroversiella och viktiga ämnena på ett produktivt sätt över hela Internet, säger Lucas Dixon, chefsforskare vid Kontursåg , en grupp inom Alphabet som bygger teknologi för att tjäna saker som yttrandefrihet och bekämpning av korruption (se 'Om bara AI kunde rädda oss från oss själva').
Jigsaw och Wikimedia-forskare använde en crowdsourcing-tjänst för att få människor att kamma igenom mer än 115 000 meddelanden som publicerats på Wikipedias diskussionssidor, för att leta efter alla som var en personlig attack som definieras av gemenskapens regler . Samarbetspartnerna har redan använt data för att träna maskininlärningsalgoritmer som konkurrerar med arbetare med crowdsourcing när de upptäcker personliga attacker. När de gick igenom hela samlingen av 63 miljoner diskussionsinlägg från Wikipedias redaktörer fann de att bara en av tio attacker hade resulterat i åtgärder från moderatorer.
Wikimedia Foundation gjort minskar trakasserier bland Wikipedia-redaktörerna en prioritet förra året. Policyn lägger till befintliga ansträngningar för att mildra den taggiga och byråkratiska atmosfären i Wikipedia-gemenskapen, vilket har visat sig avskräcka nya bidragsgivare från att delta. Båda problemen kan hjälpa till att förklara varför det har sett redaktörssiffrorna sjunka och kämpat för att bredda deltagandet bortom en central manlig, västerländsk demografi (se The Decline of Wikipedia).
Jigsaw och Wikimedia Foundation är inte de första som studerar övergrepp online, och de är inte heller de första som syftar till att designa programvara som kan upptäcka och bekämpa det. Men samlingar av kommentarer märkta för att flagga trakasserande och icke-trakasserande inlägg – som behövs för att träna maskininlärningsprogram – har varit få, säger Ellery Wulczyn , en datavetenskaplig forskare med Wikimedia Foundation.
Han uppskattar att samlingen av personangrepp och kommentarer från Wikipedia är mellan 10 och 100 gånger större än de tidigare tillgängliga. Maskininlärningsalgoritmer behöver ett stort antal märkta exempel för att lära sig hur man korrekt filtrerar data.
Huruvida algoritmer som tränats för att upptäcka missbruk kan användas som effektiva moderatorer är dock fortfarande oklart. Programvara är långt ifrån att förstå alla nyanser av språk. Vissa människor kan vara motiverade att ställa in sitt kränkande språk för att undvika upptäckt, säger Wikimedias Wulczyn. Om vi skulle bygga ingripanden som människor har en kontradiktorisk relation till vet vi inte vad som skulle hända, säger han.