Perceptiva algoritmer kämpar för att upptäcka mer av webbens giftiga innehåll

Kategori: Okategoriserad Postad 20 dec

En ny tävling kan hjälpa till att städa upp Internet. Kaggle, en webbplats som låter organisationer genomföra datavetenskapstävlingar, avslöjade just sitt senaste projekt, som ber konkurrenter att bygga AI:er giftiga kommentarer .

Konkurrenter uppmanas att bygga ett system som kan hantera olika typer av toxicitet som hot, obscenitet, förolämpningar och identitetsbaserat hat. Stöd för tävlingen är Jigsaw, en del av Alphabet, som driver ett forskningsinitiativ som heter Conversation AI för att förbättra diskursen online. För att vinna priset på 35 000 $ på Kaggle måste ett bidrag slå resultatet av ett system byggt av Jigsaw, kallat Perspective API. Sedan den lanserades i tisdags har 199 lag anslutit sig till tävlingen.

Internet skulle verkligen kunna göra med fler och bättre verktyg för att rensa upp hot och hatretorik. Facebook, YouTube och Twitter har alla kämpat för att kontrollera sådant innehåll tidigare, och de flesta stora teknikföretag insisterar på att AI kan hjälpa dem att rensa upp det i framtiden. Men ingen av dem har ännu lyckats, och regeringar är missnöjda över misslyckanden med att snabbt få ned hatretorik.

Stora teknikföretag försöker dock. Facebook lanserade ett verktyg som heter Deeptext 2016 för att upptäcka känslor i kommentarer för att utrota olämpligt innehåll. Det tar ner ca 66 000 kommentarer en vecka men har fortfarande tusentals människor som övervakar flöden. Twitter, under tiden, meddelade denna vecka att det kommer att förbjudas konton som skickar hotfulla tweets och meddelanden.

Kanske kan Kaggle-tävlingen hjälpa till att äntligen lösa problemet.