Logan Pauls video är en varnande berättelse för plattformar som hoppas att AI ska rädda dem från stötande innehåll

Kategori: Teknisk policy Postad 03 jan

YouTube-stjärnan Logan Paul (om du inte är bekant har han 15 miljon prenumeranter) laddade upp en video på plattformen under helgen där han verkade dra skämt framför en kropp som hängde i ett träd under ett besök i skogen i Japan där människor har varit kända för att begå självmord. Filmen fick över sex miljoner visningar innan Paul tog ner den.

Varför det är viktigt: Pauls video var inte fångad av någon av YouTubes mjukvara eller mänskliga filter , vilket gör det till ett utmärkt exempel på innehåll som aldrig borde ha tillåtits i bred distribution men som ändå undgick toppmoderna system för artificiell intelligens. Det som är obscent är att ha visat och varit respektlös mot kroppen av ett självmordsoffer, Tarleton Gillespie, huvudforskare vid Microsoft Research, berättade Buzzfeed . Detta är den typ av kontextuell och etisk subtilitet som automatiserade verktyg sannolikt aldrig kommer att kunna uppskatta.

Går framåt: Händelsen visar att trots ansträngningar från Facebook och YouTube för att använda AI för att bekämpa stötande innehåll, kommer problemet med innehållsmoderering inte att lösas genom att använda lite mjukvara.