Kan 10 000 människor städa upp YouTube?

Kategori: Okategoriserad Postad 05 dec

Algoritmerna fungerar inte. YouTube, som Facebook, kommer under konsekvent beskyllning för stötande innehåll – från extremism till barnmisshandel . Teknikledare lovar att artificiell intelligens kommer att hjälpa till att lösa problemet genom att automatiskt identifiera stötande innehåll innan någon kan se det. Men YouTubes bästa försök hittills ser bara 75 procent av sådana klipp innan en användare rapporterar dem.

Det är klart att AI inte räcker ännu. Det budskapet verkar upprepas av YouTubes vd, Susan Wojcicki. I ett nytt blogginlägg , förklarar hon att videosajten ökar sitt modereringsteam för att inkludera 10 000 anställda över hela Google för att hjälpa till att bekämpa stötande innehåll.

Vad kommer de göra? Till stor del mer av samma. Sedan juni har våra förtroende- och säkerhetsteam manuellt granskat nästan 2 miljoner videor för våldsamt extremistiskt innehåll, skriver hon. Vi vidtar också aggressiva åtgärder mot kommentarer, lanserar nya verktyg för kommentarmoderering och i vissa fall stänger vi ner kommentarer helt.

Men Wojcicki påpekar också att allt arbete har en annan användning: att träna AI:er. Mänskligt omdöme är avgörande för att fatta kontextualiserade beslut om innehåll, skriver hon och tillägger att genom att samla in data om hur dess moderatorer fungerar kommer YouTube att kunna träna ... maskininlärningsteknik för att identifiera liknande videor i framtiden.

Om allt detta låter bekant, så beror det på att Facebook lade till 3 000 extra innehållspoliser tidigare i år. På den tiden hävdade vi att extra människor ensamma, utan robust och pålitlig AI, sannolikt inte skulle göra någon större buckla i stötande innehåll – eftersom det finns så jäkla mycket av det att sålla igenom.

I YouTubes fall, med 300 timmars filmuppladdning varje minut, verkar det lika osannolikt att det kommer att lyckas – åtminstone tills dess algoritmer har lärt sig allt de behöver från moderatorerna för köttutrymmet.