YouTubes algoritm verkar leda folk till alt-right-videor

Kategori: Människor och teknik Postad 29 jan

En ny studie tyder på att det vi har misstänkt i flera år är rätt: YouTube är en pipeline för extremism och hat.

Hur vet vi det? Mer än 330 000 videor på nästan 350 YouTube-kanaler analyserades och klassificerades manuellt enligt ett system designat av Anti-Defamation League. De stämplades som antingen media (eller vad vi tänker på som faktanyheter), alt-lite intellektuell mörk webb eller alt-right.

Grupperna: Alt-högern är vad som traditionellt förknippas med vit överhöghet, att driva på för en vit etnostat. De som ansluter sig till den intellektuella mörka webben motiverar vit överhöghet på basis av eugenik och rasvetenskap. Medlemmar av alt-lite hävdar att de inte stöder vit överhöghet, även om de tror på konspirationsteorier om att ersätta minoritetsgrupper.

Inkörsport: Studiens författare antog att den alt-lite och intellektuella mörka webben ofta fungerar som en inkörsport till mer extrema, högerextrema ideologier. Så de testade det genom att spåra författarna till 72 miljoner kommentarer på cirka två miljoner videor mellan maj och juli förra året. Resultaten var oroande. Mer än 26 % av personerna som kommenterade alt-lite-videor tenderade att glida över till alt-right-videor och därefter kommentera där.

Skylla på: Det är ganska lätt att komma till alt-lite och intellektuellt mörkt webbinnehåll med en enkel sökning, men alt-right-videor tenderar att vara svårare att hitta för förstagångsanvändare. Ändå fann forskarna att YouTubes algoritm ofta riktade användare som sökte efter specifika sökord mot ett allt mer våldsamt, extremt innehåll.

Och det blir värre: Teamet, från det schweiziska federala tekniska institutet Lausanne, hittade också bevis på att överlappningen mellan alt-righters och andra som sysslar med intellektuell dark web och alt-lite-material växer. Författarna uppskattar att cirka 60 000 personer som kommenterade alt-lite eller intellektuellt mörkt webbinnehåll exponerades för alt-right-videor under en period av cirka 18 månader. Arbetet presenterades vid 2020 års konferens om rättvisa, ansvarighet och transparens i Barcelona den här veckan.

Vi vet fortfarande inte mycket om YouTube-radikalisering: För det första är vi inte riktigt säkra på exakt vad som får människor att flytta från alt-lite-material till högerextrema saker. Det beror delvis på att YouTube begränsar åtkomsten till rekommendationsdata. Det är också möjligt att vissa människor kommer till YouTube redan efter att ha radikaliserats av någon extern, icke-YouTube-källa. Men denna forskning tyder på att YouTubes rekommendationsalgoritmer kan spela en betydande roll.

Bakgrunden: YouTube har länge kämpat med balansen mellan att upprätthålla yttrandefrihet och att ta itu med hatpropaganda. Företaget har tagit några inledande steg genom att förbjuda vissa kanaler, framför allt Alex Jones Infowars. Men kritiker hävdar att YouTube inte har gjort tillräckligt.

I ett uttalande sa YouTube att det arbetar igenom dessa problem: Under de senaste åren ... har vi ändrat våra sök- och upptäcktsalgoritmer för att säkerställa att mer auktoritativt innehåll dyker upp och märks på en framträdande plats i sökresultat och rekommendationer och har börjat minska rekommendationer av gränsöverskridande innehåll och videor som kan felinformera användare på skadliga sätt.'

En talesperson tillade att YouTube bestrider metoden och att den inte tar hänsyn till nyare uppdateringar av sin policy för hatretorik eller rekommendationer. 'Vi håller inte med om metodiken, data och, viktigast av allt, slutsatserna i denna nya forskning,' sa talespersonen.

Redaktörens notering: Den här historien har redigerats för att inkludera YouTubes kommentar och tvist.