YouTube experimenterar med sätt att göra sin algoritm ännu mer beroendeframkallande

Illustration som visar YouTube-gränssnitt med ASMR-videor Ms. Tech; Bilder: screengrabs från YouTube | Gibi ASMR/ASMR Darling/W magazine/ASMR Glow

Rekommendationsalgoritmer är några av de mest kraftfulla maskininlärningssystemen idag på grund av deras förmåga att forma informationen vi konsumerar. YouTubes algoritm, särskilt, har ett stort inflytande. Plattformen beräknas vara näst efter Google i webbtrafik, och 70 % av vad användarna tittar på matas till dem genom rekommendationer.

Under de senaste åren har detta inflytande hamnat under stor granskning. Eftersom algoritmen är optimerad för att få människor att engagera sig i videor, tenderar den att erbjuda val som förstärker vad någon redan gillar eller tror, ​​vilket kan skapa en beroendeframkallande upplevelse som stänger ute andra vyer. Detta belönar också ofta de mest extrema och kontroversiella videorna, som studier har visat kan snabbt trycka in människor djupa kaninhål av innehåll och leda till politiska radikalisering .

Även om YouTube offentligt har sagt att de arbetar med att lösa dessa problem, a nytt papper från Google, som äger YouTube, verkar berätta en annan historia. Den föreslår en uppdatering av plattformens algoritm som är tänkt att rekommendera ännu mer riktat innehåll till användare i syfte att öka engagemanget.

Så här ser du YouTubes rekommendationssystem fungerar för närvarande . För att fylla sidofältet för rekommenderade videor sammanställer det först en kortlista med flera hundra videor genom att hitta de som matchar ämnet och andra funktioner i den du tittar på. Sedan rangordnar den listan enligt användarens preferenser, som den lär sig genom att mata in alla dina klick, gilla-markeringar och andra interaktioner i en maskininlärningsalgoritm.

Bland de föreslagna uppdateringarna riktar forskarna sig specifikt mot ett problem som de identifierar som implicit partiskhet. Det hänvisar till hur rekommendationer i sig kan påverka användarnas beteende, vilket gör det svårt att tyda om du klickade på en video för att du gillade den eller för att den rekommenderades starkt. Effekten är att systemet med tiden kan driva användare längre och längre bort från de videor de faktiskt vill se.

För att minska denna snedvridning föreslår forskarna en justering av algoritmen: varje gång en användare klickar på en video tar det också hänsyn till videons rankning i rekommendationsfältet. Videor som är nära toppen av sidofältet får mindre vikt när de matas in i maskininlärningsalgoritmen; videor djupt nere i rankningen, som kräver att en användare rullar, ges fler. När forskarna testade förändringarna live på YouTube fann de betydligt mer användarengagemang.

Även om tidningen inte säger om det nya systemet kommer att distribueras permanent, sa Guillaume Chaslot, en ex-YouTube-ingenjör som nu driver AlgoTransparency.org, att han var ganska säker på att det skulle ske relativt snabbt: de sa att det ökar bevakningen tid med 0,24 %. Om du beräknar beloppet tror jag att det kanske är tiotals miljoner dollar.

Flera experter som granskade tidningen sa att förändringarna kan ha perversa effekter. I vår forskning har vi funnit att YouTubes algoritmer skapade en isolerad högerextrem gemenskap, pushade användare mot videor på barn och främjade desinformation, sa Jonas Kaiser, en affiliate vid Berkman Klein Center for Internet & Society. I utkanten kan denna förändring […] främja bildandet av mer isolerade samhällen än vi redan har sett. Jonathan Albright, chef för initiativet för digital forensics vid Tow Center for Digital Journalism, sa att även om en minskning av positionsbias är en bra början för att bromsa återkopplingsslingan för lågkvalitativt innehåll, kan förändringen i teorin också gynna extremt innehåll ytterligare.

Becca Lewis, tidigare forskare vid Data & Society som studerar extremism på nätet, sa att det var svårt att veta hur förändringarna skulle se ut. Det är sant för YouTube även internt, sa hon. Det finns så många olika gemenskaper på YouTube, olika sätt som människor använder YouTube, olika typer av innehåll, att konsekvenserna kommer att bli olika i så många fall. Vi blir testpersoner för YouTube.

När en YouTube-talesman nåddes för en kommentar sa att dess ingenjörer och produktteam hade bestämt att ändringarna inte skulle leda till filterbubblor. Däremot förväntar sig företaget att förändringarna minskar dem och diversifierar rekommendationerna överlag.

Alla tre externa forskare som MIT Technology Review kontaktat rekommenderar att YouTube lägger mer tid på att utforska effekterna av algoritmiska förändringar genom metoder som intervjuer, undersökningar och användarinput. YouTube har gjort detta till viss del, sa talespersonen, som arbetar för att ta bort extremt innehåll i form av hatretorik på sin plattform.

YouTube borde lägga mer energi på att förstå vilka aktörer deras algoritmer gynnar och förstärker än hur man håller användarna på plattformen, sa Kaiser.

Det frustrerande är att det inte ligger i YouTubes affärsintresse att göra det, tillade Lewis. Men det finns ett etiskt krav.

Rättelser: Effekten av YouTubes förändring skulle sannolikt vara i storleksordningen tiotals miljoner, inte miljarder dollar. Berättelsen uppdaterades också den 27 september 2019 kl. 15:30 ET för att återspegla YouTubes svar.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.

Dölj