DeepMind frågar hur AI hjälpte till att förvandla internet till en ekokammare

FRÖKEN. TECH | FOTO: YOUTUBE Ms. Tech | Foton: YouTube

En av de vanligaste tillämpningarna av maskininlärning idag är rekommendationsalgoritmer. Netflix och YouTube använder dem för att pusha dig nya program och videor; Google och Facebook använder dem för att rangordna innehållet i dina sökresultat och nyhetsflöde. Även om dessa algoritmer erbjuder en hel del bekvämlighet, har de några oönskade biverkningar. Du har säkert hört talas om dem förut: filterbubblor och ekokammare.

Oron för dessa effekter är inte ny. 2011 varnade Eli Pariser, nu vd för Upworthy, för filterbubblor på TED-scenen. Redan innan dess, i hans bok republic.com , Harvard juridikprofessor Cass Sunstein förutspådde exakt en grupppolarisationseffekt, driven av internets framväxt, som i slutändan skulle utmana en sund demokrati. Facebook skulle inte existera på tre år till.

Båda idéerna populariserades snabbt i efterdyningarna av det amerikanska valet 2016, vilket ledde till en ökning av relevant forskning. Nu lägger Googles eget AI-dotterbolag, DeepMind, till stipendiet. (Bättre sent än aldrig, eller hur?)

I ett nytt papper , analyserade forskare hur olika rekommendationsalgoritmer kan påskynda eller bromsa båda fenomenen, som forskarna definierar separat. Ekokammare, säger de, förstärker användarnas intressen genom upprepad exponering för liknande innehåll. Filtrera bubblor, i jämförelse, begränsar omfattningen av innehåll användare utsätts för. Båda är exempel i akademiskt tal på degenererade återkopplingsslingor. En högre nivå av degeneration, i detta fall, hänvisar till en starkare filterbubbla- eller ekokammareffekt.

De körde simuleringar av fem olika rekommendationsalgoritmer, som prioriterade olika grader av att exakt förutsäga exakt vad användaren var intresserad av framför att slumpmässigt marknadsföra nytt innehåll. Algoritmerna som prioriterade noggrannhet högre, fann de, ledde till mycket snabbare systemdegeneration. Med andra ord, det bästa sättet att bekämpa filterbubblor eller ekokammare är att designa algoritmerna så att de är mer utforskande och visar dig saker som är mindre säkra på att fånga ditt intresse. Att utöka den övergripande informationen som rekommendationerna är hämtade från kan också hjälpa.

Joseph A. Konstan, professor i datavetenskap vid University of Minnesota, som tidigare har dirigerat forskning på filterbubblor, säger resultaten från DeepMinds analys inte är överraskande. Forskare har länge förstått spänningen mellan korrekt förutsägelse och effektiv utforskning i rekommendationssystem, säger han.

Trots tidigare studier som visar att användare kommer att tolerera lägre nivåer av noggrannhet för att dra nytta av olika rekommendationer, har utvecklare fortfarande ett avskräckande från att designa sina algoritmer på det sättet. Det är alltid lättare att 'ha rätt' genom att rekommendera säkra val, säger Konstan.

Konstan kritiserar också DeepMind-studien för att närma sig filterbubblor och ekokammare som maskinlärande simuleringar snarare än interaktiva system som involverar människor - en begränsning som forskarna också noterade. Jag är alltid bekymrad över arbete som är begränsat till simuleringsstudier (eller offlinedataanalyser), säger han. Människor är komplexa. Å ena sidan vet vi att de värdesätter mångfald, men å andra sidan vet vi också att om vi sträcker rekommendationerna för långt – till en punkt där användarna känner att vi inte är pålitliga – kan vi förlora användarna helt.

Korrektion: Rubriken uppdaterades för att bättre spegla forskningens omfattning.

Dölj