211service.com
Algoritmmedvetenhet
Allt oftare är det algoritmer som väljer vilka produkter som ska rekommenderas till oss och algoritmer som avgör om vi ska få ett nytt kreditkort. Men dessa algoritmer är begravda utanför vår uppfattning. Hur börjar man förstå dessa mystiska dolda krafter?
Karrie Karahlios
Frågan fick resonans nyligen när Facebook avslöjade en vetenskaplig studie om känslospridning som hade genomförts med hjälp av dess nyhetsflöde. Studien visade att färre positiva uppdateringar i människors flöden gör att de skickar färre positiva och fler negativa meddelanden av sig själva. Detta resultat är intressant men oroande och avslöjar den fulla kraften i Facebooks algoritmiska inflytande såväl som dess vilja att använda det.
För att utforska frågan om algoritmisk medvetenhet byggde jag och tre kollegor 2013 ett verktyg som hjälper människor att förstå hur deras Facebook-nyhetsflöde fungerar.
Med hjälp av Facebooks eget programmeringsgränssnitt visade vårt verktyg en lista med berättelser som dök upp på ens nyhetsflöde till vänster på skärmen. Till höger såg användarna en lista med berättelser som lagts upp av hela deras vännätverk – det vill säga de såg det oförfalskade flödet utan någon algoritmisk kuration eller manipulation.
En tredje panel visade vilka vänners inlägg som huvudsakligen var dolda och vilka vänners inlägg som dök upp oftast. Slutligen tillät verktyget användare att manuellt välja vilka inlägg de ville se och vilka inlägg de ville slänga.
Vi rekryterade 40 personer – ett litet urval men en nära representativ för demografin i USA – för att delta i en studie för att se hur de förstod sitt nyhetsflöde. Vissa blev chockade när de fick reda på att deras foder överhuvudtaget manipulerades. Men i slutet av vår studie, när deltagarna valde vilka inlägg de ville se, fann de värde i flödet de kurerade.
När vi följde upp månader senare sa många att de kände sig bemyndigade. Vissa hade ändrat sina Facebook-inställningar så att de kunde manipulera flödet själva. Av de 40 deltagarna slutade en person helt och hållet att använda Facebook eftersom det bröt mot en förväntning om hur ett flöde ska fungera.
Det offentliga uppropet över Facebooks känslostudie visade att få människor verkligen förstår hur algoritmer formar världen vi upplever. Och vår forskning visar vikten av att ge människor möjlighet att ta kontroll över den upplevelsen.
Vi förtjänar att förstå den makt som algoritmer har över oss, på gott och ont.
Karrie Karahlios är docent i datavetenskap vid University of Illinois.