Data dystopi

Dystopier under 1900-talet kom mestadels i två varianter: den imponerande övervakningsstaten, som avbildas i Orwells 1984 , och den förbluffande nöjeskupolen, som i Huxleys Modig ny värld . Tänk om dessa inte var separata mardrömmar? Det verkliga hotet skulle kunna vara övervakning i förförelsens tjänst snarare än straff.

Facebook är så framgångsrikt eftersom det hjälper oss att uppfylla lusten att förbli anslutna till varandra. Denna drift har lett till att ungefär en miljard av oss förse ett enda företag med avtryck av en betydande del av våra sociala liv (se Vad Facebook vet) .

Den här historien var en del av vårt julinummer 2012

• Se resten av frågan
• Prenumerera

Som samhällsvetare är jag fruktansvärt exalterad över denna datakälla, eftersom det är en fantastisk resurs för att studera det mänskliga djuret. Nya stora datakällor – Facebook är en av de bästa – har potential att bidra till vår förståelse av samhället. Men den här informationen har användningsområden som går utöver inriktning av annonser. Även om utsikten inte verkar förvirra Facebook-användare än så länge, kan den användas för att rikta in sig på medborgerliga, politiska och sociala meddelanden på sätt som är ohälsosamma för demokratin.

Politiska kampanjer, till exempel, uppmuntrar nu väljare att ansluta till sina Facebook-appar eller -sidor, som kan komma åt djupgående data om inte bara en person utan hans eller hennes sociala nätverk och interaktioner. Detta skapar möjligheter för profilering med oöverträffad precision och skala. Jag väntar på den första vågen av ondskefull negativ politisk kampanj på Facebook. (De flesta av oss kanske inte ens märker det, eftersom det kan vara snävt riktat till en mottaglig nisch, eller till och med till individer.)

Hur Facebook använder sin insamlade data kan påverka våra sociala interaktioner. Facebooks nyhetsflöde visar inte alla uppdateringar, eller ens de senaste, utan snarare vad Facebook tror kommer att få dig att klicka eller kommentera. Nyhetsflödesalgoritmer skapar spiraler av förstärkning för vissa beteenden. Detaljerna är hemliga, men omvänd konstruktion visar att Facebook tror att bilder genererar mer engagemang än text; uppdateringar med dem visas mer framträdande, vilket leder till ännu mer engagemang. Även utan explicita instruktioner kommer människor utan tvekan att ta upp dessa signaler och börja lägga upp allt fler bilder. Även på andra sätt kan Facebook vara vägledande för hur vi umgås. Kanske blir glada inlägg mer framträdande. Kanske kommer vi en dag att få reda på ett självmord efter en kort, kryptisk statusuppdatering som ingen svarade på eftersom Facebook nedgraderade det på folks nyhetsflöde efter att bedöma att det inte var den typen av inlägg som genererar klick.

Jag påstår inte att det finns enkla svar på de frågor som Facebook ställer. Vilken algoritm som helst för nyhetsflödet skulle ha sin baksida. Men frågorna är viktiga eftersom Facebook upptar en viktig medborgarnisch. Beslut om hur den använder sin mängd data, vad den offentliggör och hur mycket tillgång den ger politiska kampanjer och företagskampanjer kommer att påverka oss alla. Vi behöver inte bara prata om potentialen i denna fantastiska databutik utan om den makt företaget har och den etik som det upprätthåller.

Zeynep Tufekci är biträdande professor vid University of North Carolina och stipendiat vid Berkman Center for Internet and Society vid Harvard.

Dölj