Smartphones är vapen för massmanipulation, och den här killen förklarar krig mot dem

Tristan Harris tror att big tech drar fördel av oss alla. Kan dess kraft användas för gott? Förbi

• Rachel Metz arkivsida

19 oktober 2017

Tristan Harris

Om du, som en ständigt växande majoritet av människor i USA, äger en smartphone, kanske du har känslan av att appar i fickdatorns ålder är designade för att hålla din uppmärksamhet så länge som möjligt. Du kanske inte har känslan av att de manipulerar dig ett tryck, svep eller avisering i taget.

Men Tristan Harris tror att det är precis vad som händer med de miljarder av oss som använder sociala nätverk som Facebook, Instagram, Snapchat och Twitter, och han är på ett uppdrag att styra oss mot potentiella lösningar – eller åtminstone att få oss att erkänna att denna manipulation är, i faktum, pågår.

Harris, tidigare produktchef som blev designetiker på Google, driver en ideell organisation som heter Tid väl använd , som fokuserar på teknikens beroendeframkallande karaktär och hur appar kan utformas bättre; den driver offentlig opinionsbildning och stöder designstandarder som tar hänsyn till vad som är bra för människors liv, snarare än att bara försöka maximera skärmtiden. Han säger att han flyttar bort från Time Well Spend nu för tiden (hans nya insats är ännu inte namngiven), och försöker hålla teknikindustrin ansvarig för hur den övertalar oss att spendera så mycket tid som möjligt online, med taktik från Snapchats snapstreaks för att automatiskt spela upp videor på webbplatser som YouTube och Facebook.

Det är så osynligt vad vi gör mot oss själva, säger han. Det är som en folkhälsokris. Det är som cigaretter, förutom för att vi får så många fördelar, att människor faktiskt inte kan se och erkänna urholkningen av mänskliga tankar som sker samtidigt.

Relaterad berättelse

Relaterad berättelse

Harris hävdar att eftersom teknikföretagens affärsmodeller till stor del beror på reklamintäkter, är det egentligen inte i deras bästa intresse att driva oss mot att till exempel gå ur det sociala nätverket du jour och gå ut för att umgås med vänner. Han säger inte att Facebook (eller någon av dess jämnåriga för den delen) är dåligt, eller att vi ska sluta använda våra smartphones. Men efter att ha tillbringat flera år inom teknikbranschen – han gick med i Google 2011 när det köpte startupen han var med och grundade, ett sök-inom-webb-företag som heter Apture – säger han att de är de mest kraftfulla sociala övertalningsmaskinerna som någonsin byggts, och han är bekymrad över hur vi använder dem. Eller, mer konkret, hur de använder oss.

Det är en alltmer giltig oro. För alla fantastiska saker mobil teknik gör möjligt, en växande mängd forskning föreslår att användningen av sociala nätverk Inklusive Facebook , Instagram , Snapchat och Twitter kan ha negativa konsekvenser, som att öka dina chanser för depression eller social isolering. Helt enkelt helt enkelt ha din telefon runt kan sänka din kognitiva kapacitet.

För att få ut sitt budskap arbetar Harris med kollegor, inklusive Roger McNamee , en riskkapitalist och tidig Facebook- och Google-investerare, som har nyligen skrev om hans ånger över dessa pengar att tjäna pengar.

Han har också blivit skicklig på att tala inför publik: a TED-prat han gav i april har visats cirka 1,5 miljoner gånger, och han visades på 60 minuter samma månad. Så han verkade i sitt esse när jag först såg honom, stå framför en fullsatt föreläsningssal på Stanford University en höstkväll, och talade om en klass om artificiell intelligens och samhälle med en presentation med titeln Building an AI for Human Attention.

Det var inte den mest glamorösa miljön. Medan Stanford är en lummig, vidsträckt, dyr bastion för lärande i Silicon Valley, var just den här föreläsningssalen fönsterlös och stolsborden var gamla och obekväma. Harris, bekvämt klädd i chambrayskjorta och svarta byxor, såg trång ut när han stod bakom en gammal talarstol i ett hörn av rummet.

En vy av Silicon Valley, sett från ovan. Flickr | Patrick Nouhailler

Men om historien är en indikator, är det en av de bästa platserna att nå just de människor Harris hoppas få kontakt med: smarta studenter som mycket väl kan vara morgondagens tekniska ledare (han skulle veta, eftersom han är en alun från Stanford och räknas som hans vänner några teknikberömda Stanford-utexaminerade, Instagram-grundarna Kevin Systrom och Mike Krieger).

Och även i den miljön var Harris karismatisk och hans budskap störande men mätt. I över en timme höll han elevernas uppmärksamhet när han pratade om teknikindustrins kapplöpning om uppmärksamhet och dess tekniker för att dra åt konsumenterna, och reciterade statistik som det faktum att det finns fler människor på Facebook nu än det finns muslimer i världen.

Frågan är, när man väl börjar monopolisera vad folk tänker på, är det verkligen bra för samhället? Vad är det sårbart för? Var kan det gå fel? han frågade.

Jag hade några egna frågor efter att ha hört honom tala. Till en början tyckte jag att Harris retorik var intressant men onödigt alarmistisk. Jag har använt Facebook, Twitter, Instagram och naturligtvis Google i flera år. Jag är beroende av dem så mycket som jag samlar in och sprider information under varje dag – hitta berättelsetips, hålla kontakten med vänner och familj, lägga upp söta foton och videor på min bebis, läsa nyheter och så vidare. Jag undrade, är det verkligen så illa? Blir jag verkligen kontrollerad eller påverkad på något sätt?

Men efter Harris föredrag på Stanford började jag tänka mycket mer på hur jag sugs in av att titta på automatiska annonser för behåar och skor som jag faktiskt vill köpa. Och hur jag känner när jag får ett meddelande på min smartphone om att någon gillade, eller älskade, eller retweetade, ett av mina inlägg på Facebook, Instagram eller Twitter. Det är definitivt lite laddning i magen och ett ping i hjärnan, och jag gillar det verkligen, verkligen. Jag längtar efter det, till och med efter att ha lagt upp ett särskilt bedårande babyfoto eller en skickligt formulerad statusuppdatering, och att få en av dessa aviseringar får mig oundvikligen att öppna vilken social app den kom ifrån för att se vad som händer. Kommer jag bara att fortsätta gilla foton på Facebook, retweeta roliga saker på Twitter och mata AI:n som driver dessa nätverk tills jag faller omkull och dör?

Dagen efter kom jag ikapp Harris och pratade med honom om allt detta under en sushi-lunch i San Francisco. Han hade inga enkla lösningar för att lindra min rädsla, men han lade ut sin vision för vad sajter som Facebook skulle kunna vara om de inte var tvungna att fånga din uppmärksamhet utan dedikerade till att tjäna samhället (som, om du tänker på det, låter i linje med Facebook-grundaren Mark Zuckerbergs ursprungliga vision).

Facebook som finns nu har hjälpt många människor att ansluta och kommunicera på positiva sätt, men det har också lett till saker som ryska interferens i det senaste amerikanska presidentvalet.

Problemet är att det här är de oavsiktliga konsekvenserna av välmenade strategier, säger McNamee, som beskriver sig själv som Harris's wingman.

Så vad händer om, undrar Harris, innehållet du såg på Facebook inkluderade sätt att göra världen eller åtminstone din community bättre, eller förbättra ditt liv? I sin vision om ett socialt nätverk med en sorts etisk övertygelse inbyggd, kan Facebook göra saker som att föreslå flera specifika sätt du kan hjälpa till med klimatförändringar, som att sänka din värmares bastemperatur några grader eller installera solpaneler på ditt tak . Eller så kanske det skulle uppmuntra dig att träffa folk utanför Facebook för att personligen diskutera politik.

Det är så svårt att föreställa sig det, eftersom allt i flödet i princip är saker som du konsumerar – andra artiklar du kan läsa eller videor du kan titta på – istället för vad du kan göra idag som skulle flytta dig närmare det liv du vill leva , han säger.

Och även om man kan säga att människor redan gör vad de verkligen vill på Facebook, Twitter, Instagram och andra sociala nätverk, representerar preferenser med klick och val om vilka personer och nyhetskällor de följer, men Harris tror inte att vi verkligen är i kontroll över sociala medier som den finns nu.

Allt [Facebook] vet om mig kan användas för att övertyga mig mot ett framtida mål, säger han. Och det är väldigt kraftfullt; den vet precis vad som skulle övertyga mig, för den har övertygat mig tidigare.

Övertalningsverktygen kan bli ännu mer kraftfulla för annonsörer i synnerhet: Facebook är enligt uppgift låta vissa varumärken försöka sålla bland offentliga inlägg och kommentarer (utan användarnamn) för att hjälpa dem rikta in sig på användare.

Jag kontaktade Facebook om huruvida det arbetade med några ansträngningar som involverade etisk övertalning; den svarade inte.

Harris väntar dock inte på Facebook. Han och McNamee arbetar med politisk opinionsbildning för att göra människor, både inom politiken och allmänheten, mer medvetna om den kontroll stora teknikföretag har över användare. McNamee säger att deras första uppdrag var att stimulera en konversation om den lämpliga rollen för internetplattformsmonopol i samhället och att de har pratat med människor, men han kommer inte att nämna namn. Harris hoppas kunna få anställda på teknikföretag mer intresserade av hans arbete också. Det hände i a få fall redan, särskilt efter att folk lämnat sina tjänster.

Företagen kommer inte att förändra sig själva, säger han.

Dölj