Big Techs uppmärksamhetsekonomi kan reformeras. Här är hur.

Ms Tech | Getty

Den här veckan genomförde en våldsam folkhop den största attacken mot Capitolium, säte för amerikansk demokrati, på mer än 200 år, driven av den falska tron ​​att presidentvalet hade stulits. Huvudförfattaren till det påståendet var president Donald Trump, men pöbelns beredskap att tro att det till stor del var en produkt av den uppmärksamhetsekonomi som modern teknik har skapat.

Nyhetsflöden på Facebook eller Twitter bygger på en affärsmodell för att tillvarata miljarder människors uppmärksamhet per dag, sortera tweets, inlägg och grupper för att avgöra vilka som får mest engagemang (klick, visningar och delningar) – vad som blir starkast känslomässigt reaktioner. Dessa varaktiga uppmärksamhetsplattformar har förvrängt det kollektiva psyket. De har lett till snävare och galnare syn på världen.

Obs: Denna uppsats är ett anpassat utdrag ur Det nya möjliga: Visioner av vår värld bortom krisen , publiceras den 26 januari 2021 av Cascade Books.

YouTubes rekommendationsalgoritmer, som bestämmer 70 % av den dagliga visningstiden för miljarder människor, föreslår vad som är avsedda att vara liknande videor men driver faktiskt tittarna till mer extremt, mer negativt eller mer konspiratoriskt innehåll eftersom det är det som håller dem kvar på sina skärmar längre. I flera år har YouTube rekommenderat thinspiration – anorexia-främjande videor – till tonårsflickor som tittade på videor om bantning. Och när folk tittade på vetenskapliga videor av NASA:s månlandning, rekommenderade YouTube videor om den platta jordens konspirationsteorin. Det gjorde det hundratals miljoner gånger. Nyhetsflöden och rekommendationssystem som detta har skapat en nedåtgående spiral av negativitet och paranoia, som sakta frikopplat miljarder människors uppfattning om verkligheten från verkligheten själv.

Relaterad berättelse

Hur en lögn på internet om Capitol-invasionen förvandlades till en omedelbar konspirationsteori Falska påståenden om att invasionen av kongressen var iscensatt spreds i rasande takt – tack vare aktivister, media och republikanska politiker.

Att se verkligheten klart och sanningsenligt är grundläggande för vår förmåga att göra vad som helst. Genom att tjäna pengar och konsumera uppmärksamhet har vi sålt bort vår förmåga att se problem och genomföra kollektiva lösningar. Detta är inte nytt. Nästan varje gång vi låter vår planets eller samhälles livsuppehållande system förädlas, driver det andra sammanbrott. När du commodifierar politik med AI-optimerade mikroriktade annonser tar du bort integriteten från politiken. När man råvaror tappar man kontakten med livscykeln som gör jordbruket hållbart. När du omvandlar utbildning till digitala innehållsflöden förlorar du kopplingen mellan mänsklig utveckling, tillit, omsorg och lärarmässig auktoritet. När du förädlar kärlek genom att förvandla människor till spelkort på Tinder, bryter du den komplexa dansen som är involverad i att skapa nya relationer. Och när du commodifierar kommunikation i bitar av inlägg och kommentarstrådar på Facebook tar du bort sammanhang, nyanser och respekt. I alla dessa fall eroderar utvinningssystem långsamt grunden för ett sunt samhälle och en sund planet.

Växlingssystem för att skydda uppmärksamheten

E.O. Wilson, den berömda biologen, föreslog att människor bara skulle köra halva jorden och att resten skulle lämnas ifred. Föreställ dig något liknande för uppmärksamhetsekonomin. Vi kan och bör säga att vi vill skydda mänsklig uppmärksamhet, även om det offrar en del av vinsterna från Apple, Google, Facebook och andra stora teknikföretag.

Annonsblockerare på digitala enheter är ett intressant exempel på vad som kan bli en strukturell förändring i den digitala världen. Är annonsblockerare en mänsklig rättighet? Om alla kunde blockera annonser på Facebook, Google och webbplatser, skulle internet inte kunna finansiera sig självt, och reklamekonomin skulle förlora enorma mängder intäkter. Förnekar det resultatet rätten? Är din uppmärksamhet en rättighet? Äger du den? Ska vi sätta ett pris på det? Att sälja mänskliga organ eller förslavade människor kan möta en efterfrågan och generera vinst, men vi säger att dessa föremål inte hör hemma på marknaden. Precis som människor och deras organ, borde mänsklig uppmärksamhet vara något som inte kan köpas för pengar?

Är din uppmärksamhet en rättighet? Äger du den? Ska vi sätta ett pris på det? Precis som människor och deras organ, borde mänsklig uppmärksamhet vara något som inte kan köpas för pengar?

Covid-19-pandemin, Black Lives Matter-rörelsen och klimatförändringar och andra ekologiska kriser har gjort fler och fler människor medvetna om hur trasiga våra ekonomiska och sociala system är. Men vi kommer inte till rötterna till dessa sammanlänkade kriser. Vi faller för interventioner som känns som det rätta svaret men som istället är fällor som i smyg upprätthåller status quo. Något bättre polispraxis och kroppskameror förhindrar inte polisens tjänstefel. Att köpa en Prius eller Tesla räcker inte för att verkligen få ner nivåerna av kol i atmosfären. Att ersätta plaststrån mot biologiskt nedbrytbara kommer inte att rädda haven. Instagrams drag för att dölja antalet likes förändrar inte tonåringars mentala hälsoproblem, när tjänsten bygger på konstant social jämförelse och systemisk kapning av den mänskliga drivkraften för anslutning. Vi behöver mycket djupare systemreformer. Vi måste byta institutioner för att tjäna allmänhetens intresse på ett sätt som står i proportion till arten och omfattningen av de utmaningar vi står inför.

På Center for Humane Technology var en sak vi gjorde att övertyga Apple, Google och Facebook att anta – åtminstone delvis – uppdraget med Time Well Spend även om det stred mot deras ekonomiska intressen. Det här var en rörelse som vi lanserade genom breda kampanjer för medvetenhet om allmänheten och opinionsbildning, och den fick trovärdighet hos teknikdesigners, berörda föräldrar och elever. Det krävde att den digitala världens incitament skulle förändras från ett lopp om tid som spenderas på skärmar och appar till ett lopp mot toppen för att hjälpa människor att spendera tid väl. Det har lett till verklig förändring för miljarder människor. Apple introducerade till exempel skärmtidsfunktioner i maj 2018 som nu levereras med alla iPhones, iPads och andra enheter. Förutom att visa alla användare hur mycket tid de spenderar på sin telefon, erbjuder Screen Time en instrumentpanel med föräldrakontroller och apptidsgränser som visar föräldrar hur mycket tid deras barn spenderar online (och vad de gör). Google lanserade sin liknande Digitalt välmående initiativ ungefär samtidigt. Den innehåller ytterligare funktioner som vi hade föreslagit, som att göra det lättare att koppla ur innan du lägger dig och begränsa aviseringar. På samma sätt introducerade YouTube Ta en paus-aviseringar.

Dessa förändringar visar att företag är villiga att göra uppoffringar, även i riket av miljarder dollar. Ändå har vi ännu inte ändrat kärnlogiken för dessa företag. För ett företag att göra något mot sitt ekonomiska intresse är en sak; att göra något mot dess syfte och måls DNA är en helt annan sak.

Arbetar mot kollektiva åtgärder

Vi behöver djupgående, systemreformer som kommer att förskjuta teknikföretag till att tjäna allmänhetens intresse först och främst. Vi måste tänka större på hur mycket systemförändringar som kan vara möjliga, och hur man kan utnyttja folkets kollektiva vilja.

Relaterad berättelse

Evangelicals letar efter svar online. De hittar QAnon istället. Hur den växande pro-Trump-rörelsen jagar kyrkobesökare för att sprida sina konspirationsteorier.

Nyligen på Center for Humane Technology intervjuade vi Christiana Figueres, den tidigare verkställande sekreteraren för FN:s konvention om klimatförändringar (2010–2016) , för vår podcast Din odelade uppmärksamhet. Hon var ansvarig för den samarbetsdiplomati som ledde till Parisavtalet, och vi lärde oss hur hon kunde göra detta – att få 195 olika länder, mot alla odds, att fatta gemensamma, goda resolutioner för att ta itu med klimatförändringarna. Figueres trodde till en början inte att det var möjligt att få så många länder att komma överens, men hon insåg att ett framgångsrikt värdskap för Pariskonventionen innebar att hon själv skulle behöva ändra sig. Hon var tvungen att genuint tro att det var möjligt att få länderna att engagera sig i klimatåtgärder. Det var så hon sedan kunde fokusera på att få de deltagande länderna att tro på möjligheten att ta itu med klimatförändringarna också. Där tidigare internationella klimatförhandlingar hade misslyckats, förde Figueres ansträngningar samman nationer för att komma överens om finansiering, ny teknik och andra verktyg för att hålla den globala temperaturökningen under 2 eller, ännu bättre, 1,5 °C.

När det gäller teknikindustrin har vi ett försprång genom att vi inte behöver övertyga hundratals länder eller miljontals människor. Färre än 10 personer driver 2000-talets mest kraftfulla digitala infrastruktur – de så kallade FAANG-företagen, bestående av Facebook, Amazon, Apple, Netflix och Alphabet (tidigare Google). Om dessa individer gick samman och kom överens om att maximering av aktieägarnas vinst inte längre var det gemensamma målet, kan den digitala infrastrukturen vara annorlunda. Om Christiana Figueres kunde åstadkomma konsensus mellan 195 nationer, skulle vi kunna överväga möjligheten att göra det med 10 tekniska VD:ar.

En ny ekonomi för human teknologi

Flera ekonomiska principer måste ändras för att tekniken ska kunna anpassas till mänskligheten och planeten. En av dessa är tillväxtparadigmet. Du kan helt enkelt inte utföra en logik av oändlig tillväxt på ett ändligt substrat. Strävan efter oändlig ekonomisk tillväxt leder till en planetarisk ekologisk kris. För teknikföretag leder strävan efter den oändliga tillväxten av extraherad mänsklig uppmärksamhet till en liknande kris för globalt medvetande och socialt välbefinnande. Vi måste gå över till en uppmärksamhetsekonomi efter tillväxt som sätter mental hälsa och välbefinnande i centrum för våra önskade resultat.

Flera ekonomiska principer måste ändras för att tekniken ska kunna anpassas till mänskligheten och planeten.

En liten antydan om denna förändring sker i länder inklusive Nya Zeeland och Skottland, där organisationer som Wellbeing Economy Alliance arbetar för att övergå från en ekonomi som främjar bruttonationalprodukten (BNP) till en med dessa alternativa prioriteringar. Ledare frågar hur välbefinnande kan informera allmänhetens förståelse för politik och politiska val, vägleda beslut och bli en ny grund för ekonomiskt tänkande och praktik.

En annan förändring mot en mer human teknologi kräver ett bredare spektrum av intressenter som kan skapa ansvar för de långsiktiga sociala effekterna av våra handlingar. Just nu är det möjligt för stora teknikföretag att tjäna pengar på att sälja tunnare och tunnare falska delar av uppmärksamhet – sälja falska klick från falska nyhetskällor till falska annonsörer. Dessa företag tjänar pengar även om det som länken eller artikeln leder till är oerhört fel och sprider desinformation. Denna opportunism förnedrar informationsekologin genom att förstöra vår förmåga att lita på kunskapskällor eller dela föreställningar om vad som är sant, vilket i sin tur förstör vår förmåga till bra beslutsfattande. Resultatet är polarisering, desinformation och nedbrytningen av det demokratiska medborgarskapet. Vi måste skapa mekanismer som uppmuntrar deltagare i den digitala världen att överväga längre tidsramar och den bredare inverkan deras handlingar har på samhället.

Här spelar den mänskliga viljan en viktig roll. Tänk om ledarna bakom Apples intäktsfördelningsmodell för App Store – som fungerar som uppmärksamhetsekonomins centralbank eller Federal Reserve – helt enkelt valde att distribuera intäkter till apptillverkare baserat inte på vilkas användare som köpte flest virtuella varor eller spenderade mest tid på att använda appen, men vem av apptillverkarna samarbetade bäst med andra appar på telefonen för att hjälpa alla i samhället att leva mer efter sina värderingar?

I slutändan handlar det om att sätta rätt regler. Det är svårt för någon aktör att optimera för välbefinnande och anpassning till samhällets värderingar när andra aktörer fortfarande konkurrerar om ändliga resurser och makt. Utan regler och skyddsräcken vinner de mest hänsynslösa skådespelarna. Det är därför lagstiftning och politik är nödvändig, tillsammans med folkets kollektiva vilja att anta dem. Den större metakrisen är att de demokratiska processerna för att skapa skyddsräcken går i mycket långsammare takt än den tekniska utvecklingstakt som krävs för att göra skillnad. Tekniken kommer att fortsätta att utvecklas snabbare än skadorna kan förstås väl av demokratiska institutioner på 1900-talet. Tekniksektorn själv måste gå samman, i samarbete och hitta sätt att verka så att gemensamma samhälleliga mål ställs över hyperkonkurrens och vinstmaximering.

Slutligen måste vi erkänna den massiva asymmetriska makt som teknikföretag har över individer och samhälle. De känner oss bättre än vi känner oss själva. Varje asymmetrisk maktstruktur måste följa den modell för förtroende- eller omsorgsplikt som exemplifieras av en bra lärare, terapeut, läkare eller vårdpersonal – det vill säga den måste fungera i tjänst för dem med mindre makt. Det får inte verka med en affärsmodell baserad på utvinning. Uppgraderade affärsmodeller för teknik måste vara generativa: de måste behandla oss som kunden och inte produkten, och anpassa sig till våra djupaste värderingar och mänsklighet.

Mot att vara människa

E.O. Wilson har sagt, Problemet med mänskligheten är att vi har paleolitiska känslor, medeltida institutioner och gudaliknande teknologi. Vi behöver omfamna våra paleolitiska känslor i alla deras fasta svagheter och sårbarheter. Vi måste uppgradera våra institutioner för att införliva mer visdom, försiktighet och kärlek. Och vi måste bromsa utvecklingen av en gudliknande teknologi vars krafter går utöver vår förmåga att styra riktningen på det skepp vi alla är på.

Området för vad som är möjligt fortsätter att expandera, men det uppstår samtidigt med exponentiellt utmanande globala frågor som kräver bättre information, ledarskap och handling. Istället för att acceptera en kapplöpning mot botten som nedgraderar och splittrar oss, kan vi tillsammans skapa ett tekniklandskap som möjliggör en kapplöpning mot toppen – en som stöder vår sammankoppling, artighet och djupa briljans. Förändring tror jag är mänskligt möjlig.

Tristan Harris är medgrundare och ordförande för Center for Humane Technology.

Dölj