Det verkliga integritetsproblemet

När webbföretag och statliga myndigheter analyserar allt mer information om våra liv är det frestande att svara genom att anta nya integritetslagar eller skapa mekanismer som betalar oss för vår data. Istället behöver vi en medborgerlig lösning, eftersom demokratin är i fara. Förbi

• Evgeny Morozov arkivsida

22 oktober 2013

År 1967 publicerade The Public Interest, då en ledande mötesplats för politiska debatter, en provocerande essä av Paul Baran, en av fäderna till dataöverföringsmetoden som kallas paketväxling. Betitlad Framtidens datorverktyg , uppsatsen spekulerade att en dag några stora, centraliserade datorer skulle tillhandahålla informationsbehandling ... på samma sätt som man nu köper el.

Vår hemdatorkonsol kommer att användas för att skicka och ta emot meddelanden – som telegram. Vi skulle kunna kontrollera om det lokala varuhuset har den annonserade sporttröjan på lager i önskad färg och storlek. Vi skulle kunna fråga när leverans skulle vara garanterad, om vi beställde. Informationen skulle vara aktuell och korrekt. Vi kunde betala våra räkningar och beräkna våra skatter via konsolen. Vi skulle ställa frågor och få svar från informationsbanker – automatiserade versioner av dagens bibliotek. Vi skulle få en uppdaterad lista över alla tv- och radioprogram... Datorn kan i sig själv skicka ett meddelande för att påminna oss om ett förestående jubileum och rädda oss från glömskans katastrofala konsekvenser.

Den här historien var en del av vårt novembernummer 2013

• Se resten av frågan
• Prenumerera

Det tog decennier för cloud computing att uppfylla Barans vision. Men han var förutseende nog att oroa sig för att utility computing skulle behöva sin egen regleringsmodell. Här var en anställd i RAND Corporation – knappast en oro för marxistisk tankegång – som grämde sig över koncentrationen av marknadsmakt i händerna på stora datorföretag och krävde statlig intervention. Baran ville också ha policyer som kunde erbjuda maximalt skydd för bevarandet av informationsskyddets rättigheter:

Mycket känslig personlig och viktig affärsinformation kommer att lagras i många av de övervägda systemen … För närvarande står inget annat än förtroende – eller i bästa fall en brist på teknisk sofistikering – i vägen för en tänkbar avlyssnare … Idag saknar vi mekanismerna för att säkerställa adekvata skyddsåtgärder. På grund av svårigheten att återuppbygga komplexa system för att införliva säkerhetsåtgärder vid ett senare tillfälle, förefaller det önskvärt att förutse dessa problem.

Skarp, bullshitfri analys: teknofuturismen har varit på tillbakagång sedan dess.

Alla integritetslösningar du hör om är på fel spår.

Att läsa Barans essä (bara en av många om utility computing som publicerades vid den tiden) är att inse att vårt samtida integritetsproblem inte är samtida. Det är inte bara en konsekvens av att Mark Zuckerberg sålde sin själ och våra profiler till NSA. Problemet upptäcktes tidigt, och lite gjordes åt det.

Nästan alla Barans tänkta användningar för utility computing är rent kommersiella. Beställa skjortor, betala räkningar, leta efter underhållning, erövra glömska: det här är inte virtuella gemenskapers och nätanvändares internet. Baran föreställde sig helt enkelt att nätverksbaserad datoranvändning skulle tillåta oss att göra saker som vi redan gör utan nätverksbaserade datorer: shopping, underhållning, forskning. Men också: spionage, övervakning och voyeurism.

Om Barans datorrevolution inte låter särskilt revolutionär, beror det delvis på att han inte föreställde sig att den skulle häva grunden för kapitalism och byråkratisk administration som hade funnits i århundraden. På 1990-talet trodde dock många digitala entusiaster något annat; de var övertygade om att spridningen av digitala nätverk och den snabba nedgången i kommunikationskostnader representerade ett verkligt nytt steg i mänsklig utveckling. För dem var övervakningen som utlöstes på 2000-talet av 9/11 och koloniseringen av dessa orörda digitala utrymmen av Google, Facebook och big data var aberrationer som kunde motstås eller åtminstone vändas. Om vi ​​bara nu kunde radera det decennium vi förlorade och återvända till utopin på 1980- och 1990-talen genom att anta strängare lagar, ge användarna mer kontroll och bygga bättre krypteringsverktyg!

En annan läsning av den senaste tidens historia skulle ge en annan agenda för framtiden. Den utbredda känslan av emancipation genom information som många fortfarande tillskriver 1990-talet var förmodligen bara en utdragen hallucination. Både kapitalismen och den byråkratiska administrationen anpassade sig lätt till den nya digitala regimen; båda trivs med informationsflöden, ju mer automatiserat desto bättre. Lagar, marknader eller teknologier kommer inte att hindra eller omdirigera efterfrågan på data, eftersom alla tre spelar en roll för att upprätthålla kapitalism och byråkratisk administration i första hand. Något annat behövs: politik.

Även program som verkar ofarliga kan undergräva demokratin.

Låt oss först ta upp symptomen på vår nuvarande sjukdomskänsla. Ja, teknikföretagens kommersiella intressen och statliga myndigheters politiska intressen har konvergerat: båda är intresserade av insamling och snabb analys av användardata. Google och Facebook är tvungna att samla in allt mer data för att öka effektiviteten hos annonserna de säljer. Statliga myndigheter behöver samma data – de kan samla in den antingen på egen hand eller i samarbete med teknikföretag – för att driva sina egna program.

Många av dessa program handlar om nationell säkerhet. Men sådan data kan användas på många andra sätt som också undergräver integriteten. Den italienska regeringen är till exempel med hjälp av ett verktyg som heter redditometro, eller inkomstmätare, som analyserar kvitton och utgiftsmönster för att flagga personer som spenderar mer än de hävdar i inkomst som potentiella skattefuskare. När mobilbetalningar ersätter en stor andel av kontanttransaktionerna – med Google och Facebook som mellanhänder – kommer data som samlas in av dessa företag att vara oumbärliga för skatteindrivare. Likaså juridiska akademiker är upptagna med att utforska hur datautvinning kan användas för att skapa kontrakt eller testamenten som är skräddarsydda för individuella medborgares personligheter, egenskaper och tidigare beteende, vilket ökar effektiviteten och minskar missförhållanden.

På en annan front, teknokrater som Cass Sunstein, den tidigare administratören av Office of Information and Regulatory Affairs i Vita huset och en ledande förespråkare för nanny statecraft som tvingar medborgarna att göra vissa saker , hoppas att insamling och omedelbar analys av data om individer kan hjälpa till att lösa problem som fetma, klimatförändringar och rattfylleri genom att styra vårt beteende. En ny bok av tre brittiska akademiker— Ändra beteenden: På uppkomsten av det psykologiska tillståndet — har en lång lista med sådana system i arbete i Storbritannien, där regeringens nudging-enhet, inspirerad av Sunstein, har varit så framgångsrik att det är på väg att bli en vinstdrivande verksamhet.

Tack vare smartphones eller Google Glass kan vi nu bli pingade när vi är på väg att göra något dumt, ohälsosamt eller osunt. Vi skulle inte nödvändigtvis behöva veta varför åtgärden skulle vara fel: systemets algoritmer gör den moraliska kalkylen på egen hand. Medborgarna tar rollen som informationsmaskiner som matar det teknobyråkratiska komplexet med vår data. Och varför skulle vi inte, om vi utlovas smalare midja, renare luft eller längre (och säkrare) liv i gengäld?

Denna förebyggande logik skiljer sig inte från NSA:s kamp mot terror: låt oss förebygga problem snarare än ta itu med deras konsekvenser. Även om vi binder NSA:s händer – genom någon kombination av bättre tillsyn, strängare regler för dataåtkomst eller starkare och vänligare krypteringsteknologier – skulle datahungern hos andra statliga institutioner kvarstå. De kommer att motivera det. När det gäller frågor som fetma eller klimatförändringar – där beslutsfattare är snabba med att tillägga att vi står inför ett tickande bombscenario – kommer de att säga att ett litet underskott av demokrati kan räcka långt.

Så här skulle underskottet se ut: den nya digitala infrastrukturen, som frodas som den gör på realtidsdata från medborgarna, tillåter teknokraterna att ta politiken, med allt dess brus, friktion och missnöje, ur den politiska processen. Det ersätter det röriga med koalitionsbyggande, förhandlingar och överläggningar med renligheten och effektiviteten hos datadriven administration.

Detta fenomen har ett memevänligt namn: algoritmisk reglering , som Silicon Valley-förlaget Tim O’Reilly kallar det. I huvudsak har informationsrika demokratier nått en punkt där de vill försöka lösa offentliga problem utan att behöva förklara eller rättfärdiga sig för medborgarna. Istället kan de helt enkelt vädja till vårt eget intresse – och de vet tillräckligt om oss för att skapa en perfekt, mycket personlig, oemotståndlig knuff.

Integritet är ett medel för demokrati, inte ett mål i sig.

Ännu en varning från det förflutna. Året var 1985, och Spiros Simitis, Tysklands ledande integritetsforskare och utövare – vid den tidpunkten dataskyddskommissionären i den tyska delstaten Hessen – talade till University of Pennsylvania Law School. Hans läsning utforskade samma fråga som upptog Baran: automatiseringen av databehandling. Men Simitis förlorade inte kapitalismens och demokratins historia ur sikte, så han såg tekniska förändringar i ett mycket mer tvetydigt ljus.

Han insåg också att integritet inte är ett mål i sig. Det är ett sätt att uppnå ett visst ideal om demokratisk politik, där medborgarna litas på att vara mer än bara självnöjda leverantörer av information till allseende och allt-optimerande teknokrater. Där integriteten avvecklas, varnade Simitis, bleknar både chansen till personlig bedömning av den politiska ... processen och möjligheten att utveckla och bibehålla en viss livsstil.

Tre tekniska trender underbyggde Simitis analys. Först noterade han, redan då, förmedlades varje sfär av social interaktion av informationsteknologi – han varnade för den intensiva inhämtningen av personuppgifter från praktiskt taget varje anställd, skattebetalare, patient, bankkund, socialbidragsmottagare eller bilförare. Som ett resultat var integriteten inte längre enbart ett problem för någon olycklig kille som hamnade på osäkerhet i en besvärlig situation; det hade blivit allas problem. För det andra gjorde nya teknologier som smarta kort och videotex det inte bara möjligt att spela in och rekonstruera enskilda aktiviteter i minsta detalj utan också normaliserade övervakningen och vävde in den i vårt vardagliga liv. För det tredje, den personliga informationen som registrerats av dessa nya teknologier gjorde det möjligt för sociala institutioner att upprätthålla beteendestandarder, vilket utlöste långsiktiga strategier för manipulation avsedda att forma och anpassa individuellt beteende.

Moderna institutioner hade verkligen nytta av allt detta. Försäkringsbolag kan skräddarsy kostnadsbesparande program efter behov och krav från patienter, sjukhus och läkemedelsindustrin. Polisen skulle kunna använda nyligen tillgängliga databaser och olika mobilitetsprofiler för att identifiera potentiella brottslingar och hitta misstänkta. Välfärdsmyndigheter kunde plötsligt avslöja bedrägligt beteende.

Men hur skulle dessa teknologier påverka oss som medborgare – som subjekt som deltar i att förstå och reformera världen omkring oss, inte bara som konsumenter eller kunder som bara drar nytta av det?

I fall efter fall, hävdade Simitis, stod vi att förlora. Istället för att få mer sammanhang för beslut skulle vi få mindre; istället för att se logiken som driver våra byråkratiska system och göra den logiken mer exakt och mindre kafkask, skulle vi få mer förvirring eftersom beslutsfattandet blev automatiserat och ingen visste hur exakt algoritmerna fungerade. Vi skulle uppfatta en grumligare bild av vad som får våra sociala institutioner att fungera; trots löftet om större personalisering och bemyndigande, skulle de interaktiva systemen bara ge en illusion av mer deltagande. Som ett resultat föreslår interaktiva system … individuell aktivitet där det i själva verket inte förekommer mer än stereotypa reaktioner.

Om du tror att Simitis beskrev en framtid som aldrig blev av, överväg a färsk tidning om insynen i automatiserade förutsägelsessystem genom Sådan Zarsky , en av världens ledande experter på datautvinningspolitik och etik. Han noterar att datautvinning kan peka på individer och händelser, vilket indikerar förhöjd risk, utan att berätta det för oss Varför de valdes ut. Som det händer, graden av tolkningsbarhet är ett av de mest följdriktiga politiska besluten som ska fattas vid utformningen av datautvinningssystem. Zarsky ser stora konsekvenser för demokratin här:

En icke-tolkbar process kan följa av en datautvinningsanalys som inte kan förklaras på mänskligt språk. Här fattar programvaran sina urvalsbeslut baserat på flera variabler (även tusentals) ... Det skulle vara svårt för regeringen att ge ett detaljerat svar när man frågade varför en individ pekats ut för att få differentierad behandling av ett automatiserat rekommendationssystem. Det mesta regeringen kunde säga är att det är vad algoritmen hittade baserat på tidigare fall.

Det här är framtiden vi sömngångar in i. Allt verkar fungera, och saker och ting kan till och med bli bättre - det är bara det att vi inte vet exakt varför eller hur.

För lite privatliv kan äventyra demokratin. Men det kan för mycket privatliv också.

Simitis fick trenderna rätt. Fri från tvivelaktiga antaganden om internetåldern kom han fram till ett originellt men försiktigt försvar av privatlivet som ett avgörande inslag i en självkritisk demokrati – inte demokratin för någon abstrakt politisk teori utan den röriga, bullriga demokratin vi lever i, med dess aldrig - avsluta motsättningar. I synnerhet är Simitis mest avgörande insikt att integritet både kan stödja och undergräva demokrati.

Traditionellt har vårt svar på förändringar i automatiserad informationsbehandling varit att se dem som ett personligt problem för de drabbade individerna. Ett exempel är den framstående artikeln Rätten till integritet , av Louis Brandeis och Samuel Warren. De skrev 1890 och sökte rätten att bli släppta - att leva ett ostört liv, borta från inkräktare. Enligt Simitis uttryckte de en önskan, gemensam för många självgjorda individer vid den tiden, att, strikt för sig själva och under villkor som de bestämde, njuta av frukterna av sin ekonomiska och sociala aktivitet.

Ett lovvärt mål: utan att utvidga en sådan rättslig täckning till entreprenörer skulle den moderna amerikanska kapitalismen kanske aldrig ha blivit så robust. Men denna rättighet, frikopplad från alla matchande skyldigheter, skulle också kunna sanktionera en överdriven nivå av tillbakadragande som skyddar oss från omvärlden och undergräver grunden för just den demokratiska regim som gjorde rättigheten möjlig. Om alla medborgare till fullo skulle utöva sin rätt till integritet skulle samhället berövas den transparenta och lättillgängliga data som behövs inte bara för teknokraternas skull utan – ännu mer – så att medborgarna kan utvärdera frågor, bilda åsikter och debattera ( och, ibland, avskeda teknokraterna).

Detta är inte ett problem specifikt för rätten till integritet. För vissa samtida tänkare, som den franske historikern och filosofen Marcel Gauchet , riskerar demokratier att falla offer för sin egen framgång: efter att ha inrättat en laglig rättighetsregim som gör det möjligt för medborgare att utöva sina egna privata intressen utan någon hänvisning till vad som är bra för allmänheten, står de att uttömma just de resurser som har gjort det möjligt för dem att blomstra.

När alla medborgare kräver sina rättigheter men är omedvetna om sina skyldigheter, de politiska frågorna som har definierat det demokratiska livet under århundraden – hur ska vi leva tillsammans? Vad är i allmänhetens intresse, och hur balanserar jag mitt eget intresse med det? - delas in i juridiska, ekonomiska eller administrativa domäner. Det politiska och allmänheten registrerar sig inte längre som domäner alls; lagar, marknader och tekniker förskjuter debatt och bestridande som föredragna, mindre röriga lösningar.

Men en demokrati utan engagerade medborgare låter inte mycket som en demokrati – och kanske inte överlever som en. Detta var uppenbart för Thomas Jefferson, som samtidigt ville att alla medborgare skulle vara det en deltagare i regeringen av angelägenheter, ansåg också att medborgardeltagande innebär en ständig spänning mellan det offentliga och privata livet. Ett samhälle som tror, ​​som Simitis uttryckte det, att medborgarnas tillgång till information slutar där borgerlig ’ anspråk på integritet börjar kommer inte att hålla som en välfungerande demokrati.

Balansen mellan integritet och transparens är därför särskilt i behov av justering i tider av snabba tekniska förändringar. Den balansen i sig är en politisk fråga par excellence , som ska avgöras genom offentlig debatt och alltid lämnas öppen för förhandling. Det kan inte lösas en gång för alla med någon kombination av teorier, marknader och teknologier. Som Simitis sa: Långt ifrån att betraktas som en konstituerande del av ett demokratiskt samhälle, framstår integritet som en tolererad motsägelse, vars implikationer ständigt måste omprövas.

Lagar och marknadsmekanismer är otillräckliga lösningar.

Under de senaste decennierna, när vi började generera mer data, blev våra institutioner beroende. Om du undanhöll uppgifterna och avbröt återkopplingsslingorna är det inte klart om de skulle kunna fortsätta alls. Vi som medborgare är fångade i en udda situation: vår anledning till att avslöja uppgifterna är inte att vi känner djup oro för det allmännas bästa. Nej, vi släpper data av egenintresse, på Google eller via appar för självspårning. Vi är för billiga för att inte använda gratistjänster subventionerade av reklam. Eller så vill vi spåra vår kondition och kost och sedan säljer vi data.

Simitis visste redan 1985 att detta oundvikligen skulle leda till att den algoritmiska regleringen tog form idag, när politiken blir offentlig förvaltning som körs på autopilot så att medborgarna kan koppla av och njuta, bara för att bli knuffade, ibland, närhelst de är på väg att glömma att köpa broccoli.

Vanor, aktiviteter och preferenser sammanställs, registreras och hämtas för att underlätta bättre anpassning, inte att förbättra individens förmåga att handla och att besluta. Oavsett vad det ursprungliga incitamentet för datorisering kan ha varit, framstår bearbetning i allt högre grad som det ideala sättet att anpassa en individ till ett förutbestämt, standardiserat beteende som syftar till högsta möjliga grad av överensstämmelse med modellpatienten, konsumenten, skattebetalaren, arbetstagaren eller medborgaren.

Det Simitis beskriver här är konstruktionen av vad jag kallar osynlig taggtråd runt våra intellektuella och sociala liv. Big data, med sina många sammanlänkade databaser som matas på information och algoritmer av tvivelaktig härkomst, sätter allvarliga begränsningar på hur vi mognar politiskt och socialt. Den tyske filosofen Jürgen Habermas gjorde rätt när han varnade – 1963 – för att en uteslutande teknisk civilisation … hotas … av uppdelningen av människor i två klasser – de sociala ingenjörerna och de intagna i slutna sociala institutioner.

Den osynliga taggtråden av big data begränsar våra liv till ett utrymme som kan se tillräckligt tyst och lockande ut men som vi inte har valt och som vi inte kan bygga om eller expandera. Det värsta är att vi inte ser det som det. Eftersom vi tror att vi är fria att gå var som helst, förblir taggtråden osynlig. Ännu värre, det finns ingen att skylla på: absolut inte Google, Dick Cheney eller NSA. Det är resultatet av många olika logiker och system – av modern kapitalism, av byråkratisk styrning, av riskhantering – som blir överladdade av automatiseringen av informationsbehandling och av avpolitiseringen av politiken.

Ju mer information vi avslöjar om oss själva, desto tätare men mer osynlig blir denna taggtråd. Vi förlorar gradvis vår förmåga att resonera och debattera; vi förstår inte längre varför saker händer oss.

Men allt är inte förlorat. Vi kan lära oss att uppfatta oss själva som instängda i denna taggtråd och till och med skära oss igenom den. Sekretess är resursen som gör det möjligt för oss att göra det och, om vi skulle ha så tur, till och med att planera vår flyktväg.

Det är här Simitis uttryckte en verkligt revolutionerande insikt som går förlorad i samtida integritetsdebatter: inga framsteg kan uppnås, sa han, så länge integritetsskydd mer eller mindre likställs med en individs rätt att bestämma när och vilka data som ska vara tillgängliga . Den fälla som många välmenande integritetsförespråkare hamnar i är att tänka att om de bara kunde ge individen mer kontroll över hans eller hennes data – genom starkare lagar eller en robust egendomsregim – så skulle den osynliga taggtråden bli synlig och slita. Det kommer det inte att göra – inte om den informationen så småningom returneras till just de institutioner som håller på att bygga tråden runt oss.

Tänk på integritet i etiska termer.

Om vi ​​accepterar integritet som ett problem för och för demokratin är populära korrigeringar otillräckliga. Till exempel i hans bok Vem äger framtiden ? , föreslår Jaron Lanier att vi bortser från en integritetspol – den juridiska – och fokuserar på den ekonomiska istället. Kommersiella rättigheter är bättre lämpade för mångfalden av knäppa små situationer som kommer att dyka upp i det verkliga livet än nya typer av medborgerliga rättigheter i linje med digital integritet, skriver han. Enligt denna logik, genom att förvandla vår data till en tillgång som vi kan sälja, uppnår vi två saker. För det första kan vi kontrollera vem som har tillgång till det, och för det andra kan vi ta igen några av de ekonomiska förlusterna som orsakas av störningen av allt analogt.

Laniers förslag är inte original. I Kod och andra lagar i cyberrymden (första gången publicerad 1999), Lawrence Lessig var entusiastisk över att bygga en egendomsregim kring privata data. Lessig ville ha en elektronisk butler som kunde förhandla med webbplatser: Användaren anger sina preferenser en gång – anger hur hon skulle förhandla om integritet och vad hon är villig att ge upp – och från det ögonblicket, när hon går in på en webbplats, webbplatsen och hennes maskin förhandla. Endast om maskinerna kan komma överens kommer sajten att kunna erhålla hennes personuppgifter.

Det är lätt att se vart ett sådant resonemang kan ta oss. Vi skulle alla ha skräddarsydda smartphone-appar som kontinuerligt skulle innehålla den senaste informationen om människorna vi träffar, platserna vi besöker och den information vi besitter för att uppdatera priset på vår personliga dataportfölj. Det skulle vara extremt dynamiskt: om du går förbi en snygg butik som säljer smycken, kan butiken vara villig att betala mer för att veta din makes födelsedag än när du sitter hemma och tittar på TV.

Egendomsregimen kan verkligen stärka integriteten: om konsumenter vill ha en bra avkastning på sin dataportfölj måste de se till att deras data inte redan är tillgänglig någon annanstans. Således hyr de antingen ut det som Netflix hyr filmer eller säljer det under förutsättning att det endast kan användas eller säljas vidare under strängt kontrollerade förhållanden. Vissa företag erbjuder redan dataskåp för att underlätta sådana säkra utbyten.

Så om du vill försvara rätten till integritet för dess egen skull, kan det lösa dina farhågor om du förvandlar data till en säljbar tillgång. NSA skulle fortfarande få vad den ville; men om du är orolig för att vår privata information har blivit för flytande och att vi har tappat kontrollen över dess rörelser, kan en smart affärsmodell, tillsammans med en stark förvaltning av digitala rättigheter, fixa det.

Samtidigt skulle statliga myndigheter som är engagerade i nanny statecraft också vilja ha denna information. De kanske betalar en liten avgift eller lovar en skattelättnad för förmånen att nudga dig senare - med hjälp av data från din smartphone. Konsumenter vinner, entreprenörer vinner, teknokrater vinner. Sekretess, på ett eller annat sätt, bevaras också. Så vem, exakt, förlorar här? Om du har läst din Simitis vet du svaret: demokrati gör det.

Det beror inte bara på att den osynliga taggtråden skulle finnas kvar. Vi bör också oroa oss för konsekvenserna för rättvisa och jämlikhet. Till exempel kommer mitt beslut att avslöja personlig information, även om jag bara lämnar dem till mitt försäkringsbolag, oundvikligen få konsekvenser för andra människor, många av dem mindre välställda. Människor som säger att spårning av sin kondition eller plats bara är ett jakande val som de kan välja bort från har liten kunskap om hur institutioner tänker. När det väl finns tillräckligt många tidiga adoptanter som spårar sig själva – och de flesta av dem kommer sannolikt att tjäna något på det – kommer de som vägrar inte längre att ses som bara konstiga individer som utövar sin autonomi. Nej, de kommer att betraktas som avvikare med något att dölja. Deras försäkring blir dyrare. Om vi ​​aldrig förlorar detta faktum ur sikte, kommer vårt beslut att självspåra inte att vara lika lätt att reducera till rent ekonomiskt egenintresse; någon gång kan moraliska överväganden slå in. Vill jag verkligen dela med mig av min data och få en kupong som jag inte behöver om det innebär att någon annan som redan har tre jobb i slutändan kan behöva betala mer? Sådana moraliska farhågor blir omtvistade om vi delegerar beslutsfattande till elektroniska butlers.

Få av oss har haft moraliska kval om system för datadelning, men det kan förändras. Innan miljön blev ett globalt bekymmer var det få av oss som tänkte två gånger på att åka kollektivt om vi kunde köra bil. Innan etisk konsumtion blev ett globalt bekymmer skulle ingen ha betalat mer för kaffe som smakade likadant men som lovade rättvis handel. Tänk på en billig T-shirt du ser i en butik. Det kan vara helt lagligt att köpa det, men efter årtionden av hårt arbete av aktivistgrupper får en Made in Bangladesh-etikett oss att tänka två gånger på att göra det. Vi kanske fruktar att den är gjord av barn eller utnyttjade vuxna. Eller, efter att ha tänkt på det, kanske vi faktiskt vill köpa t-shirten för att vi hoppas att den kan stödja arbetet hos ett barn som annars skulle tvingas till prostitution. Vad är det rätta att göra här? Vi vet inte - så vi gör en del efterforskningar. Sådan granskning kan inte gälla allt vi köper, annars skulle vi aldrig lämna butiken. Men utbyte av information – det demokratiska livets syre – borde falla inom kategorin Tillämpa mer eftertanke, inte mindre. Det är inte något som ska delegeras till en elektronisk butler – inte om vi inte vill rensa vårt liv från dess politiska dimension.

Sabotera systemet. Provocera fram fler frågor.

Vi borde också vara bekymrade över förslaget att vi kan reducera integritetsproblemet till den juridiska dimensionen. Frågan vi har ställt under de senaste två decennierna – Hur kan vi se till att vi har mer kontroll över vår personliga information? – kan inte vara den enda frågan att ställa. Om vi ​​inte lär oss och ständigt lär oss om hur automatiserad informationsbehandling främjar och hindrar det demokratiska livet, kan ett svar på denna fråga visa sig vara värdelöst, särskilt om den demokratiska regimen behövde implementera vilket svar vi än kommer på under tiden.

Åtminstone intellektuellt är det tydligt vad som behöver göras: vi måste konfrontera frågan inte bara i de ekonomiska och juridiska dimensionerna utan också i en politisk, och koppla ihop integritetens framtid med demokratins framtid på ett sätt som vägrar minska integritet antingen till marknader eller till lagar. Vad betyder denna filosofiska insikt i praktiken?

Först måste vi politisera debatten om integritet och informationsdelning. Att formulera existensen – och de djupgående politiska konsekvenserna – av den osynliga taggtråden skulle vara en bra början. Vi måste granska dataintensiv problemlösning och avslöja dess ibland antidemokratiska karaktär. Ibland borde vi acceptera mer risker, ofullkomlighet, improvisation och ineffektivitet i namnet att hålla den demokratiska andan vid liv.

För det andra måste vi lära oss hur vi saboterar systemet – kanske genom att vägra att spåra själv alls. Om att vägra att registrera vårt kaloriintag eller vår vistelseort är det enda sättet att få beslutsfattare att ta itu med de strukturella orsakerna till problem som fetma eller klimatförändringar – och inte bara mixtra med sina symtom genom nudging – kan informationsbojkotter vara berättigade. Att vägra tjäna pengar på din egen data kan vara en lika politisk handling som att vägra köra bil eller äta kött. Sekretess kan sedan återuppstå som ett politiskt instrument för att hålla demokratins anda vid liv: vi vill ha privata utrymmen eftersom vi fortfarande tror på vår förmåga att reflektera över vad som krånglar i världen och hitta ett sätt att fixa det, och vi vill helst inte ge upp detta kapacitet till algoritmer och återkopplingsslingor.

För det tredje behöver vi mer provocerande digitala tjänster . Det räcker inte att en webbplats uppmanar oss att bestämma vem som ska se vår data. Istället borde det väcka vår egen fantasi på nytt. Rätt utformade sajter skulle inte knuffa medborgare att varken bevaka eller dela med sig av sin privata information utan skulle avslöja de dolda politiska dimensionerna i olika handlingar för informationsdelning. Vi vill inte ha en elektronisk butler – vi vill ha en elektronisk provokatör. Istället för ännu en app som kan berätta för oss hur mycket pengar vi kan spara genom att övervaka vår träningsrutin, behöver vi en app som kan berätta för oss hur många människor som sannolikt kommer att förlora sjukförsäkringen om försäkringsbranschen har lika mycket data som NSA, det mesta bidragit från konsumenter som vi. Så småningom kan vi urskilja sådana dimensioner på egen hand, utan några tekniska uppmaningar.

Slutligen måste vi överge fasta förutfattade meningar om hur våra digitala tjänster fungerar och sammankopplar. Annars kommer vi att falla offer för samma logik som har begränsat fantasin hos så många välmenande integritetsförespråkare som tror att försvaret av rätten till integritet – inte kämpar för att bevara demokratin – är det som bör driva den allmänna politiken. Även om många internetaktivister säkert skulle hävda något annat, är det som händer med internet av underordnad betydelse. Precis som med privatlivet är det själva demokratins öde som borde vara vårt primära mål.

När allt kommer omkring, redan 1967 hade Paul Baran turen att inte veta vad Internet skulle bli. Det hindrade honom inte från att se fördelarna med utility computing och dess faror. Överge tanken på att Internet föll från nåd under det senaste decenniet. Att befria oss från denna felaktiga tolkning av historien kan hjälpa oss att ta itu med den digitala framtidens antidemokratiska hot.

Evgeny Morozov är författare till The Net Delusion: The Dark Side of Internet Freedom och För att spara allt, klicka här: The Folly of Technological Solutionism.

Dölj