Problemet med vår dataobsession

Strävan efter att samla in allt mer information kan få oss att värdera fel saker och bli översäkra på vad vi vet. Förbi

• Brian Bergstein arkivsida

20 februari 2013

En kontroversiell fråga om valsedeln i Kalifornien 2008 inspirerade till en enkel onlineinnovation: en webbplats som heter Eightmaps.com. Numret i namnet hänvisade till proposition 8, som krävde att statens konstitution skulle ändras för att förbjuda homosexuella äktenskap. Enligt Kaliforniens kampanjfinansieringslagar registrerades alla donationer över 100 USD till grupper som förespråkar eller emot Proposition 8 i en allmänt tillgänglig databas. Någon (det är fortfarande inte klart vem) tog all information om förslagets anhängare – deras namn och postnummer, och deras arbetsgivare i vissa fall – och ritade upp det på en Google-karta.

Efter att ha hittat sig själva på kartan sa flera anhängare av förbudet mot homosexuella äktenskap att de var det trakasserad eller deras företag bojkottades. Detta oroade till och med vissa motståndare till proposition 8; säkert det skulle inte dröja länge , sa de, innan, säg, religiösa fundamentalister skapade ett liknande verktyg för att kalla ut anhängare av en åtgärd för homosexuella rättigheter. Kommittén som hade stött Proposition 8 bad en federal domare att slå ner avslöjandelagen eller höja dess tröskel över 100 $ så att fler människor kunde ge anonymt. Men han vägrade , argumenterar att valsedelåtgärder behöver solskenet som donationsavslöjandet ger. Hans beslut var i linje med tanken att så mycket information som möjligt om den politiska processen borde finnas avslöjat .

Den här historien var en del av vårt marsnummer 2013

• Se resten av frågan
• Prenumerera

Evgeny Morozov oroar oss för att vi alltför ofta gör denna avvägning – väljer att publicera mer information för att öka transparensen även om det undergräver principer som integritet eller medborgerligt engagemang. I sin nyfikna nya bok, För att spara allt klicka här, Morozov, en författare för Skiffer och Den nya republiken, använder Eightmaps-avsnittet för att stödja hans påstående att internetcentrism förvränger vår syn på vad som verkligen är viktigt.

Transparensen ökar på bekostnad av andra värderingar, föreslår Morozov, främst för att det är så billigt och enkelt att använda Internet för att distribuera data som någon gång kan visa sig vara användbar. Och eftersom vi så ofta får höra att Internet har befriat oss från de kontroller som grindvakter hade på information, verkar det retrogradt att tänka om tillgängligheten av information – och tendensen till öppenhet får ännu mer kraft. (Lägg märke till att Facebook säger att dess uppdrag är att göra världen mer öppen och transparent .)

Saker granskade

• För att rädda allt klicka här: The Folly of Technological Solutionism

  Evgeny Morozov
  Public Affairs, 2013

  
  
  

• Mot transparens

  Lawrence Lessig
  The New Republic, 9 oktober 2009

• The Closed World: Computers and the Politics of Discourse in Cold War America

  Paul N. Edwards
  MIT Press, 1996

Morozov är inte ensam om att frukta för mycket öppenhet. Harvardprofessorn Lawrence Lessig har vältaligt beskrivet varför att ha mer data om politiker är mer benägna att vilseleda människor till cynism än att göra politiken bättre. Men Lessig verkar uppgiven till oundvikligheten av sådana datainsamlingsprojekt i Internets tidsålder. Han tror att lösningen är att finansiera val offentligt, så att folk har mindre anledning att vara cyniska om sina lagstiftares motiv.

Det gör Morozov upprörd, eftersom han tror att Lessig bara främjar en missuppfattning om att Internet är som någon naturkraft snarare än en mänsklig skapelse – att motstånd är meningslöst. Tvärtom, säger Morozov, krävs motstånd. Hans svar på problemet som Eightmaps tar upp är inte att bara acceptera att mer information kommer att vara lätt att söka och ändra lagen i enlighet med detta. Istället bör vi kräva att våra onlinesystem respekterar värderingar utöver bara transparens. Databaser för kampanjdonationer kan till exempel utformas så att poster inte kan sugas ur dem i massor. Ja, det skulle hindra en del enkla dataupptäckter. Men det kan förbättra demokratin på lång sikt genom att få människor att känna sig friare att stödja ändamål som kan vara impopulära i deras grannskap eller på deras kontor.

Morozovs första bok, The Net Delusion: The Dark Side of Internet Freedom, försökte punktera myten att sociala medier är ett potent vapen mot diktaturer. Snarare tvärtom, sa han: kunniga regimer använder webben för att hålla koll på oliktänkande. Detta verkar verkligen vara sant i Kina, Syrien och Iran. I sin nya bok försöker han deflatera en mer amorf idé: lösningism. Detta är hans ord för tron ​​att med tillräckligt med data om många komplexa aspekter av livet – inklusive inte bara politik utan också kriminalitet, trafik och hälsa – kan vi lösa problem med ineffektivitet. Till exempel analyserar prediktiv programvara nu brottsstatistik och hjälper polisen att bestämma var patrullerna ska öka. Algoritmer spårar klick på webbplatsen och ger journalister råd om vilken typ av berättelser de ska skriva. Morozov ser många sätt att detta kan gå fruktansvärt fel. För det första är maximal effektivitet inte nödvändigtvis ett värde att sträva efter; ineffektivitet ger ofta sociala fördelar. Att inte veta exakt hur mycket läsare varje berättelse fick ledde förmodligen tidningar till omfattande bevakning av delstatsregeringen.

Teknologisk hybris

Men det mest skrämmande potentiella problemet är att den information vi använder för att vägleda oss själva kan vara ofullständig eller alltför reduktionistisk. Många brott blir orapporterade, vilket kan lura programvara för förutsägande polis att tro att en stadsdel är säker. Poliser på takten kanske kan se när saker och ting inte ser riktigt ut där och hålla utkik. Morozov fruktar en framtid där sådan intuitiv kunskap om hur man distribuerar resurser åsidosätts av algoritmer som bara kan fungera med hårda data och som naturligtvis inte kan redogöra för den data de inte har. På samma sätt kan onlineregister över någons kampanjdonationer verka detaljerade och därmed lärorika, men de kommer alltid i bästa fall att ge en delvis redogörelse för den personens övertygelse eller roll i den politiska processen.

Detta koncept kan vara Morozovs starkaste sida: att hur objektiv data än är, tolkning är subjektiv, och så är vårt val om vilken data som ska registreras i första hand. Även om det kan tyckas självklart att data, oavsett hur stor, inte kan representera livet i all dess komplexitet perfekt, producerar informationsteknologi så mycket information att det är lätt att glömma hur mycket som saknas.

Detta är inget nytt problem; de bedrägliga eller till och med förblindande egenskaperna hos big data plågade de första avancerade datoranvändarna. Under Vietnamkriget ville den amerikanska militären stoppa Nordvietnam från att använda Ho Chi Minh Trail, ett system av djungelpassager genom grannlandet Laos, för att skicka förnödenheter till det kommunistiska upproret i söder. Försvarsminister Robert S. McNamara, som hade förlitat sig på kvantitativa hanteringsmetoder när han körde Ford Motor, gjorde vad som kom naturligt: ​​han sökte mer data om vad som hände på leden. Så började Operation Igloo White . Från 1967 till 1972 flög amerikanska plan över leden och föll 20 000 batteridrivna sensorer som såg ut som växter eller trä men kunde upptäcka röster och andra ljud, kroppsvärme, urin och de seismiska störningarna som är speciella för lastbilar. Dessa sensorer skickade signaler till amerikanska flygplan, som vidarebefordrade data till en amerikansk kommando- och kontrollanläggning i Thailand, där tekniker som satt vid terminaler kunde se kartor över Ho Chi Minh Trail. När en sensor upptäckte något, lyste den delen av leden upp som en vit mask. IBM 360/65-datorer i centrum beräknade hur snabbt masken rörde sig; att informationen skickades till amerikanska bombplan så att området i fråga kunde angripas .

Från kontrollcentret kan Igloo White ha sett ganska bra ut. Maskar dök upp på skärmarna och försvann sedan i bombningar. Uppgifterna verkade tyda på att amerikanerna hade förstört tusentals lastbilar och stört rutter som levererade betydande mängder förnödenheter. Militären var tillräckligt nöjd för att spendera 1 miljard dollar per år på programmet.

Men kongressens utredare skulle så småningom tvivla på Pentagons antaganden om hur många lastbilar som hade bombats. Kommunisterna avskräcktes till slut inte från att flytta förnödenheter söderut. De levererade till och med stridsvagnar som användes i en enorm offensiv i söder 1972. Det visade sig att amerikanerna inte insåg i vilken utsträckning de och deras IBM-maskiner agerade på ofullständiga och opålitliga data. För det första kunde de inte beskräpa hela leden med sensorer. Och vietnameserna kom på hur man skulle spela systemet med påsar med urin och bandinspelade lastbilsljud.

Det kan vara frestande att avfärda detta som ännu en absurd blunder i ett krig fullt av dem. Men det skulle sakna en avgörande punkt. Lärdomen är inte att Igloo Whites datainsamlingsteknik var begränsad – även om den var det – utan att de som använde data inte förstod dess begränsningar. I 1996 års bok Den stängda världen, historiker Paul N. Edwards beskriver Igloo White som ett exempel på teknologisk hybris. Militära planerare trodde att datorer och realtidskommunikation skulle låta dem skapa en kupol av global teknisk tillsyn, vilket ger allt större säkerhet om vad som hände i världen. Men många saker passar inte riktigt under kupolen; livet är rörigt, och allt kan inte abstraheras till data för datorer att agera på.

Data ser annorlunda ut nuförtiden, men vår tro på värdet av det – och impulsen att skapa en information panoptikon — envist vara kvar. Google säger att de vill organisera världens information och göra den allmänt tillgänglig och användbar. Morozov har rätt i att ifrågasätta om det är ett värdigt mål. Vem vet vilka dataanalysprojekt som genomförs nu om 40 år som Igloo White gör idag?

Dölj