211service.com
Datans diktatur
Big data är redo att förändra samhället, från hur vi diagnostiserar sjukdom till hur vi utbildar barn, till och med att göra det möjligt för en bil att köra sig själv. Information växer fram som en ny ekonomisk insats, en viktig resurs. Företag, regeringar och till och med individer kommer att mäta och optimera allt möjligt.
Dödsantal: USA:s försvarsminister Robert McNamara informerade pressen om Vietnam i Pentagon 1965.
Men det finns en mörk sida. Big data urholkar integriteten. Och när det används för att göra förutsägelser om vad vi sannolikt kommer att göra men ännu inte har gjort, hotar det också friheten. Ändå förvärrar big data också ett mycket gammalt problem: att lita på siffrorna när de är mycket mer felbara än vi tror. Ingenting understryker konsekvenserna av att dataanalys har gått snett mer än berättelsen om Robert McNamara.
McNamara var en sifferkille. Utnämnd till USA:s försvarsminister när spänningarna i Vietnam ökade i början av 1960-talet, insisterade han på att få information om allt han kunde. Endast genom att tillämpa statistisk rigor, trodde han, kunde beslutsfattare förstå en komplex situation och göra rätt val. Världen enligt hans åsikt var en massa oregerlig information som – om den avgränsades, betecknas, avgränsas och kvantifieras – kunde tämjas av mänsklig hand och falla under mänsklig vilja. McNamara sökte sanningen, och den sanningen kunde hittas i data. Bland siffrorna som kom tillbaka till honom var kroppsantalet.
McNamara utvecklade sin kärlek till siffror som student vid Harvard Business School och sedan som dess yngsta biträdande professor vid 24 års ålder. Han tillämpade denna stränghet under andra världskriget som en del av ett elitteam från Pentagon kallat Statistical Control, vilket ledde till datadrivna beslut göra till en av världens största byråkratier. Innan detta var militären blind. Den visste till exempel inte typen, kvantiteten eller platsen för reservdelar till flygplanet. Data kom till undsättning. Bara att göra vapenanskaffningen mer effektiv sparade 3,6 miljarder dollar 1943. Modernt krig krävde en effektiv allokering av resurser; lagets arbete var en otrolig framgång.
Vid krigets slut erbjöd medlemmarna i denna grupp sina kunskaper till företagsamerika. Ford Motor Company höll på att flåsa och en desperat Henry Ford II gav dem tyglarna. Precis som de inte visste något om militären när de hjälpte till att vinna kriget, så var de också aningslösa om att tillverka bilar. Ändå vände de så kallade Whiz Kids företaget.
McNamara steg snabbt upp i graderna och tog fram en datapunkt för varje situation. Förhastade fabrikschefer tog fram de siffror han krävde – oavsett om de var korrekta eller inte. När ett påbud kom att allt lager från en bilmodell måste användas innan en ny modell kunde börja tillverkas, dumpade upprörda linjechefer helt enkelt överflödiga delar i en närliggande flod. Skämtet på fabriken var att en karl kunde gå på vattnet – ovanpå rostade bilar från 1950 och 1951.
McNamara representerade den hyperrationella chefen som förlitade sig på siffror snarare än känslor, och som kunde tillämpa sina kvantitativa färdigheter i vilken bransch han vände sig till. 1960 utnämndes han till president för Ford, en position han innehade i bara några veckor innan han anlitades för att gå med i president Kennedys kabinett som försvarsminister.
När Vietnamkonflikten eskalerade och USA skickade fler trupper blev det klart att detta var ett viljekrig, inte om territorium. Amerikas strategi var att slå Viet Cong till förhandlingsbordet. Sättet att mäta framsteg var därför med antalet dödade fiender. Kroppsantalet publicerades dagligen i tidningarna. För krigets anhängare var det ett bevis på framsteg; för kritiker, bevis på dess omoral. Kroppsantalet var den datapunkt som definierade en era.
McNamara förlitade sig på figurerna, fetischiserade dem. Med sitt perfekt bakkammade hår och sin felfritt knutna slips kände McNamara att han kunde förstå vad som hände på marken endast genom att stirra på ett kalkylblad – på alla de där ordnade raderna och kolumnerna, beräkningarna och diagrammen, vars behärskning verkade ge honom en standardavvikelse närmare Gud.
1977, två år efter att den sista helikoptern lyftes från taket på den amerikanska ambassaden i Saigon, publicerade en pensionerad armégeneral, Douglas Kinnard, en landmärkeundersökning kallad Krigsförvaltarna som avslöjade kvantifieringens träsk. Bara 2 procent av USA:s generaler ansåg att organet var ett giltigt sätt att mäta framsteg. En falsk – totalt värdelös, skrev en general i sina kommentarer. Ofta uppenbara lögner, skrev en annan. De var grovt överdrivna av många enheter, främst på grund av det otroliga intresset som människor som McNamara visade, sa en tredje.
Användning, missbruk och missbruk av data av den amerikanska militären under Vietnamkriget är en oroande läxa om informationens begränsningar när världen kastar sig mot big-data-eran. Underliggande data kan vara av dålig kvalitet. Det kan vara partiskt. Det kan felanalyseras eller användas missvisande. Och ännu mer fördömande, data kan misslyckas med att fånga vad den utger sig för att kvantifiera.
Vi är mer mottagliga än vi kanske tror för datadiktatur – det vill säga att låta data styra oss på sätt som kan göra lika mycket skada som nytta. Hotet är att vi kommer att låta oss bindas tanklöst av resultatet av våra analyser även när vi har rimliga skäl att misstänka att något är fel. Utbildning verkar på glid? Genomför standardiserade tester för att mäta prestationer och straffa lärare eller skolor. Vill du förhindra terrorism? Skapa lager av bevakningslistor och flygförbudslistor för att övervaka himlen. Vill du gå ner i vikt? Köp en app för att räkna varje kalori men undvik faktisk träning.
Datadiktaturen fångar även de bästa av dem. Google kör allt enligt data. Den strategin har lett till mycket av dess framgång. Men det snubblar också upp företaget då och då. Dess medgrundare, Larry Page och Sergey Brin, insisterade länge på att känna till alla jobbkandidaters SAT-poäng och deras medelvärde när de tog examen från college. I deras tänkande mätte den första siffran potential och den andra mätte prestation. Duktiga chefer i 40-årsåldern jagades efter poängen, till deras direkta förvirring. Företaget fortsatte till och med att kräva siffrorna långt efter att dess interna studier inte visade någon korrelation mellan poängen och arbetsprestationerna.
Google borde veta bättre, att motstå att bli förförd av datas falska charm. Åtgärden lämnar lite utrymme för förändring i en persons liv. Det räknas boksmart på bekostnad av kunskap. Och det kanske inte speglar kvalifikationerna hos människor från humaniora, där kunnandet kan vara mindre kvantifierbart än inom naturvetenskap och ingenjörsvetenskap. Googles besatthet av sådan data för HR-ändamål är särskilt konstig med tanke på att företagets grundare är produkter från Montessoriskolor, som betonar lärande, inte betyg. Enligt Googles standarder skulle varken Bill Gates, Mark Zuckerberg eller Steve Jobs ha anställts, eftersom de saknar högskoleexamen.
Googles respekt för data har tagits till extrema. För att bestämma den bästa färgen på ett verktygsfält på webbplatsen beordrade Marissa Mayer, när hon var en av Googles högsta chefer innan hon gick till Yahoo, personalen att testa 41 nyanser av blått för att se vilka som folk använde mest. År 2009 slutade Googles toppdesigner, Douglas Bowman, för att han inte kunde stå ut med den ständiga kvantifieringen av allt. Jag hade nyligen en debatt om huruvida en gräns skulle vara 3, 4 eller 5 pixlar bred och blev ombedd att bevisa mitt fall. Jag kan inte verka i en sådan miljö, skrev han på en blogg och meddelade att han avgick. När ett företag är fyllt med ingenjörer, vänder det sig till ingenjörer för att lösa problem. Reducera varje beslut till ett enkelt logiskt problem. Den informationen blir så småningom en krycka för varje beslut, vilket förlamar företaget.
Detta är datadiktatur. Och det påminner om det tänkande som ledde till att USA eskalerade Vietnamkriget delvis på basis av antalet kroppar, snarare än att basera beslut på mer meningsfulla mått. Det stämmer nog att inte alla tänkbara komplexa mänskliga situationer helt kan reduceras till linjerna på en graf, eller till procentenheter på ett diagram, eller till siffror på en balansräkning, sa McNamara i ett tal 1967, eftersom inhemska protester var växande. Men all verklighet kan man resonera kring. Och att inte kvantifiera vad som kan kvantifieras är bara att nöja sig med något mindre än hela förnuftets spektrum. Om bara rätt data användes på rätt sätt, inte respekteras för datas skull.
Robert Strange McNamara fortsatte med att driva Världsbanken under hela 1970-talet och målade sedan upp sig själv som en duva på 1980-talet. Han blev en uttalad kritiker av kärnvapen och en förespråkare för miljöskydd. Senare i livet producerade han en memoarbok, I efterhand , som kritiserade tanken bakom kriget och hans egna beslut som försvarsminister. Vi hade fel, fruktansvärt fel, skrev han berömt. Men McNamara, som dog 2009 vid 93 års ålder, syftade på krigets breda strategi. När det gäller frågan om data, och i synnerhet om antalet kroppar, förblev han oberörd. Han medgav att många av statistiken var missvisande eller felaktig. Men saker du kan räkna, borde du räkna. Förlust av liv är en.
Big data kommer att vara en grund för att förbättra de droger vi tar, hur vi lär oss och individers handlingar. Risken är dock att dess extraordinära krafter kan locka oss att begå McNamaras synd: att bli så fixerade vid data, och så besatta av kraften och löften den erbjuder, att vi inte förstår dess inneboende förmåga att vilseleda.
Kenneth Cukier är dataredaktör för Ekonomen . Viktor Mayer-Schönberger är professor i internetstyrning och reglering vid Oxford Internet Institute i Storbritannien. De är författarna till Big Data: En revolution som kommer att förändra hur vi lever, arbetar och tänker (Houghton Mifflin Harcourt, 2013), från vilken denna artikel har anpassats.