Gränserna för social ingenjörskonst

Genom att utnyttja big data bygger forskare och planerare matematiska modeller för personligt och medborgerligt beteende. Men modellerna kan gömma sig snarare än att avslöja de djupaste källorna till sociala missförhållanden. Förbi

• Nicholas Carr arkivsida

16 april 2014

1969, Playboy publicerade ett långt, frihjul intervju med Marshall McLuhan där medieteoretikern och sextiotalsikonen skissade upp ett porträtt av framtiden som på en gång var förföriskt och avvisande. Han noterade digitala datorers förmåga att analysera data och kommunicera meddelanden och förutspådde att maskinerna så småningom skulle användas för att finjustera samhällets funktion. Datorn kan användas för att styra ett nätverk av globala termostater för att möta livet på ett sätt som kommer att optimera mänsklig medvetenhet, sa han. Redan är det tekniskt möjligt att använda datorn för att programmera samhällen på fördelaktiga sätt. Han erkände att en sådan centraliserad kontroll höjde spöket för hjärntvätt, eller mycket värre, men han betonade att programmeringen av samhällen faktiskt kunde genomföras ganska konstruktivt och humanistiskt.

Intervjun dök upp när datorer främst användes för mystiska vetenskapliga och industriella siffror. För de flesta läsare vid den tiden måste McLuhans ord ha låtit långsökt, om inte töntigt. Nu verkar de profetiska. Med smartphones överallt, Facebook ofrånkomliga och bärbara datorer som Google Glass växer fram, samhället får ett digitalt avkänningssystem. Människors plats och beteende spåras när de går igenom sina dagar, och den resulterande informationen överförs omedelbart till stora serverfarmar. När vi väl har skrivit de algoritmer som behövs för att analysera all den stora data, tror många sociologer och statistiker, kommer vi att belönas med en mycket djupare förståelse för vad som får samhället att ticka.

Den här historien var en del av vårt majnummer 2014

• Se resten av frågan
• Prenumerera

En av big datas angelägna förespråkare är Alex Sandy Pentland, en dataforskare som, som chef för MIT:s Human Dynamics Laboratory, länge har använt datorer för att studera beteenden hos företag och andra organisationer. I sin korta men ambitiösa nya bok, Social fysik, Pentland hävdar att vår kraftigt utökade förmåga att samla in beteendedata kommer att tillåta forskare att utveckla en kausal teori om social struktur och i slutändan etablera en matematisk förklaring till varför samhället reagerar som det gör under alla möjliga omständigheter. Som bokens titel klargör, tycker Pentland att den sociala världen, inte mindre än den materiella världen, fungerar enligt regler. Det finns statistiska regelbundenheter inom mänsklig rörelse och kommunikation, skriver han, och när vi väl förstår dessa regelbundenheter kommer vi att upptäcka de grundläggande mekanismerna för sociala interaktioner.

Pentlands idé om ett datadrivet samhälle är problematisk. Det skulle uppmuntra oss att optimera status quo snarare än att utmana det.

Saker granskade

• Social fysik: Hur bra idéer sprids – lärdomarna från en ny vetenskap

  Av Alex Pentland
  Penguin Press, 2014

  
  
  

Det som har hindrat oss från att dechiffrera samhällets matematiska grundval hittills, tror Pentland, är en brist på empirisk rigor inom samhällsvetenskapen. Till skillnad från fysiker, som kan mäta föremåls rörelser med stor precision, har sociologer fått nöja sig med luddiga observationer. De har varit tvungna att arbeta med grova och ofullständiga datamängder från små urval av befolkningen, och de har varit tvungna att förlita sig på människors notoriskt felaktiga minnen av vad de gjorde, när de gjorde det och vem de gjorde det med. Datornätverk lovar att åtgärda dessa brister. Genom att utnyttja strömmarna av data som flödar genom prylar, sökmotorer, sociala medier och kreditkortsbetalningssystem kommer forskare att kunna samla in exakt, realtidsinformation om beteendet hos miljoner, om inte miljarder, individer. Och eftersom datorer varken glömmer eller fibbar blir informationen tillförlitlig.

För att illustrera vad som väntar beskriver Pentland en serie experiment som han och hans medarbetare har genomfört i den privata sektorn. De går in i ett företag och ger varje anställd ett elektroniskt ID-kort, ett så kallat sociometriskt märke, som hänger från halsen och kommunicerar med de märken som bärs av kollegor. Med mikrofoner, platssensorer och accelerometrar övervakar märkena vart folk går och vem de pratar med, och noterar deras tonfall och till och med deras kroppsspråk. Enheterna kan mäta inte bara kommunikationskedjor och inflytande inom en organisation utan även personliga energinivåer och egenskaper som extraversion och empati. I en sådan studie av en banks callcenter upptäckte forskarna att produktiviteten kunde ökas helt enkelt genom att justera kaffepausschemat.

Pentland kallar denna databearbetningsteknik verklighetsmining, och han föreslår att liknande typer av information kan samlas in i en mycket bredare skala av smartphones utrustade med specialiserade sensorer och appar. Inmatad i statistiska modelleringsprogram kan data avslöja hur saker som idéer, beslut, humör eller säsongsinfluensa sprids i samhället.

Den matematiska modelleringen av samhället möjliggörs, enligt Pentland, av människors medfödda medarbetbarhet. Vi kanske tänker på oss själva som rationella aktörer, i medveten kontroll över våra val, men det mesta av det vi gör är reflexivt. Vårt beteende bestäms av våra subliminala reaktioner på påverkan från andra människor, särskilt de i de olika kamratgrupper vi tillhör. Den sociala fysikens kraft, skriver han, kommer från det faktum att nästan alla våra dagliga handlingar är vana, baserade mest på vad vi har lärt oss av att observera andras beteende. När du väl har kartlagt och mätt alla en persons sociala influenser kan du utveckla en statistisk modell som förutsäger personens beteende, precis som du kan modellera vägen en biljardboll kommer att ta efter att den träffar andra bollar.

Att dechiffrera människors beteende är bara det första steget. Det som verkligen upphetsar Pentland är möjligheten att använda digitala medier och relaterade verktyg för att förändra människors beteende, för att motivera grupper och individer att agera på mer produktiva och ansvarsfulla sätt. Om människor reagerar förutsägbart på sociala influenser, kan regeringar och företag använda datorer för att utveckla och leverera noggrant skräddarsydda incitament, såsom lovord eller små kontanta betalningar, för att justera flödena av inflytande i en grupp och därigenom modifiera vanorna hos dess medlemmar. . Utöver att förbättra effektiviteten hos transit- och hälsovårdssystem, föreslår Pentland, kan gruppbaserade incitamentsprogram göra samhällen mer harmoniska och kreativa. Vår huvudsakliga insikt, rapporterar han, är att genom att rikta in sig på [en] individs kamrater kan grupptryck förstärka den önskade effekten av en belöning på målindividen. Datorer blir, som McLuhan föreställt sig, medborgerliga termostater. De registrerar inte bara samhällets tillstånd utan bringar den i linje med något föreskrivet ideal. Både spårningen och upprätthållandet av den sociala ordningen är automatiserad.

I slutändan, hävdar Pentland, kommer att titta på människors interaktioner genom en matematisk lins befria oss från tidsuttjänta föreställningar om klass- och klasskamp. Politiska och ekonomiska klasser, menar han, är alltför förenklade stereotyper av en flytande och överlappande matris av kamratgrupper. Kamratgrupper, till skillnad från klasser, definieras av delade normer snarare än bara standardegenskaper som inkomst eller deras förhållande till produktionsmedlen. Beväpnad med uttömmande information om individers vanor och associationer kommer samhällsplanerare att kunna spåra hela flödet av influenser som formar personligt beteende. Genom att överge allmänna kategorier som rika och fattiga eller har och som inte har, kommer vi att kunna förstå människor som individer – även om dessa individer inte är mer än summan av alla grupptryck och andra sociala influenser som påverkar dem.

Att ersätta politik med programmering kan låta tilltalande, särskilt med tanke på Washingtons förlamning. Men det finns goda skäl att vara nervös för denna typ av social ingenjörskonst. Mest uppenbart är de integritetsproblem som uppstår genom att samla in allt mer intim personlig information. Pentland förutser sådan kritik genom att argumentera för en New Deal on Data som ger människor direkt kontroll över informationen som samlas in om dem. Det är dock svårt att föreställa sig att internetföretag går med på att ge upp ägandet av den beteendeinformation som är avgörande för deras konkurrensfördelar.

Även om vi antar att integritetsfrågorna kan lösas så förblir idén om vad Pentland kallar ett datadrivet samhälle problematisk. Socialfysik är en variant av teorin om beteendevetenskap som fann gunst på McLuhans tid, och den lider av samma begränsningar som dömde till dess föregångare. Att definiera sociala relationer som ett mönster av stimulans och respons gör matematiken lättare, men den ignorerar de djupa, strukturella källorna till sociala missförhållanden. Pentland kan ha rätt i att vårt beteende till stor del bestäms av sociala normer och influenser från våra kamrater, men vad han inte ser är att dessa normer och influenser själva formas av historia, politik och ekonomi, för att inte tala om makt och fördomar. Människor har inte fullständig frihet att välja sina kamratgrupper. Deras val är begränsade av var de bor, var de kommer ifrån, hur mycket pengar de har och hur de ser ut. En statistisk samhällsmodell som ignorerar klassfrågor, som tar inflytandemönster som givna snarare än som historiska händelser, kommer att tendera att vidmakthålla existerande sociala strukturer och dynamik. Det kommer att uppmuntra oss att optimera status quo snarare än att utmana det.

Politik är rörigt för att samhället är rörigt, inte tvärtom. Pentland gör ett berömvärt jobb med att beskriva hur bättre data kan förbättra social planering. Men som andra blivande socialingenjörer sträcker han sig över. Han låter sin entusiasm ta överhanden och börjar ta metaforen social fysik bokstavligt, även om han erkänner att matematiska modeller alltid kommer att vara reduktiva. Eftersom den inte försöker fånga interna kognitiva processer, skriver han vid ett tillfälle, är socialfysiken till sin natur sannolikhet, med en irreducerbar kärna av osäkerhet som orsakas av att man undviker den generativa karaktären hos medvetna mänskliga tankar. Vad big data inte kan redogöra för är det som är mest oförutsägbart och mest intressant med oss.

Nicholas Carr skriver om teknik och kultur. Hans nya bok , The Glass Cage: Automation and Us, kommer att publiceras i september.

Dölj