Det är dags för en Bill of Data Rights

Ms. Tech

Det är sommaren 2023 och Rachel är pank. När hon sitter på en bar en kväll och bläddrar i jobbannonser på sin telefon får hon ett sms. Forskare som gör en studie om leverfunktion har fått hennes namn från barens lojalitetsprogram – hon hade registrerat sig för att få en happy-hour-rabatt på nachos. De erbjuder 50 USD i veckan för åtkomst till hennes telefons hälsodataström och hennes barflik under de kommande tre månaderna.

Till en början är Rachel irriterad på intrånget. Men hon behöver pengarna. Så hon nickar mot sin telefon – en subtil men distinkt gest av samtycke som är lika juridiskt bindande som en signatur – och går tillbaka till sina nachos och sitt jobbsökande.

Men när sommaren går kan Rachel inte låta bli att märka att hon får avslag efter avslag från arbetsgivare, medan hennes vänner, en efter en, radar jobb. Utan att hon visste om det – eftersom hon inte läste det finstilta – har en del data från forskningsstudien, tillsammans med hennes spritköpshistorik, kommit till en av de två arbetsförmedlingar som har kommit att dominera marknaden. Varje arbetsgivare som granskar hennes ansökan hos byrån ser nu att hon har blivit profilerad som en deprimerad opålitlig. Inte konstigt att hon inte kan få arbete. Men även om hon skulle kunna upptäcka att hon har blivit profilerad på det här sättet, vilken utväg har hon?

En dag i livet

Om du läser det här är chansen stor att du, precis som Rachel, skapade en enorm mängd data idag – genom att läsa eller handla online, spåra ditt träningspass eller bara gå någonstans med telefonen i fickan. En del av denna data skapade du med avsikt, men en stor del av den skapades av dina handlingar utan din vetskap, än mindre samtycke.

Utbredningen av data under de senaste decennierna har lett vissa reformatorer till ett rop: Du äger din data! Eric Posner från University of Chicago, Eric Weyl från Microsoft Research och virtuell verklighetsgurun Jaron Lanier, bland andra, hävdar att data bör behandlas som en besittning. Mark Zuckerberg, grundaren och chefen för Facebook, säger det också. Facebook säger nu att du äger all kontakt och information du lägger upp på Facebook och kan styra hur den delas. Financial Times hävdar det en viktig del av svaret ligger i att ge konsumenterna äganderätt till sina egna personuppgifter. I en senaste tal , Tim Cook, Apples VD, instämde och sa att företag borde inse att data tillhör användare.

Dataägande löser inte bara befintliga problem; det skapar nya.

Den här uppsatsen hävdar att dataägande är ett felaktigt, kontraproduktivt sätt att tänka om data. Det löser inte bara befintliga problem; det skapar nya. Istället behöver vi ett ramverk som ger människor rättigheter till ange hur deras data används utan att de själva måste ta äganderätten till dem. Datavårdslagen, a räkningen introducerades den 12 december av den amerikanske senatorn Brian Schatz, en demokrat från Hawaii, är ett bra första steg i denna riktning (beroende på hur det finstilta utvecklas). Som Doug Jones, en demokratisk senator från Alabama som är en av lagförslagen, sa: Rätten till integritet och säkerhet på nätet borde vara grundläggande.

Begreppet ägande är tilltalande eftersom det föreslår att du får makt och kontroll över dina data. Men att äga och hyra ut data är en dålig analogi. Kontroll över hur vissa bitar av data används är bara ett problem bland många. De verkliga frågorna är frågor om hur data formar samhället och individer. Rachels berättelse kommer att visa oss varför datarättigheter är viktiga och hur de kan fungera för att skydda inte bara Rachel som individ, utan samhället som helhet.

Morgondagen vet aldrig

För att se varför dataägande är ett felaktigt koncept, tänk först på den här artikeln du läser. Själva handlingen att öppna den på en elektronisk enhet skapade data – en post i din webbläsares historik, cookies som webbplatsen skickade till din webbläsare, en post i webbplatsens serverlogg för att registrera ett besök från din IP-adress. Det är praktiskt taget omöjligt att göra någonting online – läsa, shoppa eller bara gå någonstans med en internetansluten telefon i fickan – utan att lämna en digital skugga efter sig. Dessa skuggor kan inte ägas – så som du äger, säg, en cykel – lika lite som de tillfälliga skuggfläckarna som följer dig på soliga dagar.

Dina uppgifter i sig är inte särskilt användbara för en marknadsförare eller en försäkringsgivare. Analyserad i kombination med liknande data från tusentals andra människor, men den matar algoritmer och anger dig (t.ex. storrökare med en drinkvana eller frisk löpare, alltid i tid). Om en algoritm är orättvis – om den till exempel felaktigt klassificerar dig som en hälsorisk för att den tränades på en skev datamängd eller helt enkelt för att du är en extremist – då blir det inte rättvist att låta dig äga din data. Det enda sättet att undvika att påverkas av algoritmen är att aldrig, aldrig ge någon åtkomst till din data. Men även om du försökte hamstra data som hänför sig till dig, kan företag och regeringar med tillgång till stora mängder data om andra människor använda dessa data för att dra slutsatser om dig. Data är inte ett neutralt intryck av verkligheten. Skapandet och konsumtionen av data speglar hur makten är fördelad i samhället.

Du kan naturligtvis välja att hålla all din data privat för att undvika att den används mot dig. Men om du följer den strategin kan du gå miste om fördelarna med att ibland göra din data tillgänglig. Till exempel, när du kör bil och navigerar med smartphone-app delar du anonymiserad information i realtid som sedan översätts till exakta trafikförhållanden (t.ex. tar det dig 26 minuter att köra till jobbet i morse om du åker kl. 8: 16.00). Den informationen är individuellt privat – främlingar kan inte se var du är – men kumulativt är det ett kollektivt gods.

Skapandet och konsumtionen av data speglar hur makten är fördelad i samhället.

Det här exemplet visar hur data i aggregatet kan skilja sig fundamentalt från de enskilda bitar och bytes som utgör den. Även välmenande argument om dataägande antar att om du reglerar personuppgifter väl så får du goda samhälleliga resultat. Och det är bara inte sant.

Det är därför många av problemen med orättvis användning av data inte kan lösas genom att kontrollera vem som har tillgång till den. Till exempel, i vissa amerikanska jurisdiktioner använder domare en algoritmiskt genererad riskpoäng för att fatta beslut om borgen och straff. Dessa program förutsäga sannolikheten att en person kommer att begå framtida brott. Föreställ dig att en sådan algoritm säger att du har 99 % chans att begå ett annat brott eller att missa ett framtida borgenutnämning eftersom personer som demografiskt liknar dig ofta är kriminella eller borgen hoppare. Det kan vara orättvist i ditt fall, men du kan inte äga din demografiska profil eller ditt brottsregister och vägra att låta rättssystemet se det. Även om du nekar samtycke till att din data används kan en organisation använda data om andra människor för att göra statistiska extrapolationer som påverkar dig. Det här exemplet understryker poängen att data handlar om makt – personer som anklagas för eller döms för brott har i allmänhet mindre makt än de som fattar beslut om borgen och straff.

På liknande sätt innebär befintliga lösningar för orättvis användning av data ofta att man inte kontrollerar vem som har tillgång till data, utan hur data används. Enligt US Affordable Care Act, till exempel, kan sjukförsäkringsbolag inte neka eller ta ut mer för täckning bara för att någon har ett redan existerande tillstånd. Regeringen berättar inte för företagen att de inte kan hålla dessa uppgifter om patienter; det står bara att de måste ignorera det. En person äger inte det faktum att hon har diabetes – men hon kan ha rätt att inte bli diskriminerad på grund av det.

Samtycke nämns ofta som en grundläggande princip som bör respekteras när det gäller användningen av uppgifter. Men frånvarande statlig reglering för att förhindra sjukförsäkringsbolag från att använda data om redan existerande förhållanden, saknar enskilda konsumenter möjligheten att vägra samtycke. Anledningen till att de saknar den förmågan är att försäkringsbolagen har mer makt än vad de har. Samtycke, rent ut sagt, fungerar inte.

Datarättigheter bör skydda integriteten och bör ta hänsyn till att integritet inte är en reaktiv rättighet att skydda sig från samhället. Det handlar om frihet att utveckla jaget bort från handeln och bort från statlig kontroll. Men datarättigheter handlar inte bara om integritet. Liksom andra rättigheter – till exempel till yttrandefrihet – handlar datarättigheter i grunden om att säkra ett utrymme för individuell frihet och handlingsfrihet samtidigt som de deltar i det moderna samhället. Detaljerna bör följa från grundläggande principer, som med USA:s befintliga Bill of Rights. Alltför ofta, försök att uttala sig sådana principer fastnar i ogräset av saker som modeller för opt-in samtycke, som snabbt kan bli föråldrade.

Tydliga, breda principer behövs runt om i världen, på sätt som passar in i enskilda länders rättssystem. I USA är befintliga konstitutionella bestämmelser – som lika skydd enligt lagen och förbud mot orimliga husrannsakningar och beslag – otillräckliga. Det är till exempel svårt att hävda att kontinuerlig, ihållande spårning av en persons rörelser offentligt är en sökning. Och ändå är sådan övervakning i sina påträngande effekter jämförbar med en orimlig sökning. Det räcker inte att hoppas att domstolar kommer med gynnsamma tolkningar av 1700-talets språk som tillämpas på 2000-talets teknologier.

En Bill of Data Rights bör innehålla rättigheter som dessa:

• Människors rätt att vara säker mot orimlig övervakning ska inte kränkas.
• Ingen person ska få sitt beteende manipulerat i smyg.
• Ingen person får otillbörligt diskrimineras på grundval av uppgifter.

Detta är inte på något sätt alla bestämmelser som ett hållbart och effektivt lagförslag skulle behöva. De är tänkta att vara en början, och exempel på vilken typ av klarhet och allmänhet ett sådant dokument behöver.

För att göra skillnad för människor som Rachel kommer en Bill of Data Rights att behöva en ny uppsättning institutioner och juridiska instrument för att skydda de rättigheter som den fastställer. Staten måste skydda och avgränsa dessa rättigheter, vilket är vad den europeiska allmänna dataskyddsförordningen (GDPR) från 2018 har börjat göra. Den nya infrastrukturen för datarättigheter bör gå längre och inkludera styrelser, datakooperativ (som skulle möjliggöra kollektiva åtgärder och förespråka för användarnas räkning), system för etiska datacertifiering, specialiserade rättstvister och revisorer för datarättigheter och datarepresentanter som fungerar som förtroendemän. för allmänheten som kan analysera de komplexa effekter som data kan ha på livet.

Med lite hjälp från mina vänner

Relaterad berättelse

Relaterad berättelse

Hur ser framtiden ut utan skydd av datarättigheter? Låt oss återgå till Rachels fruktlösa jobbsökande. Hennes karaktärisering som en deprimerad opålitlig kan eller inte vara korrekt. Kanske gjorde algoritmen bara ett misstag: Rachel är helt frisk och arbetsför. Men i takt med att algoritmer blir bättre och använder större datamängder, blir det mindre och mindre sannolikt att de blir felaktiga. Men skulle det göra dem mer rättvisa?

Tänk om Rachel var lite deprimerad? Ett bra jobb kan ha hjälpt henne att övervinna en anfall av depression. Men istället blir hennes profil snabbt en självuppfyllande profetia. Om hon inte kan få ett jobb blir hon verkligen deprimerad och opålitlig.

Tänk nu på Rachels dilemma i en värld med starkare skydd för datarättigheter. Hon går med på leverfunktionsstudien, men när hon skannar dess villkor flaggar en representant för algoritmdata problemet, ungefär som algoritmiska gatekeepers skyddar mot datavirus och spam. Efter att frågan har flaggats hänvisas den till ett team av revisorer som rapporterar till den lokala datarättighetsnämnden (i denna hypotetiska framtid). Teamet undersöker algoritmen som används av studien och upptäcker kopplingen till anställningsprofileringen. Styrelsen fastställer att Rachel har profilerats och att sådan profilering, tack vare en nyligen etablerad tolkning av lagen om jämställdhet i anställning och dataskyddspropositionen (antagen 2022), är uppenbart olaglig. Rachel behöver inte vidta åtgärder själv – styrelsen sanktionerar forskarna för kränkande datapraxis.

Kom tillsammans

En inkrementell urholkning av integriteten är svår att lägga märke till och skadar ingen – precis som spårmängder av koldioxid knappt kan upptäckas och inte gör någon miljöskada att tala om.

Som jag har hävdat är dataägande ett kategorifel med skadliga konsekvenser: du kan inte riktigt äga det mesta av din data, och även om du kunde, skulle det ofta inte skydda dig från orättvis praxis. Varför är idén om dataägande en så populär lösning?

Svaret är att policyexperter och teknologer alltför ofta tyst accepterar konceptet datakapitalism. De ser data antingen som en kapitalkälla (t.ex. Facebook använder data om mig för att rikta in annonser) eller som en produkt av arbetskraft (t.ex. jag ska få betalt för den data som produceras om mig). Det är ingen av dessa saker. Att tänka på data som vi tänker på en cykel, olja eller pengar lyckas inte fånga hur djupt relationerna mellan medborgare, staten och den privata sektorn har förändrats under dataeran. Ett nytt paradigm för att förstå vad data är – och vilka rättigheter som hör till det – behövs akut om vi ska skapa en rättvis 2000-talspolitik.

Detta paradigm kan med fördel dra på miljöanalogier – att tänka på data som liknar växthusgaser eller andra externa effekter, där små bitar av föroreningar, individuellt ofarliga, har katastrofala kollektiva konsekvenser. De flesta människor värdesätter sin egen integritet, precis som de värdesätter förmågan att andas ren luft. En inkrementell urholkning av integriteten är svår att lägga märke till och skadar ingen – precis som spårmängder av koldioxid knappt kan upptäckas och inte gör någon miljöskada att tala om. Men sammantaget, precis som stora mängder växthusgaser orsakar grundläggande skador på miljön, orsakar en massiv förändring av integritetens natur grundläggande skador på den sociala strukturen.

För att förstå denna skada behöver vi ett nytt paradigm. Detta paradigm måste fånga de sätt på vilka en omgivande filt av data förändrar våra relationer med varandra – som familj, som vänner, som medarbetare, som konsumenter och som medborgare. För att göra det måste detta paradigm grundas i en grundläggande förståelse av att människor har datarättigheter och att regeringar måste skydda dessa rättigheter.

Det kommer att finnas utmaningar längs vägen. Varken den tekniska eller juridiska infrastrukturen kring datarättigheter är okomplicerad. Det kommer att bli svårt att komma till enighet om vilka rättigheter som finns. Det kommer att bli ännu tuffare att implementera ny lagstiftning och förordningar för att skydda dessa rättigheter. Som i den aktuella debatten i den amerikanska kongressen, intressegrupper och industrilobbyister kommer att slåss om viktiga detaljer. Balanserna i olika länder kommer att vara olika. Men utan en stark och kraftfull infrastruktur för datarättigheter kan det öppna demokratiska samhället inte överleva.

Dölj