211service.com
Datadiskriminering innebär att de fattiga kan uppleva ett annat internet
Dataanalys används för att implementera en subtil form av diskriminering, medan anonyma datamängder kan brytas för att avslöja hälsodata och annan privat information, varnade en Microsoft-forskare i morse kl. MIT Technology Review s EmTech-konferens.
Datauppdelning: Kate Crawford talar idag på EmTech-konferensen på MIT.
Kate Crawford , huvudforskare vid Microsoft Research, hävdade att dessa problem skulle kunna lösas med nya juridiska metoder för användningen av personuppgifter.
I en ny papper , föreslår hon och en kollega ett system för vederbörlig process som skulle ge människor fler lagliga rättigheter att förstå hur dataanalys används i beslut som görs mot dem, såsom avslag på sjukförsäkring eller ett jobb. Det är själva början på en konversation om hur man gör det här bättre, sa Crawford, som också är gästprofessor vid MIT Center for Civic Media, i en intervju före evenemanget. Folk tror att 'big data' undviker problemet med diskriminering, eftersom du har att göra med stora datamängder, men i själva verket används big data för mer och mer exakta former av diskriminering - en form av dataredlining.
Under hennes föredrag i morse tillade Crawford att med big data kommer du aldrig att veta vad dessa diskriminering är, och jag tror att det är där oron börjar.
Hälsodata är särskilt sårbart, säger forskaren. Söktermer för sjukdomssymptom, onlineköp av medicinsk utrustning och till och med RFID-taggar på läkemedelsförpackningar kan ge webbplatser och återförsäljare information om en persons hälsa.
Som Crawford och Jason Schultz , en professor vid New York University Law School, skrev i sin uppsats: När dessa datamängder korsreferens med traditionell hälsoinformation, som big data är designad för att göra, är det möjligt att generera en detaljerad bild om en persons hälsa, inklusive information som en person kanske aldrig har lämnat till en vårdgivare.
Och en nyligen genomförd Cambridge University studie , som Crawford anspelade på under sitt föredrag, fann att mycket känsliga personliga egenskaper – inklusive sexuell läggning, personlighetsdrag, användning av beroendeframkallande substanser och till och med föräldrarnas separation – är mycket förutsägbara genom att analysera vad människor klickar på för att indikera att de gillar på Facebook. Studien analyserade 58 000 Facebook-användares likes.
På liknande sätt kan köphistorik, tweets och demografisk, plats och annan information som samlats in om enskilda webbanvändare, i kombination med data från andra källor, resultera i nya typer av profiler som en arbetsgivare eller hyresvärd kan använda för att neka någon ett jobb eller en lägenhet.
Som svar på sådana risker föreslår tidningens författare ett rättsligt ramverk som de kallar big data due process. Enligt detta koncept skulle en person som har varit föremål för en viss beslutsamhet – om avslag på sjukförsäkring, avslag på ett jobb eller bostadsansökan eller en arrestering – ha rätt att få veta hur stordataanalys användes.
Detta skulle medföra den sortens avslöjande och korsförhörsrättigheter som redan finns inskrivna i USA:s och många andra nationers rättssystem. Innan det kan finnas en större social acceptans för big datas roll i beslutsfattande, särskilt inom regeringen, måste den också verka rättvis och ha en acceptabel grad av förutsägbarhet, transparens och rationalitet, skriver författarna.
Dataanalys kan också få saker djupt fel, konstaterar Crawford. Till och med den tidigare framgångsrika användningen av Googles söktermer för att identifiera influensautbrott misslyckades förra året, när faktiska fall inte nådde förutsägelserna. Ökad influensarelaterade mediebevakning och prat om influensan i sociala medier förväxlades med tecken på människor som klagade på att de var sjuka, vilket ledde till överskattningarna. Det är här sociala medier kan bli komplicerade, sa Crawford.
Och det kan finnas fler grundläggande brister i vad data säger oss. Till exempel, efter orkanen Sandy, var det få tweets från hårt drabbade områden bort från Manhattan. Om vi börjar använda sociala medier-datauppsättningar för att ta pulsen på en nation eller förstå en kris – eller faktiskt använder den för att distribuera resurser – får vi en skev bild av vad som händer, varnade Crawford i sitt föredrag.