Det var så vi tappade kontrollen över våra ansikten

Getty

1964, matematiker och datavetare Woodrow Bledsoe först försökte uppgiften att matcha misstänktas ansikten med mugshots. Han mätte upp avstånden mellan olika ansiktsdrag i tryckta fotografier och matade in dem i ett datorprogram. Hans rudimentära framgångar skulle starta årtionden av forskning om att lära ut maskiner för att känna igen mänskliga ansikten.

Nu en ny studie visar hur mycket detta företag har urholkat vår integritet. Det har inte bara underblåst ett allt kraftfullare övervakningsverktyg. Den senaste generationen av djupinlärningsbaserad ansiktsigenkänning har fullständigt stört våra normer för samtycke.

Deborah Raji, en fellow på ideella Mozilla, och Genevieve Fried, som ger råd till medlemmar av den amerikanska kongressen om algoritmisk ansvarighet, undersökte över 130 datauppsättningar för ansiktsigenkänning sammanställda under 43 år. De fann att forskare, drivna av de exploderande datakraven för djupinlärning, gradvis övergav att be om människors samtycke. Detta har lett till att fler och fler av människors personliga bilder har införlivats i övervakningssystem utan deras vetskap.

Det har också lett till mycket rörigare datamängder: de kan oavsiktligt innehålla foton av minderåriga, använda rasistiska och sexistiska etiketter eller ha inkonsekvent kvalitet och ljussättning. Trenden kan hjälpa till att förklara det växande antalet fall där system för ansiktsigenkänning har misslyckats med besvärande konsekvenser, som t.ex. falska arresteringar av två svarta män i Detroit-området förra året.

Människor var extremt försiktiga med att samla in, dokumentera och verifiera ansiktsdata i början, säger Raji. Nu bryr vi oss inte längre. Allt det där har man övergett, säger hon. Du kan helt enkelt inte hålla reda på en miljon ansikten. Efter en viss punkt kan du inte ens låtsas att du har kontroll.

En historia av ansiktsigenkänningsdata

Forskarna identifierade fyra stora epoker av ansiktsigenkänning, var och en driven av en ökande önskan att förbättra tekniken. Den första fasen, som pågick fram till 1990-talet, kännetecknades till stor del av manuellt intensiva och beräkningsmässigt långsamma metoder.

Men sedan, sporrat av insikten att ansiktsigenkänning kunde spåra och identifiera individer mer effektivt än fingeravtryck, pumpade det amerikanska försvarsdepartementet 6,5 miljoner dollar för att skapa den första storskaliga ansiktsdatauppsättningen. Över 15 fotograferingssessioner på tre år tog projektet 14 126 bilder av 1 199 individer. Databasen Face Recognition Technology (FERET) släpptes 1996.

Det följande decenniet såg en uppgång i akademisk och kommersiell forskning om ansiktsigenkänning, och många fler datauppsättningar skapades. De allra flesta hämtades genom fotograferingar som FERETs och hade fullt samtycke från deltagarna. Många inkluderade också noggrann metadata, säger Raji, såsom ålder och etnicitet för försökspersoner, eller belysningsinformation. Men dessa tidiga system kämpade i verkliga miljöer, vilket drev forskare att söka större och mer varierande datamängder.

2007 öppnade släppandet av datauppsättningen Labeled Faces in the Wild (LFW) slussarna för datainsamling genom webbsökning. Forskare började ladda ner bilder direkt från Google, Flickr och Yahoo utan oro för samtycke. En efterföljande datauppsättning sammanställd av andra forskare kallad LFW+ lättade också på normerna kring inkluderingen av minderåriga, med hjälp av foton som hittats med söktermer som baby, ungdom och tonåring för att öka mångfalden. Denna process gjorde det möjligt att skapa betydligt större datamängder på kort tid, men ansiktsigenkänning stod fortfarande inför många av samma utmaningar som tidigare. Detta fick forskare att söka ännu fler metoder och data för att övervinna teknikens dåliga prestanda.

Sedan, 2014, använde Facebook sina användarbilder för att träna en djupinlärningsmodell som heter DeepFace. Medan företaget aldrig släppte datamängden, lyfte systemets övermänskliga prestanda djupinlärning till de facto-metoden för att analysera ansikten. Det var då manuell verifiering och märkning blev nästan omöjlig när datamängder växte till tiotals miljoner foton, säger Raji. Det är också när riktigt konstiga fenomen börjar dyka upp, som automatiskt genererade etiketter som innehåller stötande terminologi.

Relaterad berättelse

En AI såg ett beskuret foto av AOC. Det autokompletterade henne i bikini. Bildgenererande algoritmer återuppstår samma sexistiska, rasistiska idéer som finns på internet.

Sättet som datamängderna användes på började också förändras kring den här tiden. Istället för att försöka matcha individer började nya modeller fokusera mer på klassificering. Istället för att säga: 'Är det här ett foto av Karen? Ja eller nej, blev det till 'Låt oss förutsäga Karens interna personlighet, eller hennes etnicitet', och att boxas in i dessa kategorier, säger Raji.

Amba Kak, global policy director på AI Now, som inte deltog i forskningen, säger att uppsatsen ger en skarp bild av hur biometribranschen har utvecklats. Deep learning kan ha räddat tekniken från några av dess kamper, men det tekniska framstegen har också kostat, säger hon. Det har kastat upp alla dessa frågor som vi nu är ganska bekanta med: samtycke, utvinning, IP-problem, integritet.

Skada som leder till skada

Raji säger att hennes undersökning av uppgifterna har gjort henne allvarligt oroad över djupinlärningsbaserad ansiktsigenkänning.

Det är så mycket farligare, säger hon. Datakravet tvingar dig att samla in otroligt känslig information om åtminstone tiotusentals människor. Det tvingar dig att kränka deras integritet. Det i sig är en grund för skada. Och sedan samlar vi all denna information som du inte kan kontrollera för att bygga något som sannolikt kommer att fungera på sätt som du inte ens kan förutse. Det är verkligen naturen där vi är.

Hon hoppas att uppsatsen kommer att provocera forskare att reflektera över avvägningen mellan prestationsvinster från djupt lärande och förlust av samtycke, noggrann dataverifiering och noggrann dokumentation. Var det värt att överge alla dessa metoder för att göra djupinlärning? hon säger.

Hon uppmanar de som vill fortsätta bygga ansiktsigenkänning att överväga att utveckla olika tekniker: För att vi verkligen ska försöka använda det här verktyget utan att skada människor kommer det att kräva att vi omprövar allt vi vet om det.

Rättelse, 15 februari 2021: En tidigare version av artikeln angav att datasetet Labeled Faces in the Wild (LFW) 'avslappnade standarder kring inkludering av minderåriga.' Det var i själva verket LFW+ dataset, som sammanställdes efteråt av en annan grupp forskare.

Dölj