Varför 2020 var ett avgörande, motsägelsefullt år för ansiktsigenkänning

Alexander Farnsworth | Getty

Amerikas första bekräftade felaktiga arrestering med hjälp av ansiktsigenkänningsteknik ägde rum i januari 2020. Robert Williams, en svart man, greps på sin uppfart strax utanför Detroit, med sin fru och unga dotter tittande. Han tillbringade natten i fängelse. Dagen efter i förhörsrummet gled en detektiv en bild över bordet till Williams av en annan svart man som hade fångats på video när han stjäl klockor från butiken Shinola.

Är det här du? han frågade .

Nej, det är inte jag. svarade Williams.

Detektiven passerade över en annan bild. Jag antar att det här inte är du heller?

Williams höll bilden bredvid sitt ansikte. Det var uppenbarligen inte han. Williams sa: Det här är inte jag. Jag hoppas att du inte tycker att alla svarta ser likadana ut.

Datorn säger att det är du, svarade detektiven.

Det nya med arrestering av Robert Williams var inte att det inträffade, eller att det var ett misstag. Ansiktsigenkänning är känt för att vara mindre exakt för mörkhyade personer. Och tekniken används flitigt av polisavdelningar i USA, även om det inte finns bra data om hur genomgripande den är. Den ovanliga delen av Williams berättelse är att polisen erkände att han använt ansiktsigenkänning vid arresteringen.

Nyheten om fallet offentliggjordes i början av augusti och – efter en sommar av protester fokuserade på hur svarta samhällen poliseras i Amerika – möttes den av rikstäckande upprördhet. Ett par veckor senare kom ännu en olaglig arrestering av en svart man i Detroit på grund av ansiktsigenkänningsteknik.

Redan innan detta hade aktivister krävt ett slut på Project Greenlight, det stadstäckande offentlig-privata initiativet som använder ansiktsigenkänning i ett försök att minska brottsligheten. Och ändå pågår inte bara projektet: i slutet av september röstade kommunfullmäktige för att förlänga kontraktet mellan Detroit Police Department och dess ansiktsigenkänningsleverantör, DataWorks Plus.

Ett år av motsägelser

Händelserna i Detroit exemplifierar vårt komplicerade förhållande till ansiktsigenkänning just nu. Dess användning växer, och inom vissa områden har tekniken blivit integrerad. I andra, som detaljhandeln, börjar ansiktsigenkänning rullas ut med stora förhoppningar för framtiden. Många teknikleverantörer satsar på att allmänheten kommer att bli allt mer bekväm med användningen av biometri, och snart kommer det att bli en organisk del av det digitala livet: Apple har satsat hårt på det, och nu använder miljontals människor dess Face ID-system för att låsa upp sina iPhones varje dag.

Men allmänheten har också en ny medvetenhet om de faror som ansiktsigenkänning innebär, särskilt inom straffrättsliga frågor. Det finns betydligt mer medvetenhet, mer oro och mer samtal nu än någonsin tidigare, och i år har det sett mer lagstiftning om ansiktsigenkänning än alla tidigare år tillsammans. Det fanns förbud eller moratorier i sex städer över hela USA 2019, och samma sak även i år.

Att förena dessa lagar med branschens tillväxt kommer att bli svårt. Men händelserna 2020 ger några ledtrådar om hur dessa kompromisser kan utspela sig under det kommande året.

Små aktörer, stor industri

I januari, New York Times publicerade en utredning av ClearviewAI, ett litet ansiktsigenkänningsföretag som körde sin algoritm på en databas med miljarder bilder tagna från sociala medier. Polisavdelningar som använde ClearviewAI:s system fick effektivt tillgång till dina Facebook-bilder för att matcha ofta suddiga eller ofullständiga polisbilder under utredningar.

Företaget kritiserades hårt, och efterföljande rapportering av BuzzFeed News visade att systemet användes av så många som 2 200 brottsbekämpande myndigheter i USA, såväl som av Immigration and Customs Enforcement, Department of Justice och återförsäljare inklusive Macy's och Walmart.

Clearview-historien skrämde verkligen många människor - som den borde, säger Jameson Spivack, en policymedarbetare vid Georgetown Universitys Center on Privacy and Technology. Många av farhågorna fokuserar på hur fragmenterat området är. Även om stora företag som IBM och Microsoft är betydande krafter, finns det också massor av mindre privata företag, som ClearviewAI och NtechLab, som verkar med liten offentlig tillsyn. Rapporteringen avslöjade också hur lite allmänheten visste om den utbredda statliga användningen av tekniken.

Katalysatorn: Rasprotester

Dessa berättelser ökade medvetenheten om problemen, men Spivack säger att Black Lives Matter-protesterna efter mordet på George Floyd var den enskilt största katalysatorn för lagstiftning som begränsar användningen av ansiktsigenkänning i USA. Amerikaner började plötsligt ompröva polisväsendet och dess verktyg, policyer och kultur.

Oron hade börjat växa efter att forskarna Joy Buolamwini och Timnit Gebru upptäckt och dokumenterad rasfördom i kommersiella ansiktsigenkänningsprodukter under 2018, vilket ledde till att flera städer och delstater stifta lagar som hindrade polisen från att använda ansiktsigenkänning tillsammans med kroppskameror.

Men under den största proteströrelsen i amerikansk historia, aktivister var oroliga att polisens övervakningsteknik skulle användas för repressalier. Det har sedan dess bekräftats att åtminstone New York , Miami , och Washington, DC, polisen s använde ansiktsigenkänning för att övervaka demonstranter.

Den 1 juni i Washington, DC, använde polisen pepparbollar och tårgas för att stöta tillbaka demonstranter på Lafayette Square så att president Trump kunde få ett fototillfälle i en närliggande kyrka. Mitt i kaoset slog en demonstrant en polis. Dagar senare hittade poliser en bild av mannen på Twitter och körde den genom deras ansiktsigenkänningssystem, fick en matchning och arresterade. På samma sätt i Miami arresterades en kvinna som anklagades för att ha kastat stenar mot polisen under en protest på grundval av en ansiktsigenkänningsmatch.

Spivack såg gräsrotsaktivister mot ansiktsigenkänning arbeta nära med polisreformgrupper under sommaren och hösten, ledda av andra förespråkargrupper som American Civil Liberties Union. I Portland, Oregon, skapade en demonstrant till och med ett ansiktsigenkänningssystem för att identifiera anonyma poliser .

Under 2020 föreslogs lagstiftning för att begränsa polisens användning av sådan teknik på kommunal, statlig och till och med federal nivå. I juni presenterade demokratiska lagstiftare ett lagförslag som skulle förbjuda användningen av ansiktsigenkänning av federala brottsbekämpande myndigheter. I Vermont skapade en verkställande order från guvernören ett statligt förbud mot statlig användning av tekniken. I Massachusetts antog städerna Cambridge och Boston förbud mot tekniken i somras, och delstatsregeringen godkände ett förbud mot ansiktsigenkänning för offentliga myndigheter, vilket inkluderar brottsbekämpning, i december; Guvernör Charlie Baker är för närvarande vägrar att underteckna räkningen .

Kalifornien startade sin egen debatt om statlig lagstiftning i maj, och städerna San Francisco och Oakland har redan förbjudit användning av ansiktsigenkänning av brottsbekämpande myndigheter. I juli införde New York City ett moratorium för ansiktsigenkänning i skolor fram till 2022. I Portland, Oregon, förbjuder ett nytt stadsomfattande förbud användning av tekniken av någon offentlig eller privat grupp.

Men denna förändring sker inte överallt, vilket återupptagandet till övervakning i Detroit visar. Spivack spekulerar i att rasistisk maktdynamik kan påverka den politiska kampen kring polisövervakning. Om du tittar på många av de städer som var några av de första att förbjuda ansiktsigenkänning, så var de vanligtvis – inte alltid, men vanligtvis – rikare, vitare, mycket progressiva, kanske med mer politiskt kapital och förmåga att påverka lagstiftare, mer så än mer marginaliserade samhällen, säger han.

Ett nationellt perspektiv?

Alla reaktioner har dock inte tagit formen av lagstiftning. I början av juni meddelade IBM att de hade slutat sälja någon av sina ansiktsigenkänningsprodukter. Amazon och Microsoft följde efter genom att tillfälligt avbryta sina kontrakt med polisen. Och i juli ansökte ACLU en stämningsansökan mot ClearviewAI för att inte följa Illinois Biometric Information Privacy Act – den första fullständiga juridiska utmaningen mot företaget.

Microsoft, Amazon, IBM och industrigrupper som Security Industry Association förbereder sig för en kamp. De dramatiskt ökade mängden lobbying kring ansiktsigenkänning från 2018 till 2019, och det förväntas att 2020 kommer att visa en ännu större ökning. Många är för ökad reglering, men inte förbud. Amazons moratorium kommer att upphöra i juni, och Microsofts moratorium är beroende av att en federal lag införs.

Samtidigt fortsätter ACLU att utarbeta lagstiftning som syftar till att förbjuda tekniken. Ett uttalande på sin hemsida läser att organisationen vänder sig till domstolar, gator, lagstiftande församlingar, kommunfullmäktige och till och med företags styrelserum för att försvara våra rättigheter mot de växande farorna med denna oreglerade övervakningsteknik.

Prioriteringarna för den nya administrationen kommer också att forma regleringen 2021 och framåt. Som presidentkandidat, Kamala Harris citerade reglering av ansiktsigenkänning i brottsbekämpning som en del av hennes polisreformplan. Om administrationen driver på för federal lagstiftning är det mer sannolikt att det blir en nationell fråga, med resultatet att färre resurser kommer att riktas till fler lokala tillsynskampanjer. Men om inte, kommer kampen sannolikt att fortsätta spela på delstats- och stadsnivå.

Dölj