Vi kan se federala regler om ansiktsigenkänning redan nästa vecka

AP Foto/John Minchillo, Arkiv

Den 10 maj skickade 40 påverkansgrupper ett öppet brev kräver ett permanent förbud om användningen av Amazons mjukvara för ansiktsigenkänning, Rekognition, av amerikansk polis. Brevet var adresserat till Jeff Bezos och Andy Jassy, ​​företagets nuvarande och tillträdande VD:ar, och kom bara veckor innan Amazons årslånga moratorium om försäljning till brottsbekämpande myndigheter skulle löpa ut.

Brevet kontrasterade Bezos och Jassys röststöd till Black Lives Matter-kampanjister under förra sommarens rasrättsliga protester efter mordet på George Floyd med att rapportera att andra Amazon-produkter har använts av brottsbekämpande myndigheter för att identifiera demonstranter .

Den 17 maj, Amazon meddelat det skulle förlänga sitt moratorium på obestämd tid och ansluta sig till konkurrenterna IBM och Microsoft i självreglerad skärselden. Flytten är en nick mot den politiska makten hos de grupper som kämpar för att stävja tekniken – och ett erkännande av att nya lagstiftande slagmarker börjar dyka upp. Många tror att betydande federal lagstiftning sannolikt kommer snart.

Människor är utmattade

Det senaste året har varit avgörande för ansiktsigenkänning , med avslöjanden av teknikens roll i falska arresteringar , och förbud mot det införda av nästan två dussin städer och sju delstater över hela USA. Men farten har skiftat ett tag.

2018 publicerade AI-forskare en studie jämföra noggrannheten hos kommersiell ansiktsigenkänningsprogramvara från IBM, Microsoft och Face++. Deras arbete fann att tekniken identifierade ljusare män mycket mer exakt än mörkhyade kvinnor; IBMs system fick sämst poäng, med en skillnad på 34,4 % i felfrekvens mellan de två grupperna.

Även under 2018, ACLU testade Amazons erkännande och fann att den felaktigt identifierade 28 kongressmedlemmar som brottslingar – ett misstag som oproportionerligt påverkar färgade personer. Organisationen skrev ett eget öppet brev till Amazon , kräver att företaget förbjuder statlig användning av tekniken, liksom Congressional Black Caucus — men Amazon gjorde inga ändringar.

(En talesperson för Amazon hänvisade MIT Technology Review till a vederläggning publicerad i juli 2018 som beskriver problem som företaget hade med noggrannheten och metoderna för ACLU:s test.)

'Om vi ​​ska satsa på rättvisa raser i det straffrättsliga systemet ... är en av de enklaste och tydligaste sakerna du kan göra att sluta använda tekniken för ansiktsigenkänning.'

Kate Ruane, ACLU

Under rasrättsrörelserna mot polisbrutalitet förra sommaren överraskade Amazon dock många genom att tillkännage att man stoppar polisens användning av erkännande, med undantag för federala brottsbekämpande tjänstemän som ICE. Företagets tillkännagivande sade att det hoppas att pausen kan ge kongressen tillräckligt med tid för att införa lämpliga regler.

Evan Greer är chef för Fight for the Future, en teknikgrupp som tror på avskaffandet av teknik för ansiktsigenkänning och säger att det finns ett växande offentligt stöd för att den ska regleras. Hon säger att denna veckas förlängning av moratoriet visar att Amazon reagerar på detta enorma tryck som de utsätts för, inte bara kring ansiktsigenkänning, och tillägger att jag verkligen ger en enorm kredit till de landsomfattande upproren för rasrättvisa som har hänt under det senaste året och en halv.

En politisk verklighet

Även om det finns ett tryck på stora teknikleverantörer, är verkligheten att de flesta brottsbekämpande och statliga användare inte köper mjukvara för ansiktsigenkänning från företag som Amazon. Så även om moratorier och förbud är välkomna till förespråkargrupper, hindrar de inte nödvändigtvis tekniken från att användas. Kongressen har under tiden ännu inte antagit någon federal lagstiftning om ansiktsigenkänning i brottsbekämpande, statliga eller kommersiella miljöer som skulle reglera mindre leverantörer.

Vissa hoppas att federal lagstiftning snart kommer, antingen genom direkta kongressåtgärder, en verkställande order från presidenten eller kommande anslags- och polisreformförslag.

Jag tror att det bästa scenariot är att kongressen godkänner ett moratorium för användningen av det, säger Kate Ruane, senior lagstiftande rådgivare vid ACLU. Hon tycker att nya användningar bör tillåtas först efter mer lagstiftningsarbete.

Flera federala lagförslag har redan föreslagits som skulle begränsa tillgången till ansiktsigenkänning.

• De Lag om moratorium för ansiktsigenkänning och biometrisk teknik uppmanar till att förbjuda användningen av programvaran av alla federala enheter och att undanhålla federala bidragspengar från statliga och lokala myndigheter som inte antar sitt eget moratorium. Det föreslogs av fyra demokratiska kongressledamöter och presenterades för senaten förra året.
• De George Floyd rättvisa i polislagen skulle förhindra användningen av ansiktsigenkänning i kroppskameror. Lagförslaget har redan antagits i kammaren och förväntas nå senaten den kommande veckan. President Biden har bett att lagförslaget ska antas före årsdagen av George Floyds död den 25 maj.
• De Fjärde tillägget är inte till försäljning , ett bipartisan lagförslag som införts av 18 senatorer, begränsar regeringen från att arbeta med teknikleverantörer som bryter villkoren för service. I praktiken skulle det till stor del förhindra statlig tillgång till system som ägnar sig åt webbskrapning, som Clearview AI .

Mutale Nkonde, grundande VD för AI for the People, en ideell organisation som förespråkar rasrättvisa inom teknik, tror att vi sannolikt kommer att se ytterligare federal lagstiftning vid mellanårsvalet nästa år.

Jag tror att det kommer att införas federal lagstiftning som kommer att styra alla algoritmiska system, inklusive ansiktsigenkänning, säger Nkonde. Jag tror att det är en politisk verklighet.

Nkonde säger att konceptet med konsekvensanalyser som utvärderar tekniska system på grundval av medborgerliga rättigheter vinner genomslag i politiska kretsar på båda sidor av gången.

ACLU lobbyar Biden-administrationen för en verkställande order, och det nyligen publicerade ett brev med 40 andra grupper ber om ett omedelbart förbud mot statlig användning av tekniken.

Om vi ​​ska förbinda oss till rasrättvisa, om vi ska förbinda oss till rasrättvisa i det straffrättsliga systemet, kommer vi att förbinda oss till den sortens reformer, en av de enklaste och tydligaste sakerna du kan göra är att avsluta användningen av ansiktsigenkänningsteknik, säger Ruane.

Människor är bara mer radikala

Under tiden förväntar Ruane att självreglering förblir en av de mest effektiva metoderna för att förhindra utökad användning av ansiktsigenkänning. Det är troligt att federala myndigheter som departementen för bostäder, hemlandsäkerhet och utbildning kommer att överväga att införa regler som förbjuder användningen av tekniken .

Nkonde är optimistisk att moratorierna kommer att expandera till förbud och mer permanent lagstiftning: Jag tror att moratorier verkade vara vad som var möjligt innan George Floyd dödades. Efter det är folk bara mer radikala.

Men Greer varnar för att trots allt momentum mot ansiktsigenkänning kanske inte lagstiftning som fokuserar starkt på systemens rasmässiga noggrannhet löser djupare problem. Jag tror att det skulle vara ett misstag om beslutsfattare ser noggrannhet som det enda problemet med ansiktsigenkänning som behöver åtgärdas, säger hon. Industrin skulle faktiskt vara väldigt nöjd med ett lagförslag som till exempel säger något i stil med 'Om du ska sälja ett ansiktsigenkänningssystem måste det vara 99% korrekt på människor av alla olika raser och hudtoner.'

Även om fördomen inte är inbakad i systemet, har du fortfarande ett partiskt polissystem som nu accelereras och typ överladdas med den här tekniken, tillägger hon.

Den här historien har uppdaterats för att inkludera Amazons motbevisning till ACLU:s test av Amazons erkännandesystem 2018.

Dölj