NYPD använde ett kontroversiellt verktyg för ansiktsigenkänning. Här är vad du behöver veta.

Getty

Det har varit en hektisk vecka för Clearview AI, det kontroversiella ansiktsigenkänningsföretaget som använder 3 miljarder foton skrapat från webben för att driva en sökmotor för ansikten. Den 6 april publicerade Buzzfeed News en databas med över 1 800 enheter – inklusive statlig och lokal polis och andra skattebetalarfinansierade myndigheter som hälso- och sjukvårdssystem och offentliga skolor – som den säger har använt företagets kontroversiella produkter. Många av dessa byråer svarade på anklagelserna genom att säga att de bara hade testat tekniken och inte hade något formellt kontrakt med företaget.

Men dagen innan var definitionen av en rättegång med Clearview detaljerad när den ideella nyhetssajten Muckrock släppt e-postmeddelanden mellan New York Police Department och företaget. Dokumenten, som erhållits genom begäranden om informationsfrihet från Legal Aid Society och journalisten Rachel Richards, spårar ett vänskapligt tvåårigt förhållande mellan avdelningen och teknikföretaget under vilken tid NYPD testade tekniken många gånger och använde ansiktsigenkänning i direktsända undersökningar .

Relaterad berättelse

Det råder en kris för ansiktsigenkänning och polisarbete i USA Den djupt bristfälliga tekniken är i stor användning, till stor del utanför allmänhetens ögon

NYPD har tidigare tonat ner sin relation med Clearview AI och dess användning av företagets teknologi. Men mejlen visar att relationen dem emellan var väl utvecklad, med ett stort antal poliser som genomförde en hög volym sökningar med appen och använde dem i riktiga utredningar. NYPD har köra över 5 100 sökningar med Clearview AI.

Detta är särskilt problematiskt eftersom uttalade policyer begränsar NYPD från att skapa ett oövervakat arkiv med foton som ansiktsigenkänningssystem kan referera till, och begränsar användningen av ansiktsigenkänningsteknik till ett specifikt team. Båda policyerna verkar ha kringgåtts med Clearview AI. E-postmeddelandena avslöjar att NYPD gav många tjänstemän utanför ansiktsigenkänningsteamet tillgång till systemet, som är beroende av ett enormt bibliotek med offentliga bilder från sociala medier. E-postmeddelandena visar också hur NYPD-tjänstemän laddade ner appen till sina personliga enheter, i strid med uttalad policy, och använde den kraftfulla och partisk teknik på ett avslappnat sätt.

Clearview AI driver ett kraftfullt neuralt nätverk som bearbetar fotografier av ansikten och jämför deras exakta mätning och symmetri med en enorm databas med bilder för att föreslå möjliga matchningar. Det är oklart hur exakt tekniken är, men den används i stor utsträckning av polisavdelningar och andra statliga myndigheter. Clearview AI har varit hårt kritiserad för dess användning av personligt identifierbar information, dess beslut att kränka människors integritet genom att skrapa fotografier från internet utan deras tillåtelse och dess val av kundkrets.

E-postmeddelandena sträcker sig över en period från oktober 2018 till februari 2020, med början när Clearview AI VD Hoan Ton-That introducerades för NYPD:s biträdande inspektör Chris Flanagan. Efter inledande möten ingick Clearview AI ett leverantörskontrakt med NYPD i december 2018 på en provbasis som varade till följande mars.

Dokumenten visar att många individer vid NYPD hade tillgång till Clearview under och efter denna tid, från avdelningsledning till yngre officerare. Under utbytena uppmuntrade Clearview AI mer användning av sina tjänster. (Se om du kan nå 100 sökningar, dess onboarding-instruktioner uppmanade tjänstemännen.) E-postmeddelandena visar att provkonton för NYPD skapades så sent som i februari 2020, nästan ett år efter att försöksperioden sades ha avslutats.

Vi granskade e-postmeddelandena och pratade med toppövervaknings- och juridiska experter om deras innehåll. Här är vad du behöver veta.

NYPD ljög om omfattningen av dess relation till Clearview AI och användningen av dess ansiktsigenkänningsteknik

Det berättade NYPD BuzzFeed News och den New York Post tidigare att det inte hade någon institutionell relation med Clearview AI, formellt eller informellt. Avdelningen avslöjade att den hade testat Clearview AI, men e-postmeddelandena visar att tekniken användes under en utdragen tidsperiod av ett stort antal personer som genomförde en stor mängd sökningar i verkliga undersökningar.

I ett utbyte sa en detektiv som arbetar på avdelningens ansiktsigenkänningsenhet att appen fungerar utmärkt. I en annan sa en tjänsteman på NYPD:s identitetsstöldgrupp att vi fortsätter att få positiva resultat och har fortsatt att arrestera. (Vi har tagit bort fullständiga namn och e-postadresser från dessa bilder; andra personliga detaljer har redigerats i originaldokumenten.)

Albert Fox Cahn, verkställande direktör på Surveillance Technology Oversight Project, en ideell organisation som förespråkar avskaffandet av polisens användning av ansiktsigenkänningsteknik i New York City, säger att journalerna tydligt motsäger NYPD:s tidigare offentliga uttalanden om dess användning av Clearview AI.

Här har vi ett mönster av officerare som får Clearview-konton – inte för veckor eller månader, utan under loppet av år, säger han. Vi har bevis på möten med tjänstemän på högsta nivå av NYPD, inklusive ansiktsidentifieringsavdelningen. Det här är inte ett fåtal tjänstemän som bestämmer sig för att gå iväg och skaffa ett testkonto. Detta var en systematisk användning av Clearviews ansiktsigenkänningsteknik för att rikta in sig på New York-bor.

Dessutom NYPD beskrivning av dess användning av ansiktsigenkänning , som krävs enligt en nyligen antagen lag, säger att utredare jämför sondbilder som erhållits under utredningar med en kontrollerad och begränsad grupp av fotografier som redan är i besittning av NYPD. Clearview AI är känt för sin databas med över 3 miljarder bilder skrapad från nätet.

NYPD arbetar nära med immigrationstillsyn och poliser hänvisade Clearview AI till ICE

Dokumenten innehåller flera e-postmeddelanden från NYPD som verkar vara hänvisningar för att hjälpa Clearview att sälja sin teknik till Department of Homeland Security. Två poliser hade anknytning till både NYPD och Homeland Security i sin e-postsignatur, medan en annan tjänsteman identifierades som medlem i en arbetsgrupp för Homeland Security.

Det verkar bara finnas så mycket kommunikation, kanske datadelning och så mycket oreglerad användning av teknik.

New York är utsett som en fristadsstad, vilket innebär att lokala brottsbekämpande myndigheter begränsar dess samarbete med federala immigrationsbyråer. Faktum är att NYPD:s ansiktsigenkänning policyförklaring säger att information inte delas för att främja immigrationstillsyn och åtkomst kommer inte att ges till andra myndigheter i syfte att främja invandringskontroll.

Jag tror att en av de stora fördelarna är hur laglöst och oreglerat interaktionen och övervakningen och datadelningslandskapet är mellan lokal polis, federal brottsbekämpning, immigrationskontroll, säger Matthew Guariglia, analytiker vid Electronic Frontier Foundation. Det verkar bara finnas så mycket kommunikation, kanske datadelning och så mycket oreglerad användning av teknik.

Cahn säger att e-postmeddelandena omedelbart ringer varningsklockor, särskilt eftersom en stor del av brottsbekämpande information går genom centrala system som kallas fusionscenter.

Du kan hävda att du är en fristadsstad vad du vill, men så länge du fortsätter att ha dessa DHS-arbetsgrupper, så länge du fortsätter att ha informationsfusionscenter som tillåter datautbyte i realtid med DHS, gör du det löftet till en lögn.

Många tjänstemän bad att få använda Clearview AI på sina personliga enheter eller via sina personliga e-postkonton

Minst fyra tjänstemän bad om åtkomst till Clearviews app på sina personliga enheter eller via personliga e-postmeddelanden. Avdelningens enheter är noga reglerade och det kan vara svårt att ladda ner applikationer till officiella NYPD-mobiltelefoner. Vissa tjänstemän valde helt klart att använda sina personliga enheter när avdelningens telefoner var för restriktiva.

Clearview svarade på det här e-postmeddelandet, Hej William, du bör ha ett konfigurationsmeddelande i din inkorg inom kort.

Jonathan McCoy är en digital forensics advokat på Legal Aid Society och deltog i att lämna in begäran om informationsfrihet. Han tyckte att användningen av personliga apparater var särskilt besvärlig: Min uppfattning är att de aktivt försökte kringgå NYPD:s policyer och procedurer som säger att om du ska använda teknik för ansiktsigenkänning måste du gå igenom FIS (ansiktsidentifieringssektionen) och de måste använda tekniken som redan har godkänts av NYPD-grossisten. NYPD har redan ett ansiktsigenkänningssystem, tillhandahållet av ett företag som heter Dataworks.

Relaterad berättelse

Aktivisten demonterar rasistiska polisalgoritmer Hamid Khan vinner sin kamp för avskaffandet av övervakningsteknik som används av LAPD

Guariglia säger att det pekar på en attityd av slarv från både NYPD och Clearview AI. Jag skulle bli förskräckt över att höra att poliser använde Clearview på sina personliga enheter för att identifiera personer som sedan bidrog till arresteringar eller officiella NYPD-utredningar, säger han.

De farhågor som dessa e-postmeddelanden ger upphov till är inte bara teoretiska: de kan göra det möjligt för polisen att utmanas i domstol och till och med få fall upphävda på grund av underlåtenhet att följa förfarandet. McCoy säger att Legal Aid Society planerar att använda bevisen från e-postmeddelandena för att försvara klienter som har arresterats som ett resultat av en utredning som använde ansiktsigenkänning.

Vi skulle förhoppningsvis ha en grund för att gå till domstol och säga att vilken fällande dom som helst som erhölls genom användningen av programvaran gjordes på ett sätt som inte stod i proportion till NYPD:s policyer och procedurer, säger han. Eftersom Clearview är en oprövad och opålitlig teknik kan vi hävda att användningen av en sådan teknik skadar vår klients rättigheter.

Dölj