Medborgare vänder ansiktsigenkänning mot oidentifierade poliser

Den nya serien av vår AI-podcast, In Machines We Trust, handlar om ansiktsigenkänning. I del ett av serien utforskar Jennifer Strong och teamet på MIT Technology Review de oväntade sätten tekniken används på, inklusive hur den vänds mot polisen.

Vi träffas:

• Christopher Howell, datavetare och demonstrant.

Krediter:

Det här avsnittet rapporterades och producerades av Jennifer Strong, Tate Ryan-Mosley och Emma Cillekens och Karen Hao. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Transkript:

[Annons]

[TR ID]

Stark: Några saker har hänt sedan vi senast pratade om ansiktsigenkänning. Vi har sett fler platser flyttas för att begränsa användningen samtidigt som skolor och andra offentliga byggnader har börjat använda ansikts-ID som en del av sina planer för covid-förebyggande. Vi använder det till och med på djur och inte bara på ansikten med likheter med våra egna, som schimpanser och gorillor, kinesiska teknikföretag använder det på grisar och kanadensiska forskare arbetar med att identifiera valar, till och med grizzlybjörnar.

Med andra ord, antalet sätt vi kan använda den här tekniken exploderar på, liksom oro för om det är genomförbart, än mindre en bra idé. Och så, förbud mot hur ansikts-ID kan användas utökas, från Portland, Maine till Portland, Oregon, där de tuffaste restriktionerna för ansiktsigenkänning i landet kommer att träda i kraft nästa år och förbjuder inte bara användningen av polisen, utan kommersiellt. applikationer också.

Wheeler: Kolleger, vi är här i eftermiddag för att överväga två förordningar som syftar till att förbjuda användningen av ansiktsigenkänningstekniker av vår egen stadsförvaltning i Portland och av privata enheter i de offentliga utrymmena.

Stark: Det är Portlands borgmästare Ted Wheeler som öppnar kommunfullmäktiges möte som antog dessa lagförslag i september. Som med det mesta nuförtiden ägde de offentliga kommentarerna och omröstningen rum på Zoom.

Wheeler: Portland är långt ifrån en anti-teknik stad, och jag vill göra det mycket tydligt. Vi är inte anti-teknik med ett brett utbud av lokala och nationella teknikföretag. Vi är en av de snabbast växande tekniska hubbar någonstans på västkusten.

Stark: Under de närmaste timmarna fick advokater, mjukvaruingenjörer, berörda medborgare och företagsledare säga sitt. Då, strax innan omröstningen ägde rum. En sista person, en lokal dataforskare, räckte upp sin virtuella hand för att ställa en fråga.

Wheeler: Christopher Howell... sist men inte minst, välkommen.

Howell: Jag skulle vilja uttrycka ett villkorligt stöd för denna förordning, men jag är orolig.

Stark: Det beror på att han bygger något som använder ansiktsigenkänning på ett mindre än konventionellt sätt.

Howell: Jag är involverad i att utveckla ansiktsigenkänning för att faktiskt använda på Portland-poliser eftersom de inte identifierar sig för allmänheten och de begår brott. Skulle detta bli olagligt om du godkänner denna förordning?

[Musik]

Stark: Jag heter Jennifer Strong och under de kommande veckorna kommer vi att göra ytterligare en djupdykning på framväxten av ansiktsigenkänning. I den här senaste miniserien kommer vi att utforska hur den används inom sport både på idrottare och fans, dess användning i butiker till och med hur den används för att tjäna hemlösa. Men först börjar vi med en titt på hur det vänds tillbaka på polisen.

[VISA ID]

Stark: Polisens och andra myndighetspersoners anonymitet är genomsyrad av en riktigt komplicerad historia. Det finns en känslig balans mellan integritet och ansvar både sidor för demonstranter och för polis.

[Ljudet av Chicago-upplopp.]

Stark: Chicago Riots 1968 avbröt TV-apparaterna för amerikaner över hela landet när de tittade på den demokratiska nationella kongressen, som hölls i Chicago samma år.

[Ljudet av Chicago-upplopp.]

Stark: Demonstranter demonstrerade mot Vietnamkriget och mot det demokratiska partiet. Efter att ha drabbat samman med polisen i Grant Park, marscherade demonstranter nedför Michigan Avenue till hotellet där många av kongressdelegaterna bodde. I 17 minuter såg Amerika live när Illinois National Guard sköt tårgas... när polisen slog demonstranterna.

[Sound of Chicago upplopp. 'Hela världen tittar']

Stark: Polisen bar inte namnskyltar och detta är faktiskt ganska vanligt när polisen hanterar demonstranter. Ibland är det lagligt, ibland är det olagligt, och ibland är det till och med obligatoriskt av säkerhetsskäl som i sommar i Buffalo, New York.

Reporter: Buffalopolisens kommissarie säger att det var hans beslut att låta poliserna bära deras märkesnummer och inte deras namn på sina uniformer.

Kommissarie: Det fanns en ökande oro för trakasserier hos poliser och deras familj. För att tillåta officerare att utföra sitt jobb utan rädsla tog jag beslutet vid den tidpunkten.

Stark: Men när det händer trycker medborgare och aktivister tillbaka. Många hävdar att detta ger polisen ännu mer makt än de redan har...eftersom det blir nästan omöjligt att hålla dem ansvariga.

Intervjuperson: Vi behöver att vårt råd ställer upp och talar för de 255 000 personer som ni representerar och uppmuntrar och kräver att denna polisstyrka ändrar politiken tillbaka istället för att enbart tänka på det dussintal poliser som trakasserades, som skulle kunna skyddas enligt gällande lag. .

Stark: Men långt före händelserna i sommar har människor försökt identifiera oidentifierade poliser. De har använt foton från protester, sökt på sociala medier, crowdsourcing via internet till och med tillgripit att stjäla personlig information. Som i fallet med ett hackerkollektiv – kallat Anonymous. Det är känt för att anpassa sig till Occupy Wall Street-protesterna och kortfattat ta ner New York Stock Exchanges webbplats. Samma grupp läckte senare privat information som den stal från polisens och regeringens webbplatser inklusive hemadresser till poliser.

Skämtsamtal: Du har nått Baldwin County Sheriff's Office... [ring]

Stark: I detta skämtsamtal hävdar de äran för hacket.

[Utdrag från skämtsamtalet]

Stark: Att avslöja de som utövar makt över andra är inte unikt för USA. Tillbaka 2014 under Rysslands annektering av Krim kanske du minns att soldater utan märken på sina gröna uniformer tog kontrollen. Vid den tiden förnekade topptjänstemän, inklusive president Vladimir Putin, upprepade gånger att dessa trupper var ryska.

Lite grann : Det finns inga som helst trupper. Inga ryska trupper åtminstone.

Stark: Detta är Rysslands ambassadör i EU som talar till reportrar.

Ambassadör: Förenta staterna är i traditionen att blanda sig i andra länder och skicka trupper utomlands, kanske agerar enligt sin egen mentalitet... skulle jag säga. Men detta är inte ett fall av rysk inblandning.

Stark: Men det var. Genom att matcha bilder, eventuellt med hjälp av ansiktsigenkänning, fastställde den ukrainska regeringen att trupperna faktiskt var knutna till rysk militär. Och de släppte bilder som bevis. Senare erkände Putin också att trupperna verkligen var ryska.

Putin översättning: Naturligtvis stödde de ryska militärerna Krims självförsvarsstyrkor. De agerade civilt, som jag redan har sagt, men ett beslutsamt och professionellt sätt.

[Musik]

Stark: Nu försöker demonstranter i allt högre grad vända Face I-D tillbaka till polisen – för att identifiera poliser som använder överdrivet våld. Inklusive i Hongkong, där förra året dramatiska bilder av sammandrabbningar mellan demonstranter och polis dominerade nyhetsflöden som visar poliser som skjuter levande kulor och demonstranter som attackerar poliser. Det här är New York Times reporter Paul Mozur som talar i offentlig tv.

Mozur: Allt eftersom protesterna har pågått och polisen och Hongkongs invånare fortsätter att bryta vecka efter vecka har ansiktet blivit beväpnat och själva identiteten på ett sätt är beväpnad. Du vet, demonstranter kommer att gå ut och polisen kommer att försöka fånga deras bilder på video och sedan gå tillbaka och identifiera dem via alla sociala medier och onlinematerial som finns där ute och sedan vice versa. Vi såg att polisen faktiskt tog av sig sina märken och så nu gör demonstranter samma sak mot polisen där de försöker gå tillbaka och använda sociala medier och ta reda på vilken polis som gör vilken handling. En demonstrant i synnerhet den här killen Colin Cheung som vi hittade skapade ett ansiktsigenkänningsverktyg för att försöka identifiera poliser... och han släppte faktiskt inte produkten men han säger att på grund av att polisen riktade in sig på honom.

Stark: Och Cheung arresterades kort efter att han skrivit om verktyget på Facebook... men liknande försök pågår på andra platser, inklusive Portland, Oregon.

Howell: Jag tar exakt samma teknik som de använder på oss. Och det är inte så att jag försöker doxa folk. Jag menar, det här är för officerare som i huvudsak bryter mot lagen när det gäller deras användning av våld.

Stark: Christopher Howell är en dataforskare och demonstrant.

Howell: Och jag ville bara komma på skivan. Hej, det finns ett annat sätt vi kan använda det här. // Och egentligen handlar det mer om, du vet, att hålla pressen på dem att identifiera sig i stället för att vi måste göra det.

Stark: Hans vittnesmål inför Portland kommunfullmäktige om detta verktyg han arbetar med ledde till att hans projekt täcktes av The New York Times. Sedan dess har han fått en hel del uppmärksamhet, liksom reaktionen från Portlands borgmästare, som kallade projektet läskigt.

Howell: Det är läskigt att låta dem gå ut och tårgas på folk natt efter natt // och jag, det var verkligen, för mig var bara ett, typ av ett häftigt ögonblick, det är läskigt att de här killarna inte har sina namn. Du vet, att någon bara kan klä ut sig som en polis du känner [skrattar]

Stark: Han säger att han startade projektet delvis bara för att se hur det skulle fungera.

Howell: Jag menar, det finns en klar teknisk nyfikenhet där... och den sortens, något jag kan göra när det är sent på natten och det är frustrerande att se det här, nyheterna eller att du går på Twitter och ser folks, allas videor av protesterna och okej, vad kan jag göra? … och i slutändan skulle jag vilja att det inte var nödvändigt. Jag tycker att de ska bära sina namn med höga bokstäver så att vi inte kan behöva använda ansiktsigenkänning på poliser för att försöka lista ut vilka de är.

Stark: Att kunna identifiera en tjänsteman handlar inte bara om att veta om någon faktiskt är det... Det är extremt svårt att lämna in ett klagomål mot någon utan att veta vem den personen är.

Howell: En av anledningarna till att jag började med det här var för att man i rättegångar inte kan nämna som polisen som knuffade mig. Du måste veta vem det är. De kommer bara att säga, ja, vi vet inte vem det var. Så det finns ingen för dig att stämma och försöker få uppgifter om vilka speciella officerare gjorde de kommer inte att låta dig fiska efter det. // Du måste veta så, om du gav mig en bild på, du vet, här är den här polisen som slår någon med en batong som jag vill, och vi ska ta reda på, du kan se hans ansikte. Så vi ska ta reda på vem det är, hur gör vi det? Och från början tänkte jag mer på en omvänd bildsökning i en databas. Som att jag bara ska samla in alla bilder jag kan, och vi kommer att kunna länka ihop dem så att vi kan säga att alla är samma person. Och då insåg jag att jag kunde göra bättre än så.

Stark: Han insåg att han kunde bygga ett ansikts-ID-verktyg med hjälp av bilder på poliserna från internet.

Howell: Så jag började titta på deras bilder där de identifieras eller nyheter, du vet, gå tillbaka längre och få liknande nyhetsartiklar.

Stark: Projektet är tekniskt enklare än att bygga ett system för att identifiera vem som helst.

Howell: Vi vet att vem polisen är, du vet, det finns det inte, det borde inte finnas folk i kravallutrustning som inte är poliser. Så om du kan få alla deras bilder och det är den verkliga utmaningen, men då kan du ha ett mindre svårt matematiskt problem i den meningen att identifiera, okej, vi vet att den här personen är utanför denna uppsättning. Låt oss ta reda på vilken av dem de är...

Stark: Han säger att han har samlat in tusentals bilder hittills ... mestadels manuellt från Twitter och nyhetsartiklar i genomsnitt 15 till 20 eller så för varje officer han har identifierat.

Howell: Många av de första bilderna var från Twitter. Mycket av det var jag som gick in i nyhetsartiklar. // Jag menar, trafikolyckan, en är, du vet, nyhetsartikel är ett så bra exempel. För jag hittade en massa sådana. Eller som gemensam grill och det finns uniformerade officerare där och det namnger dem.

Stark: Det är inte exakt samma skala som ansikts-ID-systemen som används av polisen...

Howell : Jag gör det här just nu på ett Python-skript - du vet, allt är lokalt på min bärbara dator.

Stark: ...de brukar tränas på fotouppsättningar på miljoner eller miljarder.

Howell: Eftersom jag tror att noggrannheten är viktig och, eh, och antalet bilder är tillräckligt litet för att om jag försökte sätta mitt ansikte där, vill jag inte skaffa en Chris Howell till.

Stark: Men det är bara tillräckligt med bilder för att det verkar göra susen. Han säger att hans verktyg redan har använts för att bekräfta identiteten på en tjänsteman i ett fall som är på väg till domstol.

Howell: Någon gav mig en bild som jag inte hittat och sa, hjälp mig, du vet, du använder ditt system och berätta vad det står. Och hon visste redan vem hon trodde det var, men hon berättade det inte för mig. Och då var toppresultatet det som förväntades.

Stark: När det gäller var det här går härnäst är det någons gissning, även om han kan föreställa sig en dag då det kan användas i samarbete med staden.

Howell: Jag skulle kunna se en framtid, kanske flera år framåt, när saker och ting är lite annorlunda där staden gör något sådant tillgängligt och är värd för det själva och får dem att ta en massa bilder så att vi kan ha en vältränad grej. Så som en liknande medborgarfeedback. Och det behöver inte nödvändigtvis vara negativa saker, utan på ett sätt så att det också kan användas för klagomål. Jag menar, en del av mig tror att det finns en anledning att de samarbetar med myndigheterna själva för att säga, hej, vi vill vara ansvariga. Jag tror inte att det är särskilt realistiskt 2020, men jag tror det, det kan inte vara långt borta! [skratt]

Stark: Något han inte vill är att göra det öppen källkod.

Howell: Jag tror inte att det är en bra idé för vem som helst att ha det precis som att stå inför allmänheten på en webbplats. Tänk att det är, det är att be om att saker ska gå fel utöver som de riktigt uppenbara sakerna du kan ha, människor, du vet, fejkar saker eller avsiktligt lägger in vilseledande bilder...

[Musik]

Stark: Portlands förbud mot ansikts-ID kommer att träda i kraft i januari men Howells projekt? Det kommer inte att påverkas. Offentliga skolor, religiösa institutioner, till och med hur ansiktsigenkänning används på flygplatsen, till exempel hur flygbolag som Delta går ombord på sina passagerare. Inget av det kommer heller att påverkas. Lokala myndigheter kommer inte att kunna använda det. Och det kommer inte att vara tillåtet i de flesta offentliga utrymmen eller privata utrymmen som är öppna för allmänheten, som ett köpcentrum. Lokal polis kommer inte heller att tillåtas använda tekniken även om människor i deras privata hem, som Christopher Howell, kommer att göra det. Förbuden gäller inte heller brottsbekämpning på statlig eller federal nivå.

På ett sätt håller användningen av denna övervakningsteknik på att bli en sorts global kapprustning mellan allmänheten och auktoritetspersoner, som båda hoppas kunna dra bort anonymitetens täckmantel för att uppmuntra till gott beteende. Det är svårt att se vem vinnaren kan vara, men förloraren är definitivt integriteten.

I nästa avsnitt...

Utdrag : Det är inte traumatiserat att låta någon gå in på en anläggning och säga, ja, du kan absolut komma in, men låt mig bara ta dina fingeravtryck.

Stark: Vi tittar på övergången till att använda ansiktsigenkänning i allmännyttiga bostäder och boenden för hemlösa.

Utdrag : Ansiktsigenkänning är snällare känslomässigt genom att det är passivt, det, berör dem inte och du kan fånga det snabbare och det finns ingen risk för överföring.

Stark: Det här avsnittet rapporterades och producerades av mig, Tate Ryan-Mosley, Karen Hao och Emma Cillekens. Vi är redigerade av Michael Reilly och Gideon Lichfield.

Tack för att du lyssnade, jag heter Jennifer Strong.

[TR ID]

Dölj