211service.com
Varför San Franciscos förbud mot ansiktsigenkänning bara är början på en lång kamp
En bild av en gata i San Francisco Unsplash
San Francisco har blivit första amerikanska staden att förbjuda användningen av ansiktsigenkänning av sin regering . Men även om integritetsförespråkare firar, hindrar förordningen inte privata företag från att använda ansikts-ID på ett sätt som många tycker är läskigt.
Det kan dock vara ett första steg.
Användningen av ansiktsigenkänningsteknik har blivit allt vanligare, trots bevis för att det felidentifierar ofta färgade . Aktivister varnar för att det kan leda till falska arresteringar eller användas för att spåra människors vistelseort och mål oliktänkande som inte har gjort något fel .
Under de senaste åren har tjänstemän i San Francisco varit tvungna att gissa deras användning av högteknologiska övervakningsverktyg. 2009 drog polisen över en förare, Denise Green, och höll henne under pistolhot när han sökte igenom hennes bil , allt för att en registreringsskyltläsare felaktigt sa att den hade blivit stulen. Green stämde och staden hamnade betala henne 495 000 dollar . Sådana episoder bidrog utan tvekan till trycket för ett förbud, även om San Franciscos polis för närvarande inte använder teknik för ansiktsigenkänning.
På många sätt är det dock föga förvånande att den teknikbesatta staden är den första som begränsar tekniken. [Det är som hur] Silicon Valley-föräldrar är mest benägna att förbjuda skärmtid för sina barn, säger Laura Noren, en dataetiker och vice ordförande för integritet och förtroende på Obsidian säkerhet . Andra tekniskt kunniga städer kommer sannolikt att följa dess ledning, säger Noren, vilket förklarar varför närliggande Oakland och Somerville i Massachusetts har redan föreslagit liknande förbud. Ändå tror hon att ett federalt förbud är osannolikt under Trump-administrationen.
Offentlig kontra privat
Men de flesta människors erfarenhet av ansiktsanalys och ansiktsigenkänning kommer inte att hända på grund av polisövervakning. Snarare kommer det att bero på icke-statliga strävanden, som skolans säkerhetskameror eller lagrar det visa konsumentinriktade annonser . Dessa användningar kommer med samma risker för felaktig identifiering och diskriminering, men förbud som det i San Francisco kommer inte att förbjuda dem.
I ett exempel på de problem som kan uppstå, en 18-åring stämde Apple förra månaden eftersom, påstod han, ett ansiktsigenkänningssystem i en av dess butiker felaktigt kopplade honom till stölder. (Enligt Apple använder de inte sådana system i sina butiker.) I ett annat fall, hyresgäster på Atlantic Plaza Towers, ett hyreshus i New York City, kämpar mot sin hyresvärds plan att ersätta ett fjärrkontrollsystem med ett ansiktsigenkänningssystem . Tekniken är diskriminerande, menar hyresgästerna, eftersom tornborna mestadels är färgade. Varför valde [hyresvärden] vår byggnad för att prova detta system? Mot 11 andra byggnader som har en annan makeup? frågar Icemae Downes, en av de boende.
Ett fullständigt förbud i den privata sektorn är dock osannolikt. Många konsumenter använder redan FaceID för att låsa upp sina iPhones eller köper videodörrklockor, som Googles Nest Hello, som identifiera bekanta personer . När din berättelse är 'statlig övervakning', tenderar det att ha kraftfull resonans, säger Joseph Jerome , policyrådgivare för Privacy & Data Project vid Center for Democracy and Technology. När du har att göra med den privata sektorn börjar vi ha debatter om vad som är fördelaktig innovation.
Sådana debatter blir snabbt komplicerade. Om företag använder teknik för ansiktsigenkänning, hur ska de då meddela kunderna? Vilka rättigheter ska människor ha att välja bort, och hur lätt ska den processen vara? Bör uppgifterna någonsin ges eller säljas till tredje part? Det här var några av frågorna som kom upp under diskussionen om en Washington State sekretessräkning som misslyckades tidigare i år, enligt Jevan Hutson , en teknologipolitisk forskare vid University of Washington. De två sidorna kunde inte komma överens om hur starka integritetsbegränsningarna skulle vara.
Ändå har restriktioner för kommersiell användning börjat dyka upp, säger Jennifer Lynch, chef för övervakningstvister vid Electronic Frontier Foundation. Till exempel, en lag i Illinois kräver att företag inhämtar samtycke innan de samlar in någon form av biometrisk data. Ett tvådelat lagförslag med ett snävare krav, den Commercial Facial Recognition Privacy Act , är för närvarande i utskottsutfrågningar i kongressen.
Noren för sin del tror att företag kommer att eftersträva ett krav på noggrannhetströskel – i själva verket föreslår att ansiktsigenkänning tillåts så länge de kan bevisa att det inte gör för många misstag.
I slutändan, säger Jerome, är det för tidigt att säga hur mycket SF-förordningen kommer att påverka kommersiell reglering. Jag tror att det kommer att pressa debatten som delstater och den federala regeringen har kring ansiktsigenkänning, men om det leder till handling är oklart, säger han. Det fanns en liknande offentlig/privat uppdelning över drönare för några år sedan, tillägger Jerome: många lokala städer begränsade deras användning av brottsbekämpande myndigheter, men gjorde lite för att reglera dem för kommersiella ändamål.