211service.com
Är ansiktsigenkänningssystem exakta? Beror på din ras.
Allt vi vet om ansiktsigenkänningssystem som FBI och polisen använder tyder på att programvaran har en inbyggd rasfördom. Det är inte avsiktligt – det är en artefakt av hur systemen är designade och vilken data de tränas på. Men det är problematiskt. Brottsbekämpande myndigheter förlitar sig mer och mer på sådana verktyg för att hjälpa till i brottsutredningar, vilket ökar risken för att något kan gå fel.
Brottsbekämpande myndigheter har inte lämnat många detaljer om hur de använder system för ansiktsigenkänning, men i juni utfärdade Government Accountability Office en rapport som sa att FBI inte har testat noggrannheten hos sitt ansiktsmatchningssystem, inte heller det massiva nätverket av ansiktsmatchande databaser på tillståndsnivå som den kan komma åt.
Och även om toppmoderna ansiktsmatchningssystem kan vara nästan 95 procent exakta i mugshot-databaser, tas dessa bilder under kontrollerade förhållanden med allmänt samarbetande motiv. Bilder tagna under mindre än idealiska omständigheter, som dålig belysning, eller som fångar ovanliga poser och ansiktsuttryck, kan leda till fel.
Illustration av Sophia Foster-Dimino
Algoritmerna kan också vara partiska på grund av hur de tränas, säger Anil Jain , chef för forskningsgruppen för biometri vid Michigan State University. För att fungera måste mjukvara för ansiktsmatchning först lära sig att känna igen ansikten med hjälp av träningsdata, en uppsättning bilder som ger programvaran information om hur ansikten skiljer sig åt. Om ett kön, åldersgrupp eller ras är underrepresenterad i träningsdata, kommer det att återspeglas i algoritmens prestanda, säger Jain.
Under 2012 använde Jain och flera kollegor en uppsättning mugshots från Pinellas County Sheriff's Office i Florida för att undersöka prestandan hos flera kommersiellt tillgängliga ansiktsigenkänningssystem, inklusive sådana från leverantörer som tillhandahåller brottsbekämpande myndigheter. Algoritmerna var genomgående mindre exakt på kvinnor, afroamerikaner och yngre människor. Tydligen tränades de på data som inte var tillräckligt representativa för de grupperna, säger Jain.
Om din träningsuppsättning är starkt partisk mot ett visst lopp, kommer din algoritm att bättre känna igen det loppet, säger Alice O’Toole , chef för forskningslabbet för ansiktsuppfattning vid University of Texas i Dallas. O’Toole och flera kollegor hittades 2011 att en algoritm som utvecklats i västländer var bättre på att känna igen kaukasiska ansikten än den var på att känna igen östasiatiska ansikten. På samma sätt presterade östasiatiska algoritmer bättre på östasiatiska ansikten än på kaukasiska.
Under de många år som gått sedan dessa studier har noggrannheten hos kommersiella algoritmer förbättrats avsevärt på många områden, och Jain säger att prestandaklyftorna mellan olika kön och raser kan ha minskat. Men så lite testinformation är tillgänglig, det är svårt att veta. Nyare tillvägagångssätt för ansiktsigenkänning, som de djupa lärandesystemen som Google och Facebook har utvecklat, kan göra samma sorts misstag om träningsdatan är obalanserad, säger han.
Jonathon Phillips, en elektronikingenjör vid National Institute of Standards and Technology, genomför prestandatester av kommersiella algoritmer. Han säger att det är möjligt att designa ett test för att mäta rasfördomar i ansiktsmatchningssystem. Det har faktiskt integritetsexperter förtjänt göra sådana tester ett krav.
FBI och MorphoTrust, leverantören som tillhandahåller byråns mjukvara för ansiktsigenkänning, svarade inte på e-postfrågor från MIT Technology Review om de testar sina algoritmers prestanda efter ras, kön eller ålder.
Arrangemangen mellan försäljare och de många statliga brottsbekämpande myndigheterna som använder ansiktsigenkänning är inte heller tydliga. Men Pete Langenfeld, chef för digital analys och identifiering för Michigan State Police, säger att hans organisation inte testar gruppspecifik noggrannhet. Han sa att han inte vet om leverantören som levererade tekniken utför sådana tester heller, men tillade att det är proprietär information, och företaget är inte skyldigt att släppa den informationen.