En amerikansk regeringsstudie bekräftar att de flesta ansiktsigenkänningssystem är rasistiska

Kategori: Artificiell intelligens Postad 20 dec

Nästan 200 ansiktsigenkänningsalgoritmer – en majoritet i branschen – hade sämre prestanda på icke-vita ansikten, enligt en landmärke studie .

Vad de testade: US National Institute of Standards and Technology (NIST) testade varje algoritm på två av de vanligaste uppgifterna för ansiktsigenkänning. Den första, känd som en-till-en-matchning, innebär att ett foto av någon matchas med ett annat foto av samma person i en databas. Detta används för att låsa upp smartphones eller kontrollera pass till exempel. Den andra, känd som en-till-många-sökning, innebär att avgöra om ett foto av någon har någon matchning i en databas. Detta används ofta av polisavdelningar för att identifiera misstänkta i en utredning.

Byrån studerade fyra ansiktsdatauppsättningar som för närvarande används i amerikanska regeringsapplikationer: muggbilder av människor som bor i USA; ansökningsfoton från personer som ansöker om immigrationsförmåner; ansökningsfoton från personer som ansöker om visum; och bilder på människor när de korsade gränsen till USA. Totalt inkluderade datamängderna 18,27 miljoner bilder av 8,49 miljoner människor.

Vad de hittade: NIST delade några högnivåresultat från studien. De viktigaste:

1. För en-till-en-matchning hade de flesta system en högre andel falskt positiva matchningar för asiatiska och afroamerikanska ansikten över kaukasiska ansikten, ibland med en faktor 10 eller till och med 100. Med andra ord var de mer benägna att hitta en match när det inte fanns en.

2. Detta förändrades för ansiktsigenkänningsalgoritmer som utvecklats i asiatiska länder, som gav mycket liten skillnad i falska positiva resultat mellan asiatiska och kaukasiska ansikten.

3. Algoritmer som utvecklats i USA var alla genomgående dåliga på att matcha asiatiska, afroamerikanska och indianer. Indianer drabbades av de högsta falska positiva siffrorna.

4. En-till-många-matchning, system hade de sämsta falska positiva siffrorna för afroamerikanska kvinnor, vilket gör att denna befolkning löper den högsta risken att bli falskt anklagad för ett brott.

Varför detta är viktigt: Användningen av ansiktsigenkänningssystem växer snabbt inom brottsbekämpning, gränskontroll och andra tillämpningar i hela samhället. Medan flera akademiska studier tidigare har visat att populära kommersiella system är partiska på ras och kön, är NIST:s studie den mest omfattande utvärderingen hittills och bekräftar dessa tidigare resultat. Resultaten ifrågasätter om dessa system bör fortsätta att användas i så stor utsträckning.

Nästa steg: Det är nu upp till beslutsfattare att ta reda på det bästa sättet att reglera dessa tekniker. NIST uppmanar också utvecklare för ansiktsigenkänning att genomföra mer forskning om hur dessa fördomar kan mildras.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.