211service.com
FBI:s ansiktsigenkänningsprogram är vidsträckt och felaktigt
Le: du kanske blir felidentifierad.
Förra året fick vi veta om den anmärkningsvärda omfattningen av FBI:s teknik för ansiktsigenkänning, med dess tillgång till nästan 412 miljoner foton – många härstammar från källor som inte är relaterade till brott, såsom ID-handlingar. Underrättelsebyrån har försökt skapa ett system som exakt kan identifiera brottslingar i exempelvis CCTV-bilder – även om det då inte var känt hur väl byråns programvara fungerade, och inte heller om det faktiskt förbättrade utredningarna.
Nu har vi åtminstone lite mer insikt i programmet. De väktare rapporterar att en utfrågning i husets tillsynskommitté förra veckan avslöjade några intressanta nya detaljer om spridningen och förmågan hos FBI:s ansiktsigenkänningssystem.
För det första är chansen stor att du som amerikan dyker upp i databasen. Bland de många miljoner bilderna, visar det sig, finns likheter med ungefär hälften av landets vuxna befolkning. Det är möjligt eftersom bilder som härrör från källor som inte är relaterade till brott står för 80 procent av databasen. Så när du skickar iväg formulär och bilder för ett pass, körkort eller någon annan officiell identifiering hjälper du sannolikt att utöka datamängden.
Kanske mer oroande är kvaliteten på FBI:s erkännande. Utfrågningen avslöjade att dess programvara för närvarande felidentifierar individer nästan 15 procent av tiden. Däremot är marknadsledande ansiktsigenkänningsteknik nu så exakt att den används för att godkänna betalningar i Kina, och Baidu hävdar att han korrekt bekräftar någons identitet 99,77 procent av tiden .
Till FBI:s försvar arbetar den förmodligen med bilder av mycket lägre kvalitet, både i sin databas och i bilderna som den försöker utföra igenkänning på, än de som är tillgängliga för sådana som Baidu. Men felfrekvensen på 15 procent är fortfarande hög och kan leda till falska ledtrådar eller ogrundade intrång i integriteten.
getty
Programvaran verkar också felaktigt identifiera svarta personer oftare än vita människor. Tyvärr är den effekten förutsägbar: vi har tidigare förklarat att ansiktsigenkänningssystem i sig är partiska eftersom de är tränade på datamängder som underrepresenterar vissa demografier.
Men det problemet kan få besvärande konsekvenser. Som den väktare anteckningar, svarta människor är mer sannolikt att ha ansiktsigenkänningsprogram som används för att identifiera dem , så det verkar konstigt – till och med orättvist – att använda verktyg som är uppenbart dåligt utrustade för att urskilja deras likhet.
Dessa klumpar bidrar alla till integritetsproblemen som redan har plågat FBI:s initiativ att bygga ett system som exakt kan identifiera brottslingar. Åtminstone har problemen avslöjats – nu måste de bara lösas.
(Läs mer: Väktaren , När det letar efter misstänkta, kan FBI titta på dig , betala med ditt ansikte , är ansiktsigenkänningssystem korrekta? Beror på din ras. )