211service.com
Att göra ansiktsigenkänning mindre partisk gör det inte mindre skrämmande
Busà Photography/Getty
Under de senaste åren har det skett en dramatisk ökning av antagandet av teknik för ansiktsigenkänning, detektion och analys.
Du är förmodligen mest bekant med erkännande system, som Facebooks fototaggningsrekommendator och Apples FaceID, som kan identifiera specifika individer. Upptäckt system, å andra sidan, avgör om ett ansikte överhuvudtaget är närvarande; och analys system försöker identifiera aspekter som kön och ras. Alla dessa system används nu för en mängd olika ändamål, från anställning och detaljhandel till säkerhet och övervakning .
Många tror att sådana system är både mycket exakta och opartiska. Logiken är att flygplatsens säkerhetspersonal kan tröttna och polisen kan felbedöma misstänkta, men ett välutbildat AI-system bör konsekvent kunna identifiera eller kategorisera vilken bild som helst av ett ansikte.
Men i praktiken har forskning upprepade gånger visat att dessa system hanterar vissa demografiska grupper mycket mer felaktigt än andra. Förra året, Genus nyanser , en framträdande studie ledd av MIT Media Lab-forskaren Joy Buolamwini, fann att könsklassificeringssystem som säljs av IBM, Microsoft och Face++ hade en felfrekvens så mycket som 34,4 procentenheter högre för mörkhyade kvinnor än ljushyade män. ACLU i norra Kalifornien hittas på liknande sätt att Amazons plattform var mer sannolikt att felidentifiera icke-vita än vita kongressmedlemmar.
Problemet är att ansiktsigenkänning och analyssystem ofta tränas på skeva datamängder: de matas med mycket färre bilder av kvinnor och människor med mörk hy än de är bilder av män och människor med ljus hud. Och även om många av dem förmodas testas för rättvisa, kontrollerar dessa tester inte prestanda på ett tillräckligt brett spektrum av ansikten – som Buolamwini fann. Dessa skillnader vidmakthåller och befäster ytterligare befintliga orättvisor och leder till konsekvenser som bara förvärras när insatserna blir högre.
Tre nya tidningar som släppts under den senaste veckan ger nu välbehövlig uppmärksamhet till denna fråga. Här är en kort beskrivning av var och en av dem.
Papper #1. I torsdags, Buolamwini släppte en uppdatering av Gender Shades genom att testa om de system hon tidigare undersökt och utöka sin recension till att inkludera Amazons erkännande och ett nytt system från ett litet AI-företag som heter Kairos. Det finns några goda nyheter. Hon fann att IBM, Face++ och Microsoft alla förbättrade sin könsklassificeringsnoggrannhet för mörkhyade kvinnor, där Microsoft minskade sin felfrekvens till under 2 %. Å andra sidan hade Amazons och Kairos plattformar fortfarande noggrannhetsgap på 31 respektive 23 procentenheter mellan ljusare hanar och mörkare honor. Buolamwini sa studien visar att dessa tekniker måste granskas externt för att hålla dem tekniskt ansvariga.
Papper #2. På söndag, a studie från MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) visade effektiviteten av en ny algoritm för att mildra fördomar i ett ansiktsdetektionssystem även när det tränas på kraftigt partisk data. När den tränar identifierar den också vilka exempel i data som är underrepresenterade och lägger extra tid på att titta på dem för att kompensera. När forskarna testade systemet mot Buolamwinis Gender Shades-datauppsättning fann de att det hjälpte till att stänga deras egen största noggrannhetsgap, mellan ljusare och mörkare hyade män, jämfört med en standard träningsalgoritm (även om det inte eliminerade det helt) .
Papper #3. I morse släppte IBM Research en papper som identifierar dussintals funktioner för att mäta mångfald bortom hudfärg och kön, inklusive huvudhöjd, ansiktsbredd, avstånd mellan ögonen och ålder. Fynden baseras på tidigare forskning om mänskliga ansikten. Om vi inte har mått på ansiktsmångfald, säger John Smith, en av medförfattarna till tidningen, kan vi inte komma tillbaka och genomdriva dem när vi tränar dessa ansiktsigenkänningssystem. I samband med detta släppte teamet en ny datamängd med 1 miljon bilder av ansikten, kommenterade med dessa nya åtgärder.
Olika mått på ansiktsmångfald, presenterade i IBM Researchs nya artikel. IBM Research
Var och en av dessa studier har tagit viktiga steg mot att ta itu med partiskhet i ansiktsigenkänning – genom att hålla företag ansvariga, genom att skapa nya algoritmer och genom att utöka vår förståelse av datadiversitet. Men att skapa rättvisare och mer exakta system är bara halva striden.
Även de rättvisaste och mest exakta systemen kan fortfarande användas för att kränka människors medborgerliga friheter. Förra året, en Daily Beast undersökning fann att Amazon aktivt presenterade sin plattform för ansiktsövervakning till USA:s immigrations- och tullmyndighet, mer känd som ICE, för att hjälpa till med att slå ner migrantsamhällen. En avlyssning undersökning fann också att IBM utvecklade förmågan att identifiera ansiktens etnicitet som en del av ett långsiktigt partnerskap med New York Police Department. Denna teknik användes sedan i offentliga övervakningskameror för testning, utan stadsbornas vetskap. Den brittiska Metropolitan Police använder redan ansiktsigenkänning för att skanna offentliga folkmassor för personer på bevakningslistor, och Kina använder det för massövervakning av alla invånare, för syften inklusive spårning av oliktänkande.
Som svar på den snabba spridningen av dessa system har ett växande antal medborgarrättsaktivister och teknologer har krävt att de ska regleras; Google har till och med upphängd dess försäljning av sådana system tills den har tydliga strategier för att förhindra missbruk av dem.
Utan algoritmisk rättvisa kan algoritmisk noggrannhet/teknisk rättvisa skapa AI-verktyg som är beväpnade, säger Buolamwini.
Den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.