Googles nya AI Smile Detector visar hur omfamning av ras och kön kan minska partiskhet

Kategori: Okategoriserad Postad 04 dec

Datorseende blir allt bättre på att känna igen olika ansiktsuttryck, men för vissa grupper som inte är tillräckligt representerade i träningsdataset, som rasminoriteter eller kvinnor med androgyna egenskaper, kan algoritmer fortfarande underprestera.

En ny artikel publicerad i arXiv av Google har forskare förbättrat de senaste leendedetekteringsalgoritmerna genom att inkludera och träna ras- och könsklassificerare i sin modell. Rasklassificeraren tränades i fyra rasundergrupper och två för kön (forskarna namngav inte rasgrupperna, men bilderna verkar bestå av asiatiska, svarta, latinamerikanska och vita människor).

Deras metod fick nästan 91 procents noggrannhet när det gäller att upptäcka leenden i Faces of the World (FotW), en uppsättning av 13 000 bilder av ansikten som samlats in från webben som ibland används som riktmärke för sådana algoritmer. Det är en förbättring med drygt 1,5 procent från föregående märke. Resultaten visade en generellt förbättrad noggrannhet över hela linjen, vilket visar att uppmärksamhet på ras och kön kan ge bättre resultat än att försöka bygga en algoritm som är färgblind.

Många forskare är tveksamma till att inkludera klassificerare som denna under antagandet att det är lättare att göra sig skyldig till partiskhet (eller åtminstone bli anklagad för det) när ditt system har explicita ras- eller könskategorier. Google-teamets resultat bevisar att ansträngningarna att utbilda ras- eller könsklassificerare faktiskt kan minska problemet med partiskhet. Forskarna använde också klassificeringar som Gender 1 och Gender 2 för att undvika att introducera omedvetna, samhälleliga fördomar när det var möjligt.

Även med de lovande resultaten och försiktighet som vidtagits för att vara medveten om partiskhet i alla dess former, inkluderade forskarna dock ett avsnitt i sin artikel som heter Etiska överväganden, där de anstränger sig för att notera att deras arbete inte är avsett att motivera ras och kön identifiering som ett slutmål. De påpekar också att det inte finns någon guldstandard för att bryta ner raskategorier, och att kön kanske borde betraktas som ett spektrum i framtida arbete, snarare än en binär stat.