Självkörande bilar kan vara mer benägna att träffa dig om du har mörk hud

Kategori: Artificiell intelligens Postad 01 mars

Forskare vid Georgia Institute of Technology hittades att toppmoderna objektigenkänningssystem är mindre exakta när det gäller att upptäcka fotgängare med mörkare hudtoner.

Krocktestning: Forskarna testade åtta bildigenkänningssystem (vart och ett utbildat på en standarddatauppsättning) mot en stor pool av fotgängarbilder. De delade in fotgängarna i två grupper för ljusare och mörkare hudtoner enligt Fitzpatrick hudtypsvåg , ett sätt att klassificera mänsklig hudfärg.

Färgkodad: Detektionsnoggrannheten för systemen visade sig vara lägre med i genomsnitt fem procentenheter för gruppen med mörkare hud. Detta gällde även när man kontrollerade tid på dygnet och skymd sikt.

Under huven: Genom ytterligare analys fastställde forskarna att fördomen troligen orsakades av två saker: för få exempel på mörkhyade fotgängare och för lite betoning på att lära av dessa exempel. De säger att partiskheten kan mildras genom att justera både data och algoritm.

En tidigare version av den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.