Facebook säger att de kommer att leta efter rasfördomar i sina algoritmer

Kategori: Artificiell intelligens Postad 22 juli

Nyheterna: Facebook säger att det håller på att installeras nya interna team för att leta efter rasfördomar i algoritmerna som driver dess huvudsakliga sociala nätverk och Instagram, enligt Wall Street Journal. I synnerhet kommer undersökningarna att ta upp de negativa effekterna av maskininlärning – vilket kan koda för implicit rasism i träningsdata – om svarta, latinamerikanska och andra minoritetsgrupper.

Varför det är viktigt: Under de senaste åren har allt fler forskare och aktivister lyft fram problemet med bias i AI och den oproportionerligt stor inverkan på minoriteter . Facebook, som använder maskininlärning för att kurera den dagliga upplevelsen för sina 2,5 miljarder användare, är väl på tiden för en intern bedömning av detta slag. Det finns redan bevis för att Facebooks annonsvisningsalgoritmer diskriminera efter ras och tillåta annonsörer att stoppa specifika rasgrupper från att se deras annonser, till exempel.

Under press: Facebook har en historia av att undvika anklagelser om partiskhet i sina system. Det har tagit flera år av dålig press och påtryckningar från medborgarrättsgrupper för att nå denna punkt. Facebook har skapat dessa team efter en månadslång reklambojkott organiserad av medborgarrättsgrupper – inklusive Anti-Defamation League, Color of Change och NAACP – som ledde till att stora utgifter som Coca-Cola, Disney, McDonald's och Starbucks avbryta sina kampanjer.

Ingen enkel fix: Flytten är välkommen. Men att inleda en utredning är långt ifrån att faktiskt lösa problemet med rasfördomar, särskilt när ingen riktigt vet hur man fixar det. I de flesta fallen, partiskhet finns i träningsdata och det finns inga bra överenskomna sätt att ta bort det. Och att justera den datan – en form av algoritmisk positiv särbehandling – är kontroversiellt. Maskininlärningsbias är också bara ett av sociala mediers problem kring ras. Om Facebook ska titta på sina algoritmer borde det vara en del av en bredare översyn som också brottas med policyer som ger plattformar till rasistiska politiker, vita supremacistiska grupper och förintelseförnekare.

'Vi kommer att fortsätta att arbeta nära Facebooks ansvariga AI-team för att säkerställa att vi tittar på potentiella fördomar på våra respektive plattformar', säger Stephanie Otway, talesperson för Instagram. 'Det är tidiga dagar och vi planerar att dela mer information om detta arbete under de kommande månaderna.'