AI-anställningsbranschen är under granskning - men det kommer att vara svårt att fixa

Kategori: Teknisk policy Postad 07 nov

Electronic Privacy Information Center (EPIC) har bad Federal Trade Commission att undersöka HireVue , ett AI-verktyg som hjälper företag att ta reda på vilka arbetare de ska anställa.

Vad är HireVue? HireVue är ett av ett växande antal verktyg för artificiell intelligens som företag använder för att bedöma arbetssökande. Algoritmen analyserar videointervjuer och använder allt från ordval till ansiktsrörelser för att räkna ut en anställningsbarhetspoäng som jämförs med andra sökandes. Mer än 100 företag har redan använt det på över en miljon sökande, enligt Washington Post .

Vad är problemet? Det är svårt att förutsäga vilka arbetare som kommer att lyckas utifrån saker som ansiktsuttryck. Vad värre är, kritiker oroar sig för att algoritmen tränas på begränsad data och därför är mer benägna att markera traditionella sökande (vita, män) som mer anställningsbara. Som ett resultat kommer sökande som avviker från det traditionella - inklusive människor som inte talar engelska som modersmål eller som är funktionshindrade - sannolikt att få lägre poäng, säger experter . Dessutom uppmuntrar det sökande att spela systemet genom att intervjua på ett sätt som de vet att HireVue kommer att gilla.

Vad kommer härnäst? AI-anställningsverktyg är inte väl reglerade, och det kommer att vara svårt att ta itu med problemet av några anledningar.

– De flesta företag kommer inte att släppa sin data eller förklara hur algoritmerna fungerar, så det är väldigt svårt att bevisa någon partiskhet. Det är en del av anledningen till att det inte har varit några större stämningar hittills. EPIC-klagomålet, som tyder på att HireVues löfte bryter mot FTC:s regler mot orättvisa och vilseledande metoder, är en början. Men det är inte klart om något kommer att hända. FTC har tagit emot klagomålet men har inte sagt om det kommer att fortsätta det.

—Andra försök att förhindra partiskhet är välmenande men begränsade. Tidigare i år antog lagstiftare i Illinois en lag som kräver att arbetsgivare måste berätta åtminstone för arbetssökande att de kommer att använda dessa algoritmer och för att få deras samtycke. Men det är inte särskilt användbart. Många människor kommer sannolikt att samtycka bara för att de inte vill förlora möjligheten.

— Slutligen, precis som AI i hälsa eller AI i rättssalen, kommer artificiell intelligens vid anställning att återskapa samhällets fördomar, vilket är ett komplicerat problem. Tillsynsmyndigheter kommer att behöva ta reda på hur mycket ansvar företag bör förväntas ta för att undvika misstagen i ett fördomsfullt samhälle.