Amazon lade bort AI-rekryteringsprogram eftersom den var partisk mot kvinnor

Kategori: Silicon Valley Postad 10 okt

De data som algoritmen för artificiell intelligens tränades på skapade en preferens för manliga kandidater.

Nyheterna: Enligt en rapport av Reuters , började Amazon utveckla ett automatiserat system 2014 för att rangordna arbetssökande med en till fem stjärnor. Men förra året skrotade företaget projektet efter att ha sett att det hade utvecklat en preferens för manliga kandidater i tekniska roller.

Varför? AI-verktyget tränades på 10 års meritförteckningar som företaget hade fått. Eftersom teknik är en mansdominerad bransch kom majoriteten av dessa CV från män.

Resultatet: Systemet tränades oavsiktligt för att välja manliga kandidater framför kvinnliga kandidater. Det skulle enligt uppgift straffa cv som innehåller ordet kvinnor eller namnen på vissa högskolor för alla kvinnor. Även om Amazon gjorde ändringar för att göra dessa termer neutrala, tappade företaget förtroendet för att programmet verkligen var könsneutralt på alla andra områden.

Varför det är viktigt: Vi kan inte behandla artificiell intelligens som i sig opartisk. Att träna systemen på partisk data innebär att algoritmerna också blir partiska. Om orättvisa AI-anställningsprogram som detta inte avslöjas innan de implementeras, kommer de att vidmakthålla långvariga mångfaldsproblem i verksamheten snarare än att lösa dem.

Vill du hänga med i hur tekniken förändrar framtidens arbetsplats? Anmäl dig till vårt framtida arbetsnyhetsbrev, Clocking In.