All automatiserad anställningsprogramvara är som standard benägen för partiskhet

Kategori: Teknisk policy Postad 13 dec

TILL ny rapport Upturn analyserade några av de mest framträdande anställningsalgoritmerna på marknaden och fann att som standard är sådana algoritmer benägna att vara partiska.

Anställningsstegen: Algoritmer har gjorts för att automatisera fyra primära steg i anställningsprocessen: inköp, screening, intervjuer och urval. Analysen fann att även om prediktiva verktyg sällan användes för att göra det slutgiltiga valet om vem som skulle anställas, användes de vanligtvis under dessa stadier för att avvisa människor.

När partiskhet smyger sig in: Om tidigare anställningsdata används kan utbildningsinformationen vara partisk eller icke-representativ, och överföra dessa fördomar till programvaran. Att bara ta bort data om kön och ras kommer inte att hålla partiskhet borta från programvara. Andra delar av information, som avstånd från kontoret, kan starkt relatera till mer känsliga faktorer. Amazon såg detta i en anställningsalgoritm som den försökte utveckla. Anställande chefer kan också vara benägna att ge för mycket tilltro till rekommendationerna från anställningsalgoritmer.

Reglera AI: Studien fann också att de nuvarande lagarna inte är utrustade för att hantera problemet. De lagar som utformats för att reglera beslut om anställning av människor tillåter inte lätt utredning och verkställighet när man hanterar maskinbaserad diskriminering.

Det positiva: Å andra sidan kan prediktiva verktyg hjälpa till att avslöja tidigare mänskliga fördomar och antaganden som tidigare hade förbisetts. Detta skulle göra det möjligt för företag att göra positiva förändringar i sin praxis. Flera leverantörer vidtar åtgärder inte bara för att granska sina produkter för partiskhet, utan för att bygga in aktiefrämjande funktioner i sina produkter, säger en av rapportens författare, Miranda Bogen. Vi hoppas att fler leverantörer kommer att ta till sig den här typen av interventioner, men det är fortfarande en lång väg kvar innan vi kan vara säkra på att prediktiva verktyg inte orsakar mer skada än nytta.

Åtgärda problemet: För att göra användningen av att anställa AI mer rättvis rekommenderar rapporten:

— Tillåter oberoende granskning av arbetsgivar- och leverantörsprogramvara
— Att låta regeringar uppdatera sina regler för att täcka programvara för förutsägande anställning
— granska annons- och jobbplattformar mer i detalj för att analysera deras växande inflytande på anställning

Eftersom det finns så många olika punkter i den processen där fördomar kan uppstå, bör arbetsgivare definitivt gå fram med försiktighet, säger Bogen. De bör vara transparenta om vilka förutsägande verktyg de använder och vidta alla åtgärder de kan för att proaktivt upptäcka och åtgärda fördomar som uppstår – och om de inte kan göra det med säkerhet bör de dra ur kontakten.

Den här artikeln publicerades ursprungligen i vårt framtida arbetsnyhetsbrev, Clocking In. Du kan anmäla dig här .