LinkedIns jobbmatchande AI var partisk. Företagets lösning? Mer AI.

Ms Tech | Envato

För flera år sedan upptäckte LinkedIn att rekommendationsalgoritmerna som den använder för att matcha jobbkandidater med möjligheter gav partiska resultat. Algoritmerna rangordnade kandidater delvis utifrån hur sannolikt det var att de skulle söka en tjänst eller svara på en rekryterare. Systemet slutade med att hänvisa fler män än kvinnor till öppna roller helt enkelt för att män ofta är mer aggressiva på att söka nya möjligheter.

LinkedIn upptäckte problemet och byggde ett annat AI-program för att motverka partiskheten i resultaten av det första. Samtidigt tar några av världens största jobbsökningssajter – inklusive CareerBuilder, ZipRecruiter och Monster – väldigt olika tillvägagångssätt för att ta itu med partiskhet på sina egna plattformar, som vi rapporterar i det senaste avsnittet av MIT Technology Reviews podcast In Machines We Trust. Eftersom dessa plattformar inte avslöjar exakt hur deras system fungerar, är det dock svårt för arbetssökande att veta hur effektiva någon av dessa åtgärder faktiskt är för att förhindra diskriminering.

Om du skulle börja leta efter ett nytt jobb idag, skulle artificiell intelligens med stor sannolikhet påverka din sökning. AI kan avgöra vilka inlägg du ser på jobbsökningsplattformar och bestämma om du ska skicka ditt CV till ett företags rekryterare. Vissa företag kan be dig att spela AI-drivna videospel som mäter dina personlighetsdrag och mäter om du skulle passa bra för specifika roller.

Relaterad berättelse

Revisorer testar anställningsalgoritmer för partiskhet, men det finns ingen enkel lösning

AI-revisioner kan förbise vissa typer av partiskhet, och de verifierar inte nödvändigtvis att ett anställningsverktyg väljer ut de bästa kandidaterna för ett jobb.

Fler och fler företag använder AI för att rekrytera och anställa nya medarbetare, och AI kan ta hänsyn till nästan alla steg i anställningsprocessen . Covid-19 underblåste ny efterfrågan på dessa teknologier. Både Underlig sak och HireVue , företag som specialiserat sig på AI-drivna intervjuer, rapporterade en ökning av verksamheten under pandemin.

De flesta jobbsökande börjar dock med en enkel sökning. Arbetssökande vänder sig till plattformar som LinkedIn , Monster , eller ZipRecruiter , där de kan ladda upp sina meritförteckningar, bläddra bland jobbannonser och ansöka om lediga platser.

Målet med dessa webbplatser är att matcha kvalificerade kandidater med tillgängliga positioner. För att organisera alla dessa öppningar och kandidater använder många plattformar AI-drivna rekommendationsalgoritmer. Algoritmerna, ibland kallade matchningsmotorer, bearbetar information från både den arbetssökande och arbetsgivaren för att sammanställa en lista med rekommendationer för var och en.

Du hör vanligtvis anekdoten att en rekryterare lägger sex sekunder på att titta på ditt CV, eller hur? säger Derek Kan, vice vd för produkthantering på Monster. När vi tittar på rekommendationsmotorn vi har byggt kan du minska den tiden ner till millisekunder.

De flesta matchande motorer är optimerade för att generera applikationer, säger John Jersin , tidigare vice vd för produkthantering på LinkedIn. Dessa system baserar sina rekommendationer på tre kategorier av data: information som användaren tillhandahåller direkt till plattformen; data som tilldelats användaren baserat på andra med liknande färdigheter, erfarenheter och intressen; och beteendedata, som hur ofta en användare svarar på meddelanden eller interagerar med jobbannonser.

I LinkedIns fall utesluter dessa algoritmer en persons namn, ålder, kön och ras, eftersom inkludering av dessa egenskaper kan bidra till partiskhet i automatiserade processer. Men Jersins team fann att trots detta kunde tjänstens algoritmer fortfarande upptäcka beteendemönster som uppvisas av grupper med speciella könsidentiteter.

Till exempel, medan män är mer benägna att söka jobb som kräver arbetserfarenhet utöver deras kvalifikationer, tenderar kvinnor att bara gå till jobb där deras kvalifikationer matchar positionens krav. Algoritmen tolkar denna variation i beteende och justerar sina rekommendationer på ett sätt som oavsiktligt missgynnar kvinnor.

Du kanske rekommenderar till exempel fler seniorjobb till en grupp människor än en annan, även om de är kvalificerade på samma nivå, säger Jersin. Dessa människor kanske inte utsätts för samma möjligheter. Och det är verkligen effekten som vi pratar om här.

Män inkluderar också mer kompetens på sina cv till en lägre grad av kompetens än kvinnor, och de engagerar sig ofta mer aggressivt med rekryterare på plattformen.

För att ta itu med sådana frågor, Jersin och hans team på LinkedIn byggde en ny AI utformad för att producera mer representativa resultat och implementerade den under 2018. Det var i huvudsak en separat algoritm utformad för att motverka rekommendationer snedställda mot en viss grupp. Den nya AI:n säkerställer att rekommendationssystemet innehåller en representativ fördelning av användare över kön innan de hänvisar till matcherna som kurerats av den ursprungliga motorn.

Kan säger att Monster, som listar 5 till 6 miljoner jobb vid varje given tidpunkt, också införlivar beteendedata i sina rekommendationer men korrigerar inte för partiskhet på samma sätt som LinkedIn gör. Istället fokuserar marknadsföringsteamet på att få användare från olika bakgrunder att registrera sig för tjänsten, och företaget förlitar sig sedan på att arbetsgivarna rapporterar tillbaka och berättar för Monster om det skickade vidare en representativ uppsättning kandidater eller inte.

Irina Novoselsky , VD på CareerBuilder, säger att hon är fokuserad på att använda data som tjänsten samlar in för att lära arbetsgivare hur man eliminerar partiskhet från sina jobbannonser. Till exempel, när en kandidat läser en arbetsbeskrivning med ordet 'rockstar', är det väsentligt en lägre procent av kvinnorna som söker, säger hon.

Ian Seal , VD och medgrundare av ZipRecruiter, säger att företagets algoritmer inte tar hänsyn till vissa identifierande egenskaper som namn när de rangordnar kandidater; istället klassificerar de människor på basis av 64 andra typer av information, inklusive geografiska data. Han säger att företaget inte diskuterar detaljerna i sina algoritmer, med hänvisning till immaterialrättsliga problem, men tillägger: Jag tror att vi är så nära en meritbaserad bedömning av människor som för närvarande kan göras.

Med automatisering i varje steg i anställningsprocessen måste arbetssökande nu lära sig att sticka ut för både algoritmen och anställningscheferna. Men utan tydlig information om vad dessa algoritmer gör står kandidaterna inför betydande utmaningar.

Jag tror att folk underskattar effekten algoritmer och rekommendationsmotorer har på jobb, säger Kan. Sättet du presenterar dig på läses med största sannolikhet av tusentals maskiner och servrar först, innan det ens når ett mänskligt öga.

Den här artikeln uppdaterades 6/25/21 för att återspegla att LinkedIns nya AI säkerställer en representativ fördelning av användare (inte en jämn fördelning) över könen rekommenderas för jobb.

Dölj