211service.com
En AI-anställningsfirma säger att den kan förutsäga jobbhoppning baserat på dina intervjuer
En skärmdump av PredictiveHire.
Sedan pandemin började, ett växande antal företag har vänt sig till AI för att hjälpa till med deras anställning. De vanligaste systemen innebär att man använder ansiktsskanningsalgoritmer, spel, frågor eller andra utvärderingar för att hjälpa till att avgöra vilka kandidater som ska intervjuas.
Medan aktivister och forskare varnar för att dessa screeningverktyg kan vidmakthålla diskriminering, hävdar tillverkarna själva att algoritmisk anställning hjälper till att korrigera för mänsklig fördomar. Algoritmer kan testas och justeras, medan mänskliga fördomar är mycket svårare att korrigera - eller så lyder tanken. I en December 2019 tidning , granskade forskare vid Cornell landskapet av algoritmiska screeningföretag för att analysera deras påståenden och metoder. Av de 18 de identifierade sig med engelskspråkiga webbplatser, marknadsförde majoriteten sig själva som ett mer rättvist alternativ till människobaserade anställningar, vilket tyder på att de fäste sig vid den ökade oron kring dessa frågor för att presentera sina verktygs fördelar och få fler kunder.
Men diskriminering är inte det enda problemet med algoritmisk anställning, och vissa forskare oroar sig för att marknadsföringsspråk som fokuserar på partiskhet gör att företag kan komma från kroken i andra frågor, såsom arbetstagares rättigheter. En ny förtryck från ett av dessa företag fungerar nu som en viktig påminnelse: Vi bör inte låta uppmärksamheten som folk har börjat ägna åt partiskhet och diskrimineringsfrågor faktiskt tränger bort det faktum att det finns en massa andra frågor, säger Solon Barocas, biträdande professor vid Cornell University och huvudforskare vid Microsoft Research, som studerar algoritmisk rättvisa och ansvarighet.
Företaget i fråga är Australien-baserade PredictiveHire, grundat i oktober 2013. Det erbjuder en chatbot som ställer kandidater en rad öppna frågor. Den analyserar sedan deras svar för att bedöma jobbrelaterade personlighetsdrag som drivkraft, initiativförmåga och motståndskraft. Enligt företagets VD, Barbara Hyman, är dess kunder arbetsgivare som måste hantera ett stort antal applikationer, till exempel inom detaljhandel, försäljning, callcenter och hälsovård. Som Cornell-studien fann använder den också aktivt löften om mer rättvis anställning i sitt marknadsföringsspråk. På sin hemsida annonserar den djärvt: Möt Phai. Din co-pilot vid anställning. Att göra intervjuer SUPERSNABBT. INKLUSIVT, ÄNTLIGEN. ÄNTLIGEN, UTAN BIAS.
Som vi har skrivit tidigare är idén med fördomsfria algoritmer i hög grad vilseledande . Men PredictiveHire's senaste forskningen är oroande av en annan anledning. Den är fokuserad på att bygga en ny maskininlärningsmodell som försöker förutsäga en kandidats sannolikhet att hoppa jobb, praxis att byta jobb oftare än en arbetsgivare önskar. Arbetet följer företagets senaste referentgranskade forskning som tittade på hur öppna intervjufrågor korrelera med personlighet (i och för sig a mycket omtvistad praxis ). Eftersom organisationspsykologer redan har visat en koppling mellan personlighet och jobbhoppning, säger Hyman, ville företaget testa om de kunde använda sina befintliga data för förutsägelsen. Att behålla anställda är ett stort fokus för många företag som vi arbetar med med tanke på kostnaderna för hög personalavgång, uppskattad till 16 % av kostnaden för varje anställds lön, tillägger hon.
Studien använde fritextsvar från 45 899 kandidater som hade använt PredictiveHires chatbot. De sökande hade ursprungligen fått fem till sju öppna frågor och självbetygsfrågor om sin tidigare erfarenhet och situationsbedömning. Dessa inkluderade frågor som syftade till att reta ut egenskaper som studier tidigare har visat korrelerar starkt med tendenser att hoppa på jobb, som att vara mer öppen för erfarenhet, mindre praktisk och mindre jordnära. Företagets forskare hävdar att modellen kunde förutsäga jobbhoppning med statistisk signifikans. PredictiveHires webbplats annonserar redan detta arbete som en flygriskbedömning kommer snart .
PredictiveHires nya arbete är ett utmärkt exempel på vad Nathan Newman hävdar är en av de största negativa effekterna av big data på arbetskraft. Newman, en adjungerad docent vid John Jay College of Criminal Justice, skrev in ett lagdokument från 2017 att utöver oron för anställningsdiskriminering, hade stordataanalys också använts på otaliga sätt för att pressa ner arbetarnas löner.
Maskininlärningsbaserade personlighetstest, till exempel, används i allt högre grad vid anställning för att sålla bort potentiella anställda som har större sannolikhet att agitera för höjda löner eller stödja fackföreningsorganisation. Arbetsgivare övervakar i allt högre grad anställdas e-postmeddelanden, chattar och andra uppgifter för att bedöma vilka som kan lämna och beräkna den lägsta löneökning som krävs för att få dem att stanna. Och algoritmiska ledningssystem som Ubers decentraliserar arbetare bort från kontor och digitala sammankomstutrymmen som tillåter dem att samordna sig med varandra och kollektivt kräva bättre behandling och lön.
Inget av dessa exempel borde vara förvånande, hävdade Newman. De är helt enkelt en modern manifestation av vad arbetsgivare historiskt har gjort för att trycka ner lönerna genom att rikta in sig på och bryta upp facklig verksamhet. Användningen av personlighetsbedömningar vid anställning, som går tillbaka till 1930-talet i USA, började i själva verket som en mekanism för att sålla bort personer som sannolikt kommer att bli arbetsorganisatörer. Testerna blev särskilt populära på 1960- och 70-talen när organisationspsykologer hade förfinat dem för att bedöma arbetare för deras fackliga sympatier.
I detta sammanhang är PredictiveHires kamp-riskbedömning bara ytterligare ett exempel på denna trend. Jobbhoppning, eller hotet om jobbhoppning, påpekar Barocas, är ett av de viktigaste sätten som arbetare kan öka sin inkomst på. Företaget byggde till och med sin bedömning på personlighetsscreeningar designade av organisationspsykologer.
Barocas förespråkar inte nödvändigtvis att slänga ut verktygen helt och hållet. Han anser att målet att göra anställningsarbetet bättre för alla är ett ädelt mål och skulle kunna uppnås om tillsynsmyndigheterna ger mandat större transparens . För närvarande har ingen av dem fått en rigorös, peer-reviewed utvärdering, säger han. Men om företagen var mer öppenhjärtig om sina metoder och skickade in sina verktyg för sådan validering, skulle det kunna hjälpa dem att hålla dem ansvariga. Det kan också hjälpa forskare att lättare samarbeta med företag för att studera verktygens inverkan på både arbete och diskriminering.
Trots allt mitt eget arbete under de senaste åren med att uttrycka oro över det här, säger han, tror jag faktiskt att många av dessa verktyg avsevärt skulle kunna förbättra det nuvarande tillståndet.