211service.com
Är spelningsekonomin riggad?
Illustration av Matthew Hollister
Appar och sajter som kan användas för att anställa människor för individuella uppgifter som att hämta matvaror eller designa en ny logotyp har tagit fart de senaste åren, vilket lovar en effektivare och mer rättvis marknadsplats för anställning. En ny studie från Northeastern University i Boston tyder dock på att ras- och könsdiskriminering kan vara vanligt på två populära gigekonomiplattformar.
Forskare under ledning av Christo Wilson , en biträdande professor vid Northeastern, och Ancsa Hannák , en doktorand, undersökte TaskRabbit, en plattform för att anställa människor för att göra ärenden, och Fiverr, en marknadsplats för kreativa tjänster. På båda hittade de bevis på partiskhet längs ras- och könslinjer.
Det är bara ett exempel på hur partiskhet smyger sig in i onlineplattformar och tjänster. Och det är oroande eftersom spelningsekonomin lovade att inte bara vara mer effektiv och flexibel, utan också mindre partisk – eftersom algoritmer gör arbetet med att koppla ihop människor.
På Fiverr fann forskarna bevis för att svarta och asiatiska arbetare fick lägre betyg än vita människor. Och på TaskRabbit fick kvinnor färre recensioner än män, och svarta arbetare fick lägre betyg än vita. Kanske mest oroande, forskarna hittade också bevis på sådan partiskhet i rekommendationsalgoritmen på TaskRabbit. Forskningen kommer att presenteras på en akademisk konferens i New York denna vecka.
Det är omöjligt att med säkerhet säga att den korrelation som identifierats av Wilson och Hannák beror på ras- och könsfördomar från hyresgäster, i motsats till någon okänd förvirrande faktor, men Wilson säger att mönstret är oroande. Vi får höra att det här är arbetskraftens framtid, säger han. Om du ska rulla ut en algoritm som kommer att användas av miljontals människor, har du något slags ansvar gentemot allmänheten att undersöka vad du använder, utvärdera det och se om det kommer att ha något av dessa negativa biverkningar.
En talesperson för Fiverr hävdar att studiens metodik var felaktig genom att den ignorerar faktorer som internationella gränser och språkskillnader. Hon noterar också att användare inte behöver lämna någon demografisk information för att kunna använda tjänsten, vilket gör det enkelt att undvika diskriminering. TaskRabbit svarade inte på en begäran om kommentar.
Det finns dock växande bevis för att partiskhet kan påverka alla typer av digitala tjänster. Förra månaden, forskare från MIT, Stanford och University of Washington upptäckte det att Uber-förare i Boston ställde in resor oftare för kunder med afroamerikanskt klingande namn, och att svarta Uber-kunder i Seattle fick längre väntetider än sina vita motsvarigheter. I en studie publicerad förra året, forskare vid CMU hittade bevis att annonser för högbetalda jobb visades oftare för män än för kvinnor.
I många fall återspeglar den fördomar som ses bara vad som finns i den verkliga världen, såsom de medvetna och undermedvetna fördomar som arbetsgivare kan medföra för anställningsbeslut. Så för rekommendationsmotorer eller maskininlärningssystem är frågan hur bias kan tas bort, antingen från datamängderna som matas till algoritmerna eller från själva algoritmerna.
Folk har den här idén att eftersom det är en dator är den neutral, tillägger Wilson. Om du har data som är partisk är det vettigt att du ska träna en algoritm som är partisk.
Don MacKenzie , en biträdande professor vid University of Washington och en av författarna till den senaste Uber-studien, betonar att studien inte bevisar att ras- eller könsfördomar spelar in. Men han säger att det är viktigt att överväga partiskhet i spelningsekonomin och underliggande algoritmer – och tillägger att problemet borde vara hanterbart om företag är försiktiga.
Det här är ett framväxande område, och om det finns en uppsättning bästa praxis är jag inte medveten om det, säger MacKenzie. Ur mitt perspektiv bör företag, utvecklare och datavetare vara vaksamma, lyssna på feedback och inte vara rädda för att prova olika lösningar. Jag tror att om alla närmar sig dessa frågor i god tro, konstruktivt och med en vilja att prova olika saker, kan vi komma närmare att eliminera partiskhet i dessa system.