AI måste möta sitt problem med osynliga arbetare

SAIPH SAVAGE

Många av de mest framgångsrika och mest använda maskininlärningsmodellerna utbildas med hjälp av tusentals lågavlönade spelningsarbetare . Miljontals människor runt om i världen tjänar pengar på plattformar som Amazon Mechanical Turk, som gör det möjligt för företag och forskare att lägga ut små uppgifter till online crowdworkers. Enligt en uppskattning , mer än en miljon människor enbart i USA tjänar pengar varje månad genom att arbeta på dessa plattformar. Omkring 250 000 av dem tjänar minst tre fjärdedelar av sin inkomst på detta sätt. Men även om många arbetar för några av de rikaste AI-labben i världen, får de betalt under minimilönen och får inga möjligheter att utveckla sina färdigheter.

Saiph Savage är chef för labbet för interaktion mellan människa och dator vid West Virginia University, där hon arbetar med samhällsteknik, med fokus på frågor som att bekämpa desinformation och hjälpa spelningsarbetare att förbättra sina arbetsförhållanden. I veckan gav hon en inbjudet föredrag på NeurIPS , en av världens största AI-konferenser, med titeln En framtid av arbete för de osynliga arbetarna inom AI. Jag pratade med Savage på Zoom dagen innan hon höll sitt föredrag.

Vår konversation har redigerats för klarhet och längd.

Du pratar om de osynliga arbetarna inom AI. Vilka typer av jobb gör dessa människor?

Många uppgifter involverar märkning av data – särskilt bilddata – som matas in i övervakade maskininlärningsmodeller så att de förstår världen bättre. Andra uppgifter handlar om att transkribera ljud. Till exempel, när du pratar med Amazons Alexa kan du få arbetare som transkriberar vad du säger så att röstigenkänningsalgoritmen lär sig att förstå tal bättre. Och jag har precis haft ett möte med crowdworkers på landsbygden i West Virginia. De anlitas av Amazon för att läsa upp en massa dialoger för att hjälpa Alexa att förstå hur människor i den regionen pratar. Du kan också låta anställda märka webbplatser som kan vara fyllda med hatretorik eller pedofili. Det är därför du inte exponeras för dessa saker när du söker efter bilder på Google eller Bing.

Människor anställs för att utföra dessa uppgifter på plattformar som Amazon Mechanical Turk. Stora teknikföretag kan använda interna versioner – Facebook och Microsoft har till exempel sina egna. Skillnaden med Amazon Mechanical Turk är att vem som helst kan använda den. Forskare och nystartade företag kan ansluta till plattformen och driva sig själva med osynliga arbetare.

Vilka problem har dessa osynliga arbetare?

Jag ser faktiskt inte crowdwork som en dålig sak; det är en riktigt bra idé. Det har gjort det mycket enkelt för företag att lägga till en extern arbetsstyrka.

Relaterad berättelse

Det kommande kriget mot de dolda algoritmerna som fångar människor i fattigdom En växande grupp advokater avslöjar, navigerar och bekämpar de automatiserade systemen som nekar de fattiga bostäder, jobb och grundläggande tjänster.

Men det finns ett antal problem. En är att arbetare på dessa plattformar tjänar mycket låga löner. Vi gjorde en studie där vi följde hundratals Amazon Mechanical Turk-arbetare under flera år, och vi fann att de tjänade runt 2 USD per timme. Detta är mycket lägre än den amerikanska minimilönen. Det finns människor som ägnar sina liv åt dessa plattformar; det är deras huvudsakliga inkomstkälla.

Och det medför andra problem. Dessa plattformar skär också av framtida jobbmöjligheter, eftersom heltidsanställda crowdworkers inte ges något sätt att utveckla sina färdigheter – åtminstone inte sådana som är erkända. Vi upptäckte att många människor inte lägger sitt arbete på dessa plattformar på sitt CV. Om de säger att de arbetade på Amazon Mechanical Turk kommer de flesta arbetsgivare inte ens veta vad det är. De flesta arbetsgivare är inte medvetna om att dessa är arbetarna bakom vår AI.

Det är uppenbart att du har en riktig passion för det du gör. Hur kom det sig att du arbetade med det här?

Jag arbetade med ett forskningsprojekt på Stanford där jag i grunden var en crowdworker, och det utsatte mig för problemen. Jag hjälpte till att designa en ny plattform, som var som Amazon Mechanical Turk men kontrollerad av arbetarna. Men jag var också teknikarbetare på Microsoft. Och det öppnade också mina ögon för hur det är att arbeta inom ett stort teknikföretag. Man blir ansiktslös, vilket är väldigt likt det som crowdworkers upplever. Och det fick mig verkligen att vilja förändra arbetsplatsen.

Du nämnde att göra en studie. Hur tar man reda på vad dessa arbetare gör och vilka villkor de möter?

Jag gör tre saker. Jag intervjuar arbetare, jag genomför undersökningar och jag bygger verktyg som ger mig ett mer kvantitativt perspektiv på vad som händer på dessa plattformar. Jag har kunnat mäta hur mycket tid arbetare lägger ner på att slutföra uppgifter. Jag mäter också mängden obetalt arbete som arbetare utför, som att söka efter uppgifter eller kommunicera med en arbetsgivare – saker du skulle få betalt för om du hade en lön.

Du har blivit inbjuden att hålla ett föredrag på NeurIPS den här veckan. Varför är detta något som AI-gemenskapen behöver höra?

Tja, de driver sin forskning med dessa arbetares arbete. Jag tror att det är väldigt viktigt att inse att en självkörande bil eller vad som helst existerar på grund av människor som inte får minimilön. Medan vi tänker på framtiden för AI, bör vi tänka på framtiden för arbetet. Det är bra att bli påmind om att dessa arbetare är människor.

Säger du att företag eller forskare medvetet underbetalar?

Nej, det är det inte. Jag tror att de kan underskatta vad de ber arbetare att göra och hur lång tid det kommer att ta. Men många gånger har de helt enkelt inte tänkt på den andra sidan av transaktionen alls.

För de ser bara en plattform på internet. Och det är billigt.

Ja exakt.

Vad gör vi åt det?

Massor av saker. Jag hjälper arbetare att få en uppfattning om hur lång tid en uppgift kan ta dem att utföra. På så sätt kan de utvärdera om en uppgift kommer att vara värd det. Så jag har utvecklat en AI-plugin för dessa plattformar som hjälper arbetare att dela information och coacha varandra om vilka uppgifter som är värda sin tid och som låter dig utveckla vissa färdigheter. AI:n lär sig vilken typ av råd som är mest effektiv. Den tar in textkommentarerna som arbetarna skriver till varandra och lär sig vilka råd som leder till bättre resultat, och främjar det på plattformen.

Låt oss säga att arbetare vill höja sina löner. AI:n identifierar vilken typ av råd eller strategi som är bäst lämpad för att hjälpa arbetare att göra det. Det kan till exempel föreslå att du gör dessa typer av uppgifter från dessa arbetsgivare men inte dessa andra typer av uppgifter där borta. Eller så säger den åt dig att inte spendera mer än fem minuter på att söka arbete. Maskininlärningsmodellen är baserad på den subjektiva åsikten från arbetare på Amazon Mechanical Turk, men jag fann att den fortfarande kunde öka arbetarnas löner och utveckla deras färdigheter.

Så det handlar om att hjälpa arbetare att få ut det mesta av dessa plattformar?

Det är en början. Men det skulle vara intressant att tänka på karriärstegar. Vi skulle till exempel kunna vägleda arbetare att utföra ett antal olika uppgifter som låter dem utveckla sina färdigheter. Vi kan också tänka på att ge andra möjligheter. Företag som lägger jobb på dessa plattformar kan erbjuda mikropraktikplatser online för arbetarna.

Och vi borde stötta entreprenörer. Jag har utvecklat verktyg som hjälper människor att skapa sina egna spelningsmarknader. Tänk på dessa arbetare: de är mycket bekanta med spelningsarbete och de kanske har nya idéer om hur man driver en plattform. Problemet är att de inte har den tekniska kompetensen för att sätta upp en, så jag bygger ett verktyg som gör att sätta upp en plattform lite som att konfigurera en webbplatsmall.

Mycket av detta handlar om att använda teknik för att förändra maktbalansen.

Det handlar om att förändra berättelsen också. Jag träffade nyligen två crowdworkers som jag har pratat med och de kallar sig faktiskt teknikarbetare, vilket – jag menar, de är teknikarbetare på ett visst sätt eftersom de driver vår teknik. När vi pratar om crowdworkers framställs de vanligtvis som att de har dessa hemska jobb. Men det kan vara till hjälp att förändra vårt sätt att tänka på vilka dessa människor är. Det är bara ett annat teknikjobb.

Dölj