211service.com
AI:s vita killproblem försvinner inte
Eric Gay/AP
Siffrorna berättar historien om AI-branschens svåra brist på mångfald. Kvinnor står endast för 18 % av författarna vid ledande AI-konferenser, 20 % av AI-professurerna och 15 % och 10 % av forskarpersonalen på Facebook respektive Google. Rasmångfalden är ännu värre: svarta arbetare representerar bara 2,5 % av Googles hela arbetsstyrka och 4 % av Facebooks och Microsofts. Inga data finns tillgängliga för transpersoner och andra könsminoriteter – men det är osannolikt att trenden motverkas där heller.
Detta är djupt oroande när branschens inflytande dramatiskt har vuxit till att påverka allt från uthyrning och bostäder till straffrätt och militär. Längs vägen har tekniken automatiserat sina skapares fördomar till en alarmerande effekt: nedvärdera kvinnors CV , vidmakthållande av diskriminering på anställning och boende , och införande av rasistiska polisiärer och fängelsedomar .
Dessa konsekvenser kommer bara att förvärras utan ett annat tillvägagångssätt för att lösa problemet, säger en ny rapport ut denna vecka från forskningsinstitutet AI Now.
Problemet med bristande mångfald inom tekniken [...] har nått en ny och brådskande brytpunkt, sa Meredith Whittaker, institutets medgrundare, på ett presssamtal som åtföljde rapporten. Miljontals människor känner effekterna av dessa verktyg och påverkas av alla AI-fördomar som fastnar i dem.
AI Now-teamet identifierar två huvudorsaker till att ansträngningarna att ta itu med bristen på mångfald har misslyckats. För det första, det finns en stor tonvikt på att öka kvinnor inom teknik och mindre på att förbättra mångfalden av ras, kön och andra egenskaper. För det andra, det finns ett oproportionerligt fokus på att fixa pipelinen – idén om att öka antalet kandidater från underrepresenterade grupper som flödar från skolor till industrin. Detta tenderar att underskatta andra systemiska nackdelar som hindrar kvinnor och minoriteter från att stanna på fältet, såsom trakasserier, orättvis ersättning och maktobalanser.
Forskarna ger flera rekommendationer för att förbättra mångfalden på arbetsplatsen på ett mer heltäckande sätt. Dessa inkluderar åtgärder som syftar till att minska löne- och möjlighetersklyftan, öka mångfalden på ledarskapsnivåer över avdelningarna och att ändra incitamentstrukturerna för företagsledare att anställa och behålla arbetare från underrepresenterade grupper.
Men problemet ligger också djupare än anställnings- och kompensationspraxis, säger Jessie Daniels, forskare vid Data & Society, som studerar skärningspunkten mellan rasism och teknik och inte var inblandad i rapporten. Teknikindustrin byggdes i grunden på etiken att teknik existerar oberoende av samhället, säger hon: I början av 90-talet fanns en idé om att internet skulle befria oss från saker som ras och kön och svaghet; tanken att vi skulle åka till denna plats som kallas 'cyberrymden' där vi inte längre skulle behöva tänka på förkroppsligande eller identitet.
Den idén har stannat kvar i branschen till denna dag och är roten till både de upprepade misslyckandena med att öka medarbetarnas mångfald och de upprepade skandalerna kring AI-bias. Teknikföretag byggs – och tekniska produkter är designade – med en fantasitro på att de existerar oberoende av sexism, rasism och samhälleligt sammanhang runt dem.
Det är inget fel, säger Daniels. Det är en funktion.