Kvinnliga röstassistenter ger upphov till skadliga könsstereotyper, säger en FN-studie

Kategori: Silicon Valley Postad 22 maj

Produkter som Amazon Echo och Apples Siri är som standard inställda på att låta kvinnliga, och folk hänvisar vanligtvis till programvaran som henne.

Inbäddningsbias: De flesta AI-röstassistenter är könsbestämda som unga kvinnor och används mest för att svara på frågor eller utföra uppgifter som att kolla vädret, spela musik eller ställa in påminnelser. Detta sänder en signal om att kvinnor är fogliga, ivriga att behaga hjälpare utan någon byrå, alltid till hands för att hjälpa sina herrar, FN:s rapport säger och hjälper till att förstärka skadliga stereotyper. Rapporten uppmanar företag att sluta göra digitala assistenter till kvinnor som standard och utforska sätt att få dem att låta könlösa.

Vem rodnar: Rapporten heter Jag skulle rodna om jag kunde, efter ett svar som Siri ger när någon säger: Hej Siri, du är en bi***. Den innehåller ett helt avsnitt om svaren på kränkande och könsbaserat språk. Om du säger att du är vacker för ett Amazon Echo, svarar dess Alexa-programvara: Det är verkligen trevligt, tack! Google Assistant svarar på samma kommentar med Tack, den här plasten ser bra ut, eller hur? Assistenterna ger nästan aldrig negativa svar eller betecknar en användares tal som olämpligt, oavsett dess grymhet, fann studien.

Rapporten: Dess syfte är att avslöja de könsfördomar som är hårdkodade i de teknologiprodukter som spelar en allt större roll i vår vardag. Rapporten föreslår också sätt att minska en könsmässig kompetensklyfta som är stor och växer i de flesta delar av världen. Det visade sig att kvinnor har 25 % mindre sannolikhet att ha grundläggande digitala färdigheter än män, och att det bara är en fjärdedel så sannolikt att de vet hur man programmerar datorer. Dessa klyftor borde få beslutsfattare, lärare och vanliga medborgare att 'rodna' av oro, säger rapporten.

Anmäl dig här till vårt dagliga nyhetsbrev The Download för att få din dos av de senaste måste-läsa nyheterna från den nya teknikens värld.