211service.com
Facebooks annonsalgoritmer utesluter fortfarande kvinnor från att söka jobb
Ms Tech | Pexels
Facebook undanhåller vissa jobbannonser från kvinnor på grund av deras kön, enligt den senaste granskningen av dess annonstjänst.
Revisionen , utförd av oberoende forskare vid University of Southern California (USC), avslöjar att Facebooks annonsleveranssystem visar olika jobbannonser för kvinnor och män även om jobben kräver samma kvalifikationer. Detta anses vara könsbaserad diskriminering enligt USA:s likabehandlingslagstiftning, som förbjuder annonsinriktning baserat på skyddade egenskaper. Resultaten kommer trots år av opinionsbildning och stämningar, och efter löften från Facebook om att se över hur det levererar annonser.
Forskarna registrerade sig som annonsör på Facebook och köpte par av annonser för jobb med identiska kvalifikationer men olika demografi i verkligheten. De annonserade efter två leveransförarjobb, till exempel: en för Domino’s (pizzaleverans) och en för Instacart (livsmedelsleverans). Det är för närvarande fler män än kvinnor som kör för Domino’s och vice versa för Instacart.
Även om ingen målgrupp specificerades på grundval av demografisk information, en funktion Facebook inaktiverad för bostads-, kredit- och jobbannonser i mars 2019 efter att ha avgjort flera rättegångar, visade algoritmer fortfarande annonserna för statistiskt distinkta demografiska grupper. Domino’s-annonsen visades för fler män än kvinnor, och Instacart-annonsen visades för fler kvinnor än män.
Forskarna hittade samma mönster med annonser för två andra par av jobb: mjukvaruingenjörer för Nvidia (snedvuxen man) och Netflix (snedvuxen kvinna), och säljare för bilar (snedvridna manliga) och smycken (snedvuxna kvinnor).
Resultaten tyder på att Facebooks algoritmer på något sätt tar upp den nuvarande demografiska fördelningen av dessa jobb, som ofta skiljer sig åt av historiska skäl. (Forskarna kunde inte urskilja varför det är, eftersom Facebook inte kommer att säga hur dess annonsleveranssystem fungerar.) Facebook reproducerar dessa snedvridningar när det levererar annonser även om det inte finns någon motivering för kvalifikationer, säger Aleksandra Korolova, biträdande professor vid USC, som skrev studien tillsammans med sin kollega John Heidemann och deras doktorandråd Basileal Imana.
Relaterad berättelse
Hur Facebook blev beroende av att sprida desinformation Företagets AI-algoritmer gav det en omättlig vana för lögner och hatretorik. Nu kan inte mannen som byggde dem fixa problemet.
Studien ger de senaste bevisen att Facebook inte har löst sina problem med annonsdiskriminering sedan ProPublica först tog upp frågan i oktober 2016 . Vid den tiden avslöjade ProPublica att plattformen gjorde det möjligt för annonsörer av jobb- och boendemöjligheter att utesluta vissa målgrupper som kännetecknas av egenskaper som kön och ras. Sådana grupper får särskilt skydd enligt amerikansk lag, vilket gör denna praxis olaglig. Det tog två och ett halvt år och flera juridiska skärmytslingar för Facebook för att äntligen ta bort den funktionen .
Men några månader senare väckte det amerikanska departementet för bostäder och stadsutveckling (HUD) en ny stämningsansökan och hävdade att Facebooks annonsleveransalgoritmer fortfarande uteslöt publik för bostadsannonser utan att annonsören specificerade undantaget. Ett team av oberoende forskare inklusive Korolova, ledd av Northeastern Universitys Muhammad Ali och Piotr Sapieżyński, bekräftade dessa anklagelser en vecka senare . De fann till exempel att hus till salu visades oftare för vita användare och hus för uthyrning visades oftare för minoritetsanvändare.
Korolova ville ta upp frågan igen med sin senaste granskning eftersom bevisbördan för jobbdiskriminering är högre än för bostadsdiskriminering. Även om snedvridning i visningen av annonser baserat på skyddade egenskaper är olaglig när det gäller bostäder, anser amerikansk arbetslagstiftning att det är motiverat om snedställningen beror på legitima kvalifikationsskillnader. Den nya metoden kontrollerar denna faktor.
Experimentets design är väldigt ren, säger Sapieżyński, som inte var inblandad i den senaste studien. Medan vissa skulle kunna hävda att bil- och smyckessäljare verkligen har olika kvalifikationer, säger han, är skillnaderna mellan att leverera pizza och att leverera matvaror försumbara. Dessa könsskillnader kan inte bortförklaras med könsskillnader i kvalifikationer eller bristande kvalifikationer, tillägger han. Facebook kan inte längre säga att [detta är] försvarbart enligt lag.
Utgivningen av denna granskning kommer mitt i en ökad granskning av Facebooks AI-bias arbete. I mars publicerade MIT Technology Review resultaten av en nio månader lång utredning in i företagets ansvariga AI-team, som fann att teamet, som först bildades 2018, hade försummat att arbeta med frågor som algoritmisk förstärkning av desinformation och polarisering på grund av dess blinkande fokus på AI-bias. Företaget publicerade ett blogginlägg strax efter, understryker vikten av det arbetet och säger särskilt att Facebook försöker bättre förstå potentiella fel som kan påverka vårt annonssystem, som en del av vårt pågående och bredare arbete med att studera algoritmisk rättvisa i annonser.
'Vi har tagit meningsfulla åtgärder för att ta itu med frågor om diskriminering i annonser och har team som arbetar med rättvisa annonser idag', säger Facebooks talesperson Joe Osborn i ett uttalande. 'Vårt system tar hänsyn till många signaler för att försöka visa annonser som de kommer att vara mest intresserade av, men vi förstår farhågorna som tas upp i rapporten... Vi fortsätter att arbeta nära med medborgarrättsgemenskapen, tillsynsmyndigheter och akademiker om dessa viktiga frågor.
Trots dessa påståenden säger Korolova att hon inte hittade någon märkbar förändring mellan revisionen 2019 och den här i hur Facebooks annonsleveransalgoritmer fungerar. Ur det perspektivet är det faktiskt en besvikelse, för vi uppmärksammade dem på det här för två år sedan, säger hon. Hon har också erbjudit sig att arbeta med Facebook för att ta itu med dessa frågor, säger hon. 'Vi har inte hört av oss. Åtminstone för mig har de inte nått ut.
I tidigare intervjuer sa företaget att det inte kunde diskutera detaljerna om hur det arbetade för att mildra algoritmisk diskriminering i sin annonstjänst på grund av pågående rättstvister. Annonsteamet sa att dess framsteg har begränsats av tekniska utmaningar.
Sapieżyński, som nu har genomfört tre granskningar av plattformen, säger att detta inte har något med frågan att göra. Facebook har ännu inte erkänt att det finns ett problem, säger han. Samtidigt som teamet tar reda på de tekniska krökarna, tillägger han, finns det också en enkel tillfällig lösning: det kan stänga av algoritmisk annonsinriktning specifikt för annonser för bostäder, sysselsättning och utlåning utan att påverka resten av tjänsten. Det är egentligen bara en fråga om politisk vilja, säger han.
Christo Wilson, en annan forskare vid Northeastern som studerar algoritmisk bias men som inte deltog i Korolovas eller Sapieżyńskis forskning, håller med: Hur många gånger behöver forskare och journalister hitta dessa problem innan vi bara accepterar att hela annonsinriktningssystemet är i konkurs?