211service.com
Facebooks annonsvisningsalgoritm diskriminerar efter kön och ras
Ms. Tech/ Logotyp: facebook
Algoritmer är partiska - och Facebooks är inget undantag.
Bara förra veckan stämdes teknikjätten av det amerikanska departementet för bostads- och stadsutveckling för att annonsörer medvetet lät annonsörer rikta in sina annonser efter ras, kön och religion – alla skyddade klasser enligt amerikansk lag. Företaget meddelade att de skulle sluta tillåta detta.
Men nya bevis visar att Facebooks algoritm, som automatiskt bestämmer vem som får se en annons, utför samma diskriminering ändå, och visar annonser till över två miljarder användare baserat på deras demografiska information.
Ett team ledd av Muhammad Ali och Piotr Sapiezynski vid Northeastern University körde en serie i övrigt identiska annonser med små variationer i tillgänglig budget, rubrik, text eller bild. De fann att dessa subtila justeringar hade betydande inverkan på målgruppen som nåddes av varje annons – framför allt när annonserna var för jobb eller fastigheter. Utstationering för förskollärare och sekreterare visades till exempel för en högre andel kvinnor, medan utstationering för vaktmästare och taxichaufförer visades för en högre andel av minoriteterna. Annonser om bostäder till salu visades också för fler vita användare, medan annonser för uthyrning visades för fler minoriteter.
Vi har gjort viktiga ändringar i våra verktyg för annonsinriktning och vet att detta bara är ett första steg, en Facebook-talesman sa i ett uttalande som svar på resultaten. Vi har tittat på vårt annonsvisningssystem och har engagerat branschledare, akademiker och medborgarrättsexperter i just detta ämne – och vi undersöker fler förändringar.
På vissa sätt borde detta inte vara förvånande – partiskhet i rekommendationsalgoritmer har varit ett känt problem i många år. 2013, till exempel, publicerade Latanya Sweeney, professor i regering och teknik vid Harvard, en artikel som visade den implicita rasdiskrimineringen av Googles annonsvisningsalgoritm. Frågan går tillbaka till hur dessa algoritmer i grunden fungerar. Alla är baserade på maskininlärning, som hittar mönster i enorma mängder data och återanvänder dem för att fatta beslut. Det finns många sätt som partiskhet kan sippra in under denna process, men de två mest uppenbara i Facebooks fall relaterar till problem under problemframställning och datainsamling.
Bias uppstår under problemframställning när målet för en maskininlärningsmodell är felinriktad med behovet av att undvika diskriminering. Facebooks annonsverktyg låter annonsörer välja mellan tre optimeringsmål: antalet visningar en annons får, antalet klick och mängden engagemang den får och mängden försäljning den genererar. Men de affärsmålen har ingenting att göra med att till exempel upprätthålla lika tillgång till bostäder. Som ett resultat, om algoritmen upptäckte att den kunde tjäna mer engagemang genom att visa fler vita användare hem att köpa, skulle det sluta diskriminera svarta användare.
Bias uppstår under datainsamling när träningsdata speglar befintliga fördomar. Facebooks reklamverktyg baserar sina optimeringsbeslut på de historiska preferenser som människor har visat. Om fler minoriteter engagerade sig i annonser för uthyrning tidigare, kommer maskininlärningsmodellen att identifiera det mönstret och tillämpa det igen i evighet. Återigen kommer det blint att trampa på vägen för diskriminering på arbetsmarknaden och bostadsmarknaden – utan att det uttryckligen uppmanas att göra det.
Även om dessa beteenden inom maskininlärning har studerats under ganska lång tid, erbjuder den nya studien en mer direkt titt på omfattningen av dess inverkan på människors tillgång till bostad och sysselsättningsmöjligheter. Dessa fynd är explosiva! Christian Sandvig, chef för Center for Ethics, Society, and Computing vid University of Michigan, berättade Ekonomen. Tidningen säger att [...] big data, som används på detta sätt, aldrig kan ge oss en bättre värld. I själva verket är det troligt att dessa system gör världen värre genom att påskynda problemen i världen som gör saker orättvisa.
Den goda nyheten är att det kan finnas sätt att lösa detta problem, men det kommer inte att vara lätt. Många AI-forskare söker nu efter tekniska korrigeringar för maskininlärning som kan skapa mer rättvisa modeller för onlineannonsering. En nyligen papper från Yale University och Indian Institute of Technology, till exempel, föreslår att det kan vara möjligt att begränsa algoritmer för att minimera diskriminerande beteende, om än till en liten kostnad för annonsintäkterna. Men beslutsfattare kommer att behöva spela en större roll om plattformar ska börja investera i sådana korrigeringar – särskilt om det kan påverka deras resultat.
Detta dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.