Rasism är förgiftning av annonsvisning online, säger Harvard-professorn

Har du någonsin blivit arresterad? Föreställ dig att frågan inte dyker upp i ensamheten i dina tankar när du läser den här artikeln, utan den dyker upp explicit när någon frågar efter ditt namn i en sökmotor.

Skärmdump av en Google-annons.

Så börjar Latanya Sweeney vid Harvard University i en övertygande tidning som hävdar att rasdiskriminering plågar annonsering online.

Många människor kommer att ha erfarenhet av att googla vänner, kollegor och släktingar för att ta reda på deras onlinenärvaro – de webbplatser de visas på, deras bilder, hobbyer och så vidare.

Sweeneys intresse ligger i annonserna som visas bredvid dessa resultat. När hon skrev in sitt namn i Google dök en annons upp med texten:

Latanya Sweeney, arresterad? 1) Ange namn och status 2) Få tillgång till fullständig bakgrund. Kontrollerar direkt. www.instantcheckmate.com

Detta är en suggestiv formulering. Det tyder på att Latanya Sweeney har ett brottsregister vars detaljer kan nås genom att klicka på annonsen. Men efter att ha tryckt på länken och betalat den nödvändiga prenumerationsavgiften säger Sweeney att hon inte hittade något register över arrestering.

Det som är intressant med detta är att Sweeneys förnamn också är suggestivt - att hon är svart. Frågan Sweeney ställer är om en liknande sökning med ett namn som tyder på en vit rasprofil också visar annonser som nämner arresteringsprotokoll.

Svaret är ett kraftfullt väckarklocka. Sweeney säger att hon har bevis för att svarta identifieringsnamn är upp till 25 procent mer benägna att få en gripanderelaterad annons. Det förekommer diskriminering vid leverans av dessa annonser, avslutar hon.

Sweeney samlade dessa bevis genom att samla in över 2000 namn som antydde ras. Till exempel antyder förnamn som Trevon, Lakisha och Darnell att ägaren är svart medan namn som Laurie, Brendan och Katie antyder att ägaren är vit.

Hon skrev sedan in dessa plus efternamn på Google.com och Reuters.com och undersökte annonserna de returnerade. De flesta namn genererade annonser för offentliga register. Men svartidentifierande namn visade sig vara mycket mer sannolikt än vitidentifierande namn för att generera annonser som inkluderar ordet arrest (60 procent mot 48 procent). Alla kom från www.instantcheckmate.com .

Hon säger att resultaten är statistiskt signifikanta med en mindre än 0,1 procents chans att de genererades av en slump.

På Reuters.com var det 25 procent större sannolikhet för svarta identifieringsnamn att visas med en arresteringsrelaterad annons.

Det är ett enastående resultat och ett som väcker fler frågor än det besvarar. Det största pusslet är naturligtvis vad som gör att annonserna visas i detta mönster. Här döljer mysteriet med Googles Adsense-tjänst saken avsevärt.

Sweeney säger att det i huvudsak finns tre möjligheter. En är det www.instantcheckmate.com har satt upp de arresteringsannonser som ska visas upp till svarta identifierande namn. En annan är att Google på något sätt har partiskt sin annonsvisningsmekanism på detta sätt.

En mer lömsk förklaring är att samhället som helhet bär skulden. Om Googles Adsense-tjänst lär sig vilka annonskombinationer som är mer effektiva, skulle den först visa de arresteringsrelaterade annonserna till alla namn slumpmässigt. Men detta skulle förändras om det skulle upptäcka att klickningar är mer sannolika när dessa annonser visas mot ett svartidentifierande namn. Med andra ord speglar resultaten bara det diskriminerande mönstret av klick från vanliga människor.

Naturligtvis kan vi inte veta utan större insikt i den svarta lådan som är Google Adsense.

Uppenbarligen har Sweeney upptäckt ett allvarligt problem här med tanke på hur onlinenärvaro kan ha en individs anställningsmöjligheter.

Oavsett orsaken säger Sweeney att teknik kan erbjuda någon form av lösning. Om algoritmerna bakom Adsense kan resonera om att maximera intäkterna, säger hon att de borde kunna resonera kring de juridiska och sociala konsekvenserna av vissa mönster av genomklickningar.

Det är en intressant idé och en som Google, www.instantcheckmate.com och samhället i allmänhet bör överväga mer i detalj.

Ref: http://arxiv.org/abs/1301.6822 Diskriminering vid annonsvisning online

Uppdatering 4 februari 2013 14:34 EST

Som svar på det här blogginlägget skickar en talesperson för Google följande kommentar:

AdWords gör ingen rasprofilering. Vi har också en anti- och våldspolitik som säger att vi inte kommer att tillåta annonser som förespråkar en organisation, person eller grupp av människor. Det är upp till enskilda annonsörer att bestämma vilka sökord de vill välja för att visa deras annonser.

Uppdatering 7 feb

Instantcheckmate.com skickar följande uttalande:

Faktum är att Instant Checkmate vill påstå otvetydigt att det aldrig har ägnat sig åt rasprofilering i Google AdWords.
Vi har absolut ingen teknik på plats för att ens koppla ett namn till en ras och har aldrig gjort några försök att göra det. Själva idén strider mot vårt företags djupaste principer och värderingar.

Dölj