211service.com
Undersöka den mörka sidan av Googles annonsinriktningssystem
Att Google och andra företag spårar våra rörelser på webben för att rikta in oss med annonser är välkänt. Hur exakt den informationen används är inte - men en forskningsartikel som presenterades förra veckan tyder på att några av de algoritmiska bedömningar som kommer fram från Googles annonssystem kan slå många människor som motbjudande.
Forskare från Carnegie Mellon University och International Computer Science Institute byggde ett verktyg som heter AdFisher för att undersöka inriktningen av annonser som visas av Google på tredje parts webbplatser. De fann att falska webbanvändare som Google trodde var manliga arbetssökande var mycket mer benägna än motsvarande kvinnliga arbetssökande att få ett par annonser för högbetalda chefsjobb när de senare besökte en nyhetswebbplats.
AdFisher visade också att en Googles transparensverktyg så kallade annonsinställningar, som låter dig se och redigera de intressen som företaget har angett för dig, återspeglar inte alltid potentiellt känslig information som används för att rikta in dig på dig. Att surfa på sajter riktade till personer med missbruksproblem, till exempel, utlöste ett utslag av annonser för rehabprogram, men det gjordes ingen förändring på Googles insynssida.
Exakt vad som orsakade dessa specifika mönster är oklart, eftersom Googles annonsvisningssystem är mycket komplext. Google använder sin data för att rikta in annonser, men annonsköpare kan fatta vissa beslut om demografi av intresse och kan också använda sina egna datakällor om människors onlineaktivitet för att göra ytterligare inriktning för vissa typer av annonser. Exemplen bryter inte heller mot några specifika integritetsregler – även om Googles policy förbjuder inriktning på grund av hälsotillstånd. Ändå, säger Anupam Datta , en docent vid Carnegie Mellon University som hjälpte till att utveckla AdFisher, visar de behovet av verktyg som avslöjar hur onlineannonsföretag skiljer mellan människor.
Jag tror att våra fynd tyder på att det finns delar av annonsekosystemet där sorters diskriminering börjar dyka upp och det råder brist på transparens, säger Datta. Detta är oroande ur ett samhälleligt perspektiv. Annonssystem som Google påverkar den information som människor utsätts för och potentiellt till och med de beslut de fattar, så det är viktigt att förstå hur dessa system använder data om oss, säger han.
Även företag som driver onlineannonsnätverk har inte en bra uppfattning om vilka slutsatser deras system drar om människor och hur dessa slutsatser används, säger Datta. Hans grupp har börjat samarbeta med Microsoft för att utveckla en version av AdFisher för användning inom företaget, för att leta efter potentiellt oroande mönster i annonsinriktningen på Bings sökmotor. Ett papper av Datta och två kollegor— Michael Tschantz , från International Computer Science Institute, och Amit Datta , även på Carnegie Mellon – presenterades på Sekretessförbättrande teknologisymposium i Philadelphia i torsdags.
Google svarade inte officiellt när forskarna kontaktade företaget om deras fynd i slutet av förra året, säger de. Men i juni märkte teamet att Google hade lagt till en ansvarsfriskrivning på sin sida med annonsinställningar. De intressekategorier som visas sägs nu bara kontrollera vissa av Google-annonserna som du ser, och inte de där tredje part har använt sin egen data. Datta säger att det i hög grad begränsar användbarheten av Googles transparensverktyg, som förmodligen skulle kunna göras för att avslöja sådan information om företaget väljer. De visar dessa annonser, och om de ville kunde de spegla dessa intressen, säger han.
Annonsörer kan välja att rikta in sig på den målgrupp de vill nå, och vi har policyer som vägleder vilken typ av intressebaserade annonser som är tillåtna, säger Andrea Faville, en taleskvinna för Google, i ett e-postmeddelande. Vi tillhandahåller insyn till användarna med meddelanden och annonsinställningar av typen 'Varför denna annons', samt möjligheten att välja bort intressebaserade annonser. Google tittar på metodiken för studien för att försöka förstå dess resultat.
AdFisher-verktyget fungerar genom att skicka ut hundratals eller tusentals automatiska webbläsare på noggrant utvalda spår över webben på ett sådant sätt att ett nätverk för annonsinriktning kommer att sluta sig till vissa intressen eller aktiviteter. Programvaran registrerar sedan vilka annonser som visas när varje automatisk webbläsare besöker en nyhetswebbplats som använder Googles annonsnätverk, samt eventuella ändringar på sidan med annonsinställningar. I vissa experiment redigeras den sidan för att leta efter skillnader mellan hur annonser riktas till, till exempel, män och kvinnor. AdFisher flaggar automatiskt alla statistiskt signifikanta skillnader i hur annonser är inriktade med de särskilda intressekategorier eller demografi som den undersöker.
Roxana Geambasu , en biträdande professor vid Columbia University, säger att det finns ett stort värde i hur AdFisher statistiskt kan extrahera mönster från komplexiteten i riktade annonser. Ett verktyg som heter XRay , som hennes egen forskargrupp släppte förra året, kan omvända konstruktionen av kopplingen mellan annonser som visas för Gmail-användare och sökord i deras meddelanden. Annonser för billån med låga krav kan till exempel vara inriktade på personer som använder ord förknippade med ekonomiska svårigheter.
Geambasu säger dock att resultaten från både XRay och AdFisher fortfarande bara är suggestiva. Man kan inte dra stora slutsatser, för vi har inte studerat det här så mycket och de här exemplen kan vara sällsynta undantag, säger hon. Det vi behöver nu är infrastruktur och verktyg för att studera dessa system i mycket större skala. Att kunna se hur algoritmer riktar in sig på och spårar människor för att göra saker som att visa annonser eller justera priset på försäkringar och andra produkter kommer sannolikt att vara avgörande om medborgarrättsgrupper och tillsynsmyndigheter ska hålla jämna steg med utvecklingen av hur företag använder data, säger hon .
En rapport från Vita huset om effekterna av big data förra året kom till liknande slutsatser. Dataanalys har potentialen att överskugga långvariga skydd för medborgerliga rättigheter i hur personlig information används i bostäder, kredit, anställning, hälsa, utbildning och på marknaden, heter det.