211service.com
Hur man förgiftar data som Big Tech använder för att övervaka dig
Eric Risberg / AP
Varje dag lämnar ditt liv ett spår av digitala brödsmulor som teknikjättar använder för att spåra dig. Du skickar ett mail, beställer lite mat, streamar en show. De får tillbaka värdefulla datapaket för att bygga upp sin förståelse för dina preferenser. Denna data matas in i maskininlärningsalgoritmer för att rikta in dig med annonser och rekommendationer. Google tjänar in din data för över 120 miljarder USD per år i annonsintäkter.
I allt högre grad kan vi inte längre välja bort detta arrangemang. 2019 försökte Kashmir Hill, som då var reporter för Gizmodo, göra det klippte fem stora teknikjättar ur hennes liv . Hon tillbringade sex veckor med att vara olycklig och kämpade för att utföra grundläggande digitala funktioner. Under tiden kände teknikjättarna inte ens en klåda.
Nu föreslår forskare vid Northwestern University nya sätt att åtgärda denna maktobalans genom att behandla vår kollektiv data som ett förhandlingskort. Tekniska jättar kan ha snygga algoritmer till sitt förfogande, men de är meningslösa utan tillräckligt med rätt data att träna på.
I ett nytt papper presenteras på Association for Computing Machinery's Konferens för rättvisa, ansvarighet och öppenhet nästa vecka föreslår forskare inklusive doktorander Nicholas Vincent och Hanlin Li tre sätt som allmänheten kan utnyttja detta till sin fördel:
- Data strejker , inspirerad av idén om arbetsstrejker, som innebär att undanhålla eller radera din data så att ett tekniskt företag inte kan använda det – att lämna en plattform eller installera sekretessverktyg, till exempel.
- Dataförgiftning , vilket innebär att bidra med meningslös eller skadlig data. AdNauseam , till exempel, är ett webbläsartillägg som klickar på varje enskild annons som visas för dig, vilket förvirrar Googles annonsinriktningsalgoritmer.
- Medvetet databidrag , vilket innebär att ge mening full data till konkurrenten till en plattform du vill protestera på, till exempel genom att ladda upp dina Facebook-bilder till Tumblr istället.
Människor använder redan många av dessa taktiker för att skydda sin egen integritet. Om du någonsin har använt en annonsblockerare eller ett annat webbläsartillägg som modifierar dina sökresultat för att utesluta vissa webbplatser, har du ägnat dig åt datastrejk och återkrävt någon byrå för användningen av din data. Men som Hill upptäckte gör sporadiska individuella handlingar som dessa inte mycket för att få tekniska jättar att förändras deras beteenden.
Tänk om miljontals människor skulle samordna sig för att förgifta en teknikjättes data väl? Det kan bara ge dem lite hävstång för att hävda sina krav.
Det kan redan ha funnits några exempel på detta. I januari raderade miljontals användare sina WhatsApp-konton och flyttade till konkurrenter som Signal och Telegram efter att Facebook meddelat att de skulle börja dela WhatsApp-data med resten av företaget. Utvandringen fick Facebook att dröjsmål dess policy ändras.
Bara den här veckan, Google även meddelat att det skulle sluta spåra individer på webben och rikta annonser mot dem. Även om det är oklart om detta är en verklig förändring eller bara en omprofilering, säger Vincent, är det möjligt att den ökade användningen av verktyg som AdNauseam bidrog till det beslutet genom att försämra effektiviteten av företagets algoritmer. (Naturligtvis är det i slutändan svårt att säga. Den enda personen som verkligen vet hur effektivt en datahävstångsrörelse påverkade ett system är teknikföretaget, säger han.)
Vincent och Li tror att dessa kampanjer kan komplettera strategier som policyförespråkande och arbetarorganisering i rörelsen för att motstå Big Tech.
Det är spännande att se den här typen av arbete, säger Ali Alkhatib, en forskare vid University of San Franciscos Center for Applied Data Ethics, som inte var involverad i forskningen. Det var verkligen intressant att se dem tänka på den kollektiva eller holistiska synen: vi kan bråka med brunnen och ställa krav med det hotet, för det är vår data och allt går in i det här bra tillsammans.
Relaterad berättelse
Det var så vi tappade kontrollen över våra ansikten Den största studien någonsin av ansiktsigenkänningsdata visar hur mycket ökningen av djupinlärning har lett till en förlust av integritet.
Det finns fortfarande arbete att göra för att göra dessa kampanjer mer utbredda. Datavetare skulle kunna spela en viktig roll i att göra fler verktyg som till exempel AdNauseam, vilket skulle hjälpa till att minska barriären för att delta i sådana taktiker. Politiker kan också hjälpa till. Datastrejker är mest effektiva när de förstärks av starka dataskyddslagar, såsom EU:s allmänna dataskyddsförordning (GDPR), som ger konsumenter rätt att begära radering av sina uppgifter. Utan sådan reglering är det svårare att garantera att ett teknikföretag ger dig möjligheten att rensa dina digitala register, även om du tar bort ditt konto.
Och några frågor återstår att besvara. Hur många personer behöver en datastrejk för att skada ett företags algoritm? Och vilken typ av data skulle vara mest effektiv för att förgifta ett visst system? I en simulering som involverade en filmrekommendationsalgoritm, till exempel, fann forskarna att om 30 % av användarna gick ut i strejk kunde det minska systemets noggrannhet med 50 %. Men varje maskininlärningssystem är olika, och företag uppdaterar dem ständigt. Forskarna hoppas att fler i maskinlärande community kan köra liknande simuleringar av olika företags system och identifiera deras sårbarheter.
Alkhatib föreslår att forskare bör forska mer om hur man också kan inspirera till kollektiv datahandling. Kollektivt agerande är riktigt svårt, säger han. Att få människor att följa upp pågående åtgärder är en utmaning. Och sedan finns det utmaningen hur man får en grupp människor som är väldigt övergående – i det här fallet kan det vara människor som använder en sökmotor i fem sekunder – att se sig själva som en del av en gemenskap som faktiskt har lång livslängd?
Denna taktik kan också ha nedströms konsekvenser som kräver noggrann granskning, tillägger han. Kan dataförgiftning bara lägga till mer arbete för innehållsmoderatorer och andra personer som har till uppgift att rengöra och märka företagens utbildningsdata?
Men totalt sett är Vincent, Li och Alkhatib optimistiska om att datainflytande kan bli ett övertygande verktyg för att forma hur teknikjättar behandlar vår data och vår integritet. AI-system är beroende av data. Det är bara ett faktum om hur de fungerar, säger Vincent. I slutändan är det ett sätt som allmänheten kan få makt.