Att radera oetiska datamängder är inte tillräckligt bra

Ms Tech | Pixabay

Under 2016, i hopp om att stimulera framsteg inom ansiktsigenkänning, släppte Microsoft den största ansiktsdatabasen i världen. Den kallas MS-Celeb-1M och innehöll 10 miljoner bilder av 100 000 kändisars ansikten. Kändis var dock löst definierad.

Tre år senare, forskarna Adam Harvey och Jules LaPlace sökte igenom datamängden och hittade många vanliga individer, som journalister, konstnärer, aktivister och akademiker, som upprätthåller en onlinenärvaro under sina professionella liv. Ingen hade gett sitt samtycke till att inkluderas, och ändå hade deras ansikten hittat sin väg in i databasen och vidare; forskning med hjälp av insamling av ansikten utfördes av företag inklusive Facebook, IBM, Baidu och SenseTime, en av Kinas största ansiktsigenkänningsjättar, som säljer sin teknologi till den kinesiska polisen.

Kort efter Harvey och LaPlaces utredning, och efter att ha tagit emot kritik från journalister , tog Microsoft bort datamängden och sa enkelt: Forskningsutmaningen är över. Men de integritetsproblem som det skapade finns kvar i ett evigt internetland. Och det här fallet är knappast det enda.

Att skrapa webben efter bilder och text ansågs en gång vara en uppfinningsrik strategi för att samla in verklig data. Nu har lagar som GDPR (Europas dataskyddsförordning) och den ökande allmänhetens oro för datasekretess och övervakning gjort praktiken juridiskt riskabel och olämplig. Som ett resultat har AI-forskare i allt högre grad dragit tillbaka de datamängder som de skapade på detta sätt.

Men en ny studie visar att detta har gjort lite för att förhindra att de problematiska uppgifterna sprider sig och används. Författarna valde ut tre av de vanligast citerade datamängderna som innehöll ansikten eller personer, varav två hade dragits tillbaka; de spårade hur var och en hade kopierats, använts och återanvänts i nära 1 000 tidningar.

När det gäller MS-Celeb-1M finns kopior fortfarande på tredjepartswebbplatser och i derivata datamängder som byggts ovanpå originalet. Modeller med öppen källkod som är förutbildade på data förblir också lätt tillgängliga. Datauppsättningen och dess derivat citerades också i hundratals artiklar publicerade mellan sex och 18 månader efter tillbakadragandet.

DukeMTMC, en datamängd som innehåller bilder av människor som går på Duke Universitys campus och drogs tillbaka samma månad som MS-Celeb-1M, finns på samma sätt kvar i härledda datamängder och hundratals pappersciteringar.

Listan över platser där uppgifterna dröjer sig kvar är mer omfattande än vi från början hade trott, säger Kenny Peng, sophomore vid Princeton och medförfattare till studien. Och även det, säger han, är förmodligen en underskattning, eftersom citat i forskningsartiklar inte alltid redogör för hur data kan användas kommersiellt.

Blivit galen

En del av problemet, enligt Princeton-tidningen, är att de som sätter ihop datamängder snabbt tappar kontrollen över sina skapelser.

Datauppsättningar som släppts för ett ändamål kan snabbt samordnas för andra som aldrig var avsedda eller föreställda av de ursprungliga skaparna. MS-Celeb-1M, till exempel, var tänkt att förbättra ansiktsigenkänning av kändisar men har sedan dess använts för mer allmän ansiktsigenkänning och analys av ansiktsdrag, fann författarna. Den har också märkts om eller ombearbetats i härledda datamängder som Racial Faces in the Wild, som grupperar sina bilder efter ras, vilket öppnar dörren till kontroversiella tillämpningar.

Relaterad berättelse

Det var så vi tappade kontrollen över våra ansikten

Den största studien någonsin av ansiktsigenkänningsdata visar hur mycket ökningen av djupinlärning har lett till en förlust av integritet.

Forskarnas analys tyder också på att Labeled Faces in the Wild (LFW), en datauppsättning som introducerades 2007 och den första att använda ansiktsbilder skrapade från internet , har förvandlats flera gånger under nästan 15 års användning. Medan det började som en resurs för att utvärdera ansiktsigenkänningsmodeller endast för forskning, används den nu nästan uteslutande för att utvärdera system avsedda för användning i den verkliga världen. Detta trots en varningsetikett på datamängdets webbplats som varnar för sådan användning.

På senare tid har datauppsättningen återanvänts i en derivata kallad SMFRD, som lade till ansiktsmasker till var och en av bilderna för att främja ansiktsigenkänning under pandemin. Författarna noterar att detta kan leda till nya etiska utmaningar. Sekretessförespråkare har kritiserat sådana ansökningar för att till exempel underblåsa övervakning – och särskilt för att möjliggöra regeringens identifiering av maskerade demonstranter.

Det här är ett riktigt viktigt dokument, eftersom människors ögon i allmänhet inte har varit öppna för komplexiteten, och potentiella skador och risker, med datamängder, säger Margaret Mitchell, en AI-etikforskare och ledare inom ansvarsfull datapraxis, som inte var involverad i studien.

Under lång tid har kulturen inom AI-gemenskapen varit att anta att data finns för att användas, tillägger hon. Detta dokument visar hur det kan leda till problem längre fram. Det är verkligen viktigt att tänka igenom de olika värdena som en datamängd kodar, såväl som de värden som kodar med en tillgänglig datauppsättning, säger hon.

En fix

Studieförfattarna ger flera rekommendationer för AI-gemenskapen framåt. För det första bör kreatörer kommunicera tydligare om den avsedda användningen av deras datamängder, både genom licenser och genom detaljerad dokumentation. De bör också sätta hårdare gränser för tillgången till sina uppgifter, kanske genom att kräva att forskare skriver under avtalsvillkor eller be dem att fylla i en ansökan, särskilt om de har för avsikt att konstruera en härledd datamängd.

För det andra bör forskningskonferenser fastställa normer om hur data ska samlas in, märkas och användas, och de bör skapa incitament för ansvarsfullt skapande av datamängder. NeurIPS, den största AI-forskningskonferensen, innehåller redan en checklista med bästa praxis och etiska riktlinjer.

Mitchell föreslår att ta det ännu längre. Som en del av BigScience-projektet , ett samarbete mellan AI-forskare för att utveckla en AI-modell som kan analysera och generera naturligt språk under en rigorös etisk standard, hon har experimenterat med idén att skapa datauppsättningsförvaltningsorganisationer – team av människor som inte bara hanterar kuration, underhåll, och användning av uppgifterna, men samarbetar också med advokater, aktivister och allmänheten för att se till att de följer lagliga standarder, samlas in endast med samtycke och kan tas bort om någon väljer att dra tillbaka personlig information. Sådana förvaltarskapsorganisationer skulle inte vara nödvändiga för alla datamängder – men absolut för skrapad data som kan innehålla biometrisk eller personligt identifierbar information eller immateriell egendom.

Datainsamling och övervakning är inte en engångsuppgift för en eller två personer, säger hon. Om du gör detta på ett ansvarsfullt sätt, delas det upp i massor av olika uppgifter som kräver djupt tänkande, djup expertis och en mängd olika människor.

Under de senaste åren har fältet allt mer rört sig mot tron ​​att mer noggrant sammanställda datamängder kommer att vara nyckeln till att övervinna många av branschens tekniska och etiska utmaningar. Det är nu uppenbart att det inte är tillräckligt att konstruera mer ansvarsfulla datamängder. De som arbetar inom AI måste också göra ett långsiktigt åtagande för att underhålla dem och använda dem etiskt.

Dölj