211service.com
Denna start hävdar att dess deepfakes kommer att skydda din integritet
D-ID D-ID
Som ordspråket säger: Om det ser ut som en anka, simmar som en anka och kvackar som en anka, är det förmodligen en anka. Nu, om någon i ett videoklipp är av samma ras, kön och ålder som du, har samma gester och känslomässiga uttryck som du – och i själva verket är baserad på dig – men inte riktigt ser ut som du … är är det fortfarande du?
Nej, enligt Gil Perry, medgrundare av det israeliska integritetsföretaget D-ID . Och det, hävdar han, är därför hans startup fungerar. D-ID tar videofilmer – till exempel tagna av en kamera inne i en butik – och använder datorseende och djupinlärning för att skapa ett alternativ som skyddar motivets identitet. Processen förvandlar du i videon till en avatar som har samma egenskaper men som ser lite annorlunda ut.
Fördelen för företag är att denna nya, anonymiserade video inte längre ger bort den exakta identiteten på en kund – vilket, säger Perry, innebär att företag som använder D-ID kan eliminera behovet av samtycke och analysera materialet för affärs- och marknadsföringsändamål. En butik kan till exempel mata video av en vit kvinna som ser glad ut till en algoritm som kan visa upp den mest effektiva annonsen för henne i realtid. (Det är värt att notera att legitimiteten för känslomässig igenkänning har ifrågasatts, med en framstående AI-forskargrupp som nyligen krävde att användningen av den skulle förbjudas helt.)
Exempel på D-ID:s smarta anonymiseringstjänst visar varierande framgångsnivåer när det gäller att dölja identitet i video. I en demonstration , den tidigare brittiske premiärministern David Cameron ser lite ut som David Cameron med mustasch. I en annan stillbild , en kvinna ser något annorlunda ut, men de två bilderna verkar fortfarande oroande lika. I en tredje, Brad Pitt blir oigenkännlig.
D-ID skulle inte nämna särskilda kunder som använder dess teknik, men Perry sa att företaget huvudsakligen arbetar med återförsäljare, bilföretag och stora konglomerat som distribuerar CCTV i Europa. Ann Cavoukian, en D-ID rådgivande styrelsemedlem och tidigare integritetskommissionär för den kanadensiska provinsen Ontario, säger att lösningen är en total win-win.
Andra experter säger dock att företaget misstolkar Europas allmänna dataskyddsregel, inte gör vad det ska och – även om det gör det – förmodligen inte borde göra det ändå.
Brott mot GDPR?
Tre ledande europeiska integritetsexperter som talade med MIT Technology Review uttryckte sin oro över D-ID:s teknik och dess avsikter. Alla säger att D-ID, enligt deras åsikt, faktiskt bryter mot GDPR. (Det kan dock vara lagligt i områden utanför EU.)
Ras är en speciell kategori under GDPR, vilket innebär att behandling av data som drar slutsatsen att ras är olagligt utan uttryckligt medgivande, förklarar Gaëtan Goldberg, en datasekretessjurist med GDPR-vakthunden NOYB. Brott mot GDPR-reglerna kan resultera i böter på 20 miljoner euro eller 4 % av ett företags årliga intäkter, beroende på vilket som är högst.
När David Mirchin, en integritetsadvokat som ger råd till D-ID, ställde sig inför dessa farhågor, höll inte han med experterna. Han hävdar att det aldrig finns en punkt där D-ID:s Smart Anonymization-lösning analyserar, avslöjar eller lagrar den här typen av känslig data. Perry tillägger att D-ID gärna anonymiserar etnicitetsdata också. De utomstående advokaterna hävdar dock att det är en kränkning att bara upptäcka ansiktena, oavsett om de ska anonymiseras eller inte.
Perry och Mirchin hävdar också att det är okej att mata anonymiserad biometrisk data till algoritmer. Men även om GDPR inte gäller anonym data, anonymiserar startupen faktiskt inte videon i alla fall, säger Michael Veale, en integritetsexpert vid University College London. Den förvrängda videon skulle inte anses vara anonym enligt GDPR. Med verkligt anonyma data kan en del information inte länkas tillbaka till en viss individ även om den kombineras med annan data. Det är en hög ribba.
Men även om ändrade bilder inte ser exakt ut som dig, kan de kombineras med annan information – platsdata hämtad från till exempel sociala medier eller kreditkortsregister – och spåras tillbaka. Dessutom, säger Veale, skulle tekniken fortfarande inte automatiskt ge företag carte blanche att återanvända CCTV för ganska oseriösa affärsändamål som inte är något med ett allvarligt allmänintresse, som att bekämpa brott.
Lagens ande
Att D-ID positionerar sig som en integritetslösning är avslöjande. Eftersom delar av nya dataskyddslagar som GDPR och California Consumer Privacy Act fortfarande är öppna för tolkning, visar vissa företag sig vara geniala på att marknadsföra sig själva. Dessa teknologier följer reglerna på ett sätt som gynnar de företag som vill tjäna pengar på data, snarare än de personer vars data fångas in. Detta är ett brott mot lagens anda, säger kritiker. Britt Paris, forskare inom informationsvetenskap vid Rutgers University, kallar D-ID exploaterande och ett exempel på ytterligare intrång i vardagslivets datafikering.
Men Cavoukian, styrelseledamot i D-ID, säger att hon inte är en integritetsfundamentalist och tycker att det inte är något fel med att samla in data så länge som människors exakta identiteter är skymd.
Om du inte vill att någon data samlas in om dig alls, i denna tid, även om det inte finns något integritetsproblem eftersom dina identifierare har tagits bort, kommer du inte att kunna gå utanför ditt hus särskilt långt, hon säger. Det är dagens realiteter.
Övervakningen blir mer och mer utbredd. En nyligen genomförd Pew-studie fann att de flesta amerikaner tror att de ständigt spåras men inte kan göra mycket åt det, och marknaden för ansiktsigenkänning förväntas växa från cirka 4,5 miljarder dollar 2018 till 9 miljarder dollar till 2024 . Ändå hindrar övervakningens verklighet inte aktivister från att slå tillbaka. D-ID kan se sig själv som en mellanväg mellan sekretesspurism och att samla in rådata, men utan tekniken kanske företag som omfattas av GDPR inte skulle använda denna videodata alls.
Dessa regler är till för ett syfte, eller hur? säger Lilian Edwards, en GDPR-expert vid Newcastle Law School. [D-ID] säger 'Samla in visuell data samtidigt som du följer integritetsbestämmelserna' och vad det egentligen betyder är 'Samla in visuella data samtidigt som du undviker integritetsbestämmelser.' Du vet, lagen är faktiskt inte helt dum.