Här är fem sätt på vilka deepfake-busting-teknik kan slå tillbaka

Kategori: Val 2020 Postad 16 dec

Deepfakes har blivit en symbol för slutet på sanningen och, för vissa, ett potentiellt verktyg för att förändra valen. (Tänk på att de flesta deepfakes fortfarande är falska porr.) Alla från den amerikanska regeringen till teknikjättar till startups försöker utveckla deepfake-busting-teknologi. Men a ny rapport från Witness idag , en ideell organisation som studerar syntetiska medier, påpekar hur dessa verktyg kan gå fel.

Teknikerna: Manipulerad video är inte ett nytt problem, och det finns massor av sociala problem som inte ens den bästa deepfake-detektorn kan fixa. (Om man till exempel vet att en video har redigerats svarar inte automatiskt på frågan om den ska tas ner. Tänk om det är satir?) Det har inte hindrat företag som Amber Video, Truepic och eWitness från att utveckla verifierade- at-capture eller controlled-capture-tekniker. Dessa använder en mängd olika tekniker för att signera, geotagga och tidsstämpla en bild eller video när den skapas. I teorin gör det det lättare att avgöra om media har manipulerats.

Vad är problemet? Vittnesrapporten beskriver 14 olika sätt att dessa tekniker faktiskt kan sluta vara skadliga. Några av de viktigaste:

— De verktyg som byggs skulle kunna användas för att övervaka människor
— Tekniska begränsningar kan hindra dessa verktyg från att fungera på platser där de behövs som mest (och de som använder gammal hårdvara kan lämnas kvar)
— Jailbreakade enheter kommer inte att kunna fånga verifierbart material
—Företag kan radera uppgifterna eller inte låta individer kontrollera dem
— Att kräva mer verifiering av media i domstol kan göra den rättsliga processen längre och dyrare

Så vad kan göras? Det finns ingen enkel lösning på dessa problem, säger Witness programchef Sam Gregory. De företag som bygger dessa teknologier måste ta itu med dessa frågor och tänka på de människor som är mest benägna att skadas, tillägger han. Det är också möjligt att själva bygga syntetiska medieverktyg på ett mer etiskt sätt. Teknikexperten Aviv Ovadya, till exempel, har idéer för hur man gör ansvarsfulla deepfake-verktyg. Företag kan göra sitt bästa för att kontrollera vilka kunder som får använda deras verktyg och uttryckligen bestraffa dem som bryter mot deras normer. Syntetiska medier av alla slag kommer att bli vanligare. Det kommer att krävas många olika taktiker för att hålla oss alla säkra.