Glöm falska nyheter – nästan alla deepfakes görs för porr

Kategori: Teknisk policy Postad 07 okt

Internet är hem för minst 14 678 deepfakes, enligt a ny rapport från DeepTrace , ett företag som bygger verktyg för att upptäcka syntetiska medier. Men de flesta av dem skapades inte för att bråka med val.

Tillbaka till början: Deepfakes kom till platsen i slutet av 2017. Ordet användes ursprungligen för att beskriva AI-genererad falsk porr , med skådespelerskors huvuden på kroppar av vuxna filmstjärnor. Sedan dess har innebörden av deepfakes utökats till att hänvisa till vilken typ av manipulerad video som helst, som en med Mark Zuckerberg som håller ett falskt tal om Facebook. Detta har väckt farhågor om slutet på sanningen och potentialen för djupförfalskningar för att förändra valen.

Internet är till för porr: Rapporten fann att de flesta av videorna inte handlar om att försöka påverka politiken. Hela 96% av deepfakes var fortfarande vanlig gammal falsk porr. Deepfake pornografi är ett fenomen som uteslutande riktar sig till och skadar kvinnor, skriver författarna. All falsk porr innehöll kvinnor, mestadels kända skådespelerskor och musiker. (De återstående icke-pornografiska deepfakes på YouTube inkluderade mestadels män.) Siffran i sig är inte så hög, men det är oroande att det växer så snabbt.

Slåss tillbaka med lagen: Frågan har fångat lagstiftarnas uppmärksamhet. I Kalifornien, guvernör Gavin Newsom precis undertecknat två lagförslag som begränsar vad folk kan göra med deepfakes. En lag gör det olagligt att göra och distribuera en skadlig deepfake av en politiker inom två månader efter ett val. (ACLU och Electronic Frontier Foundation har redan trängt tillbaka och sagt att Lagen är för bred och kommer att skada politiskt tal .) Den andra deepfake lagen kommer närmare hur manipulationerna verkligen används. Det låter folk stämma om deras bild används i deepfake porr utan samtycke .