Ett nytt verktyg för deepfake-detektering borde hålla världsledare säkra – för nu

En bild av deepfake och imiterande exempel av Barak Obama University of California, Berkeley

En AI-producerad video skulle kunna visa Donald Trump säga eller göra något extremt upprörande och inflammatoriskt. Det skulle vara alldeles för trovärdigt, och i värsta fall kan det påverka ett val, utlösa våld på gatorna eller utlösa en internationell väpnad konflikt.

Lyckligtvis en ny digital forensics teknik lovar att skydda president Trump, andra världsledare och kändisar mot sådana djupa förfalskningar – åtminstone för närvarande. Den nya metoden använder maskininlärning för att analysera en specifik individs talstil och rörelse, vad forskarna kallar en mjukbiometrisk signatur.

Forskarna, från UC Berkeley och University of Southern California, använde ett befintligt verktyg för att extrahera ansikts- och huvudrörelser hos individer. De skapade också sina egna deepfakes för Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren och Hillary Clinton med hjälp av generativa motståndsnätverk.

Teamet använde sedan maskininlärning för att särskilja huvud- och ansiktsrörelserna som kännetecknar den verkliga personen. Dessa subtila signaler – kanske sättet Bernie Sanders nickar när han säger ett visst ord, eller hur Trump ler efter en comeback – är för närvarande inte modellerade av djupfalska algoritmer.

I experiment var tekniken minst 92 % korrekt när det gällde att upptäcka flera varianter av deepfakes, inklusive ansiktsbyten och sådana där en imitator använder en digital docka. Den kunde också hantera artefakter i filerna som kommer från omkomprimering av en video, vilket kan förvirra andra upptäcktstekniker. Forskarna planerar att förbättra tekniken genom att även ta hänsyn till egenskaper hos en persons tal. Forskningen, som presenterades vid en datorseende konferens i Kalifornien denna vecka, finansierades av Google och DARPA, en forskningsavdelning inom Pentagon. DARPA finansierar ett program för att utveckla bättre detektionstekniker.

Problemet för världsledare (och alla andra) är att det har blivit löjligt enkelt att generera videoförfalskningar med artificiell intelligens. Falska nyhetsrapporter, falska konton i sociala medier och manipulerade videor har redan undergrävt politisk nyhetsbevakning och diskurs. Politiker är särskilt oroade över att falska medier kan användas för att så desinformation under presidentvalet 2020.

Vissa verktyg för att fånga deepfake-videor har redan producerats, men förfalskare har snabbt anpassat sig. Till exempel var det ett tag möjligt att upptäcka en deepfake genom att spåra talarens ögonrörelser, vilket tenderade att vara onaturligt vid deepfake. Kort efter att den här metoden identifierats, justerades dock deepfake-algoritmer för att inkludera bättre blinkning.

Vi bevittnar en kapprustning mellan digitala manipulationer och förmågan att upptäcka dessa, och framstegen med AI-baserade algoritmer katalyserar båda sidor, säger Hao Li, professor vid University of Southern California och VD för Pinscreen som hjälpte till att utveckla den nya tekniken. Av denna anledning har hans team ännu inte släppt koden bakom metoden .

Li säger att det kommer att vara särskilt svårt för deepfake-makare att anpassa sig till den nya tekniken, men han medger att de förmodligen kommer att göra det så småningom. Nästa steg för att gå runt denna form av upptäckt skulle vara att syntetisera rörelser och beteenden baserat på tidigare observationer av just den här personen, säger han.

Li säger också att när deepfakes blir lättare att använda och kraftfullare kan det bli nödvändigt för alla att överväga att skydda sig själva. Kändisar och politiska personer har varit de främsta måltavlan hittills, säger han. Men jag skulle inte bli förvånad om konstgjorda människor som ser oskiljaktiga ut från riktiga om ett eller två år kan syntetiseras av vilken slutanvändare som helst.

Dölj