Försvarsdepartementet har tagit fram de första verktygen för att fånga deepfakes

SUNY SUNY

De första kriminaltekniska verktygen för att fånga hämndporr och falska nyheter skapade med AI har utvecklats genom ett program som drivs av det amerikanska försvarsdepartementet.

Kriminaltekniska experter har skyndat sig att hitta sätt att upptäcka videor syntetiserade och manipulerade med hjälp av maskininlärning eftersom tekniken gör det mycket lättare att skapa övertygande falska videor som kan användas för att så desinformation eller trakassera människor.

Den vanligaste tekniken för att skapa falska videor innebär att man använder maskininlärning för att byta ut en persons ansikte mot en annans. De resulterande videorna, kända som deepfakes, är enkla att göra och kan vara förvånansvärt realistiskt . Ytterligare justeringar, gjorda av en skicklig videoredigerare, kan få dem att verka ännu mer verklig .

Videolurar innebär att man använder en maskininlärningsteknik som kallas generativ modellering, som låter en dator lära sig av riktiga data innan den producerar falska exempel som är statistiskt lika. En ny vändning på detta innebär att två neurala nätverk, kända som generativa motstridiga nätverk, arbetar tillsammans för att producera allt mer övertygande förfalskningar (se The GANfather: The man who's given machines the gift of imagination ).

Verktygen för att fånga deepfakes utvecklades genom ett program – som drivs av US Defense Advanced Research Projects Agency (DARPA) – som heter Media Forensics . Programmet skapades för att automatisera befintliga kriminaltekniska verktyg, men har nyligen riktat uppmärksamheten mot AI-tillverkade förfalskning.

'Vi har upptäckt subtila ledtrådar i nuvarande GAN-manipulerade bilder och videor som gör att vi kan upptäcka förekomsten av förändringar, säger Matthew Turek, som driver programmet Media Forensics.

Tucker Carlson får sin egen Nicolas Cage-makeover. Universitetet i Albany, SUNY

En anmärkningsvärt enkel teknik utvecklades av ett team ledd av Siwei Lyu , en professor vid State University of New York i Albany, och en av hans studenter. Vi genererade cirka 50 falska videor och provade en massa traditionella kriminaltekniska metoder. De fungerade på och av, men inte särskilt bra, säger Lyu.

Sedan, en eftermiddag, medan han studerade flera deepfakes, insåg Lyu att ansiktena som gjordes med deepfakes sällan, om aldrig, blinkar. Och när de blinkar är ögonrörelsen onaturlig. Detta beror på att deepfakes tränas på stillbilder, som tenderar att visa en person med hans eller hennes ögon öppna.

Andra som är involverade i DARPA-utmaningen utforskar liknande knep för att automatiskt fånga deepfakes: konstiga huvudrörelser, udda ögonfärg, och så vidare. Vi arbetar med att utnyttja den här typen av fysiologiska signaler som åtminstone för närvarande är svåra för deepfakes att efterlikna, säger Hany Farid , en ledande digital forensicsexpert vid Dartmouth College.

DARPAs Turek säger att byrån kommer att köra fler tävlingar för att säkerställa att teknikerna under utveckling kan upptäcka de senaste teknikerna.'

Ankomsten av dessa kriminaltekniska verktyg kan helt enkelt signalera början på en AI-driven kapprustning mellan videoförfalskare och digitala letare. Ett nyckelproblem, säger Farid, är att maskininlärningssystem kan tränas för att utmanövrera forensiska verktyg.

Lyu säger att en skicklig förfalskare kunde ta sig runt sitt ögonblinkande verktyg helt enkelt genom att samla in bilder som visar en person som blinkar. Men han tillägger att hans team har utvecklat en ännu effektivare teknik, men säger att han håller det hemligt för tillfället. Jag väntar hellre åtminstone en liten stund, säger Lyu. Vi har ett litet övertag gentemot förfalskarna just nu, och vi vill behålla den fördelen.

Dölj