211service.com
Den amerikanska militären finansierar ett försök att fånga deepfakes och andra AI-trick
Tror du att AI kommer att hjälpa till att sätta stopp för falska nyheter? Den amerikanska militären är inte så säker.
Försvarsdepartementet finansierar ett projekt som kommer att försöka avgöra om den allt mer verkliga falska videon och ljudet som genereras av artificiell intelligens snart kan vara omöjligt att skilja från den äkta varan - även för ett annat AI-system.
I somras, under ett projekt finansierat av Defense Advanced Research Projects Agency (DARPA) , kommer världens ledande digitala kriminaltekniska experter att samlas för en falsk AI-tävling. De kommer att tävla om att skapa den mest övertygande AI-genererade falska videon, bilderna och ljudet – och de kommer också att försöka utveckla verktyg som kan fånga dessa förfalskningar automatiskt.
Tävlingen kommer att innehålla så kallade deepfakes, videor där en persons ansikte sys fast på en annan persons kropp. Snarare förutsägbart har tekniken redan använts för att generera ett antal förfalskade kändisporrfilmer. Men metoden skulle också kunna användas för att skapa ett klipp av en politiker som säger eller gör något upprörande.
DARPAs teknologer är särskilt oroade över en relativt ny AI-teknik som kan göra AI-falsk nästan omöjlig att upptäcka automatiskt. Genom att använda så kallade generativa motstridiga nätverk, eller GAN, är det möjligt att generera fantastiskt realistiska konstgjorda bilder.
Teoretiskt, om du gav ett GAN alla tekniker vi känner för att upptäcka det, skulle det kunna klara alla dessa tekniker, säger David Gunning, DARPA-programledaren som ansvarar för projektet. Vi vet inte om det finns en gräns. Det är oklart.
Ett GAN består av två komponenter. Den första, känd som skådespelaren, försöker lära sig de statistiska mönstren i en datamängd, till exempel en uppsättning bilder eller videor, och genererar sedan övertygande syntetiska data. Den andra, kallad kritikern, försöker skilja på verkliga och falska exempel. Feedback från kritikern gör det möjligt för skådespelaren att producera allt mer realistiska exempel. Och eftersom GAN redan är designade för att överlista ett AI-system är det oklart om något automatiskt system kan fånga dem.
GAN:er är relativt nya, men de har tagit maskininlärningsscenen med storm (se The GANfather: The man who's given machines the gift of imagination). De kan redan användas för att drömma om mycket realistiska imaginära kändisar eller för att övertygande modifiera bilder genom att ändrar en rynka pannan till ett leende eller förvandla natt till dag.
Att upptäcka en digital förfalskning innebär vanligtvis tre steg. Den första är att undersöka den digitala filen för tecken på att två bilder eller videor har skarvats samman. Det andra är att titta på belysningen och andra fysiska egenskaper hos bilderna efter tecken på att något är fel. Den tredje – som är svårast att göra automatiskt, och förmodligen svårast att besegra – är att överväga logiska inkonsekvenser, som fel väder för det tänkta datumet eller felaktig bakgrund för den förmodade platsen.
Walter Scheirer , en digital forensicsexpert vid University of Notre Dame som är involverad i DARPA-projektet, säger att tekniken har kommit en överraskande lång väg sedan initiativet lanserades för ett par år sedan. Vi är definitivt i en kapprustning, säger han.
Även om det länge har varit möjligt för en skicklig grafikexpert att producera övertygande förfalskningar, kommer AI att göra tekniken mycket mer tillgänglig. Det har gått från statligt sponsrade skådespelare och Hollywood till någon på Reddit, säger Hany Farid , en professor vid Dartmouth som är specialiserad på digital forensics. Det brådskande vi känner nu är att skydda demokratin.
Deepfakes använder en populär maskininlärningsteknik som kallas djupinlärning för att automatiskt infoga ett nytt ansikte i en befintlig video. När stora mängder data matas in i ett mycket stort eller djupt simulerat neuralt nätverk kan en dator lära sig att utföra alla möjliga användbara uppgifter, till exempel mycket exakt ansiktsigenkänning. Men samma tillvägagångssätt gör skadlig videomanipulation också lättare. Ett verktyg som släpps online låter alla med blygsam teknisk expertis skapa nya deepfakes. Och skaparen av det verktyget berättade Moderkort att en ännu mer användarvänlig version är på gång.
Problemet sträcker sig naturligtvis långt bortom ansiktsbyte. Experter säger allt oftare att det snart kan vara mycket svårare att veta om ett foto, en video eller ett ljudklipp har genererats av en maskin. Google har till och med utvecklat ett verktyg som heter Duplex som använder AI för att fejka ett telefonsamtal.
aviv ovadya , chefsteknolog vid University of Michigans Center for Social Media Responsibility, oroar sig för att de AI-tekniker som nu utvecklas kan användas för att skada någons rykte, påverka ett val eller ännu värre. Dessa teknologier kan användas på underbara sätt för underhållning, och även många mycket skrämmande sätt, sa Ovadya vid en 15 maj. händelse organiserad av Bloomberg . Du har redan modifierade bilder som används för att orsaka verkligt våld i utvecklingsländerna, sa han. Det är en verklig och aktuell fara.
Om teknik inte kan användas för att fånga förfalskningar och desinformation kan det bli en push att använda lagen istället. Faktum är att Malaysia införde lagar mot falska nyheter i april. Dartmouths Farid säger dock att detta i sig kan visa sig vara problematiskt eftersom sanningen i sig är ett halt ämne. Hur definierar du falska nyheter? Det är inte så lätt som man kan tro, säger han. Jag kan beskära en bild och ändra en bild i grunden. Och vad gör man med Lök ?