211service.com
Världens främsta deepfake-artist: 'Wow, det här utvecklas snabbare än jag trodde.'
Skärmbild från Putin deepfake Deepfake av Hao Li
AI-driven deepfake-videoteknik utvecklas snabbare än till och med några av världens främsta experter trodde var möjligt.
Dess fantastiska bana betyder att inom några år kan perfekta och praktiskt taget oupptäckbara djupfalskningar vara möjliga, sa Hao Li, en djupfalskpionjär och docent vid University of Southern California, idag vid MIT Technology Reviews EmTech-konferens.
Li samarbetar nära med Hany Farid från UC Berkeley, en av världens bästa digitala forensiker. Samarbetet återspeglar både konkurrens – trots allt är Farids jobb att upptäcka den typ av djupa förfalskningar Li skapar – och, i en större mening, nära samarbete.
Justin Saglio
Vi arbetar tillsammans på ett tillvägagångssätt som förutsätter att deepfakes kommer att vara perfekta, sa Li. Vår gissning att om två till tre år kommer det att vara perfekt. Det kommer inte att finnas något sätt att säga om det är verkligt eller inte, så vi måste ta ett annat tillvägagångssätt.
Li driver också en startup som heter Pinscreen fokuserad på affärs- och underhållningsanvändning av tekniken. Hans team låg bakom trolldomen som satte Paul Walker in i Furious 7 , en del av filmen Fast and Furious, efter att Walker dog i en bilolycka. Som ett tecken på att Hollywoods knackningar blir starkare arbetar han för närvarande på ett Will Smith-filmprojekt. Men Li har komplexa känslor om framtiden för den teknik han arbetar så nära med.
En teori om varför det inte har orsakat ännu mer skada är helt enkelt för att kvaliteten inte är där ännu, sa Li. Men det kommer att komma dit. Och en andra teori är att tekniken fortfarande kräver lite arbete från användarna för att skapa riktigt bra deepfakes. Men det är roligt eftersom jag för några månader sedan sa att det kan dröja år till det ögonblicket då det är lätt för vem som helst att göra det här. Ingen insåg att det fanns den här kinesiska appen som kom ut en vecka senare. Jag tänkte: 'Wow, det här utvecklas snabbare än jag trodde.'
Appen är Zao , ett ansiktsbytesprogram som, med ett enda fotografi, låter dig placera dig i stora tv-program och filmer. Appen, som är monstruöst populär i Kina, är i centrum för en debatt om integritet och oavsiktliga konsekvenser.
Det är ett kraftfullt verktyg som sköt upp till toppen av Kinas App Store av uppenbara skäl. Vem vill inte bli Leonardo DiCaprio omedelbart?
Är det perfekt? Långt ifrån. Men det faktum att så mycket kan göras inom några sekunder på någons smartphone signalerar hur snabbt deepfake-tekniken går framåt – och hur många avgörande frågor som förblir obesvarade.