Deepfakes kan anonymisera människor i videor samtidigt som de behåller deras personlighet

Kategori: Artificiell intelligens Postad 17 sep

AI skulle kunna generera ansikten som matchar uttrycken hos anonyma försökspersoner för att ge dem integritet – utan att förlora sin förmåga att uttrycka sig.

Nyheterna: En ny teknik använder generative adversarial networks (GAN), tekniken bakom deepfakes, för att anonymisera någon i ett foto eller en video.

Hur det fungerar: Algoritmen extraherar information om personens ansiktsuttryck genom att hitta positionen för ögon, öron, axlar och näsa. Den använder sedan ett GAN, tränat på en databas med 1,5 miljoner ansiktsbilder, för att skapa ett helt nytt ansikte med samma uttryck och blanda in det i originalfotot och behålla samma bakgrund.

Tekniskt fel: Tekniken är utvecklad av forskare vid Norges teknisk-naturvetenskapliga universitet och är fortfarande mycket experimentell. Den fungerar på många typer av foton och ansikten, men snubblar fortfarande när ansiktet är delvis tilltäppt eller vänt i vissa vinklar. Tekniken är också mycket glitchy för video.

Annat arbete: Detta är inte den första AI-baserade ansiktsanonymiseringstekniken. Ett papper i februari från forskare vid University of Albany använde djupinlärning för att transplantera viktiga delar av en försökspersons ansiktsuttryck på någon annan. Den metoden krävde en samtyckande donator för att erbjuda sitt ansikte som den nya duken för uttrycken.

Varför det är viktigt: Ansiktsanonymisering används för att skydda någons identitet, till exempel en whistleblower, i bilder och filmer. Men traditionella tekniker, såsom suddighet och pixelering, riskerar att bli ofullständig (dvs. personens identitet kan upptäckas ändå) eller att helt ta bort personens personlighet (d.v.s. genom att ta bort ansiktsuttryck). Eftersom GAN:er inte alls använder motivets ursprungliga ansikte, eliminerar de alla risker för det tidigare problemet. De kan också återskapa ansiktsuttryck i hög upplösning och på så sätt erbjuda en lösning på det senare.

Inte alltid skurken: Tekniken visar också ett nytt värdeförslag för GAN, som har utvecklat ett dåligt rykte för att sänka barriären för att producera övertygande desinformation. Även om den här studien var begränsad till visuella medier, visar den i förlängningen hur GAN också kan tillämpas på ljud för att anonymisera röster.