Äkta eller falsk? AI gör det väldigt svårt att veta

Nyhetsrubriker kanske inte är det enda som är falska i framtiden.

Kraftfulla maskininlärningstekniker (se The Dark Secret at the Heart of AI) gör det allt lättare att manipulera eller generera realistisk video och ljud, och att imitera vem du vill med otrolig noggrannhet.

En smartphone-app som heter FaceApp , nyligen släppt av ett företag baserat i Ryssland, kan automatiskt modifiera någons ansikte för att lägga till ett leende, lägga till eller subtrahera årtal eller byta kön. Appen kan också applicera förskönande effekter som inkluderar utjämning av rynkor och, mer kontroversiellt, ljusning av huden.

Och förra veckan ringde ett företag Lyrebird , som snurrades ut från University of Montreal, visade teknik som den säger kan användas för att imitera en annan persons röst. Företaget publicerade demonstrationsklipp av Barack Obama, Donald Trump och Hillary Clinton som alla stödde tekniken.

Det här är bara två exempel på hur de mest kraftfulla AI-algoritmerna kan användas för att generera innehåll istället för att bara analysera data.

Kraftfull grafikhårdvara och mjukvara, såväl som ny videoinspelningsteknik, driver också denna trend. Förra året visade forskare vid Stanford University ett ansiktsbyteprogram som heter Face2Face . Det här systemet kan manipulera videofilmer så att en persons ansiktsuttryck matchar någon som spåras med hjälp av en djupavkännande kamera. Resultatet är ofta kusligt realistiskt.

Förmågan att manipulera röster och ansikten så realistiskt skulle kunna väcka ett antal problem, vilket skaparna av Lyrebird erkänner.

Röstinspelningar anses för närvarande som starka bevis i våra samhällen och i synnerhet i jurisdiktioner i många länder, lyder ett etiskt uttalande som lagts ut på företagets webbplats. Vår teknologi ifrågasätter giltigheten av sådana bevis eftersom den gör det enkelt att manipulera ljudinspelningar. Detta kan potentiellt få farliga konsekvenser.

Både FaceApp och Lyrebird använder djupa generativa konvolutionella nätverk för att möjliggöra dessa trick. Det betyder att företaget tillämpar en teknik som har dykt upp de senaste åren som ett sätt att få algoritmer att gå längre än att bara lära sig att klassificera saker och generera sin egen trovärdiga data.

Liksom många uppgifter inom artificiell intelligens idag, innebär detta att man använder mycket stora, eller djupa, neurala nätverk. Sådana nätverk matas normalt med träningsdata och anpassas så att de svarar på önskat sätt på ny input. De kan till exempel tränas i att känna igen ansikten eller föremål i bilder med otrolig noggrannhet.

Men samma nätverk kan sedan fås att generera sin egen data baserat på vad som kunde internalisera om datamängden de utbildades på.

Det går att träna ett sådant nätverk till skapa bilder från grunden som nästan ser ut som den äkta varan. I framtiden, med samma tekniker, kan det bli mycket lättare att manipulera video också. Vid någon tidpunkt är det troligt att det blir möjligt att generera hela videor med neurala nät, säger Alexandre de Brebisson , en av grundarna till Lyrebird. Det är mer utmanande eftersom det finns mycket variation i det högdimensionella utrymmet som representerar videor, och nuvarande modeller för det är fortfarande inte perfekta.

Med tanke på den teknik som nu växer fram kan det bli allt viktigare att kunna upptäcka falsk video och ljud.

Justus Thies , en doktorand vid Friedrich Alexander University i Tyskland och en av forskarna bakom Face2Face, appen för att byta ansikten i realtid, säger att han har startat ett projekt som syftar till att upptäcka manipulation av video. Mellanresultat ser lovande ut, säger han.

Dölj