Fake America bra igen

Inne i loppet för att fånga de oroväckande verkliga förfalskningarna som kan göras med hjälp av artificiell intelligens. Förbi

• Will Knight arkivsida

17 augusti 2018

Bruce Peterson

Gissa vad? Jag har precis fått tag på några pinsamma videofilmer där Texas senator Ted Cruz sjunger och snurrar till Tina Turner. Hans politiska fiender kommer att ha jättekul att visa det under mellanårsperioden. Donald Trump kommer att kalla honom Dancin’ Ted.

Okej, jag erkänner det – jag skapade videon själv. Men här är det oroande: att göra det krävde väldigt lite videoredigeringsförmåga. Jag laddade ner och konfigurerade programvara som använder maskininlärning för att utföra ett övertygande digitalt ansiktsbyte. Den resulterande videon, känd som en deepfake, visar Cruz distinkt hängande ögon fastsydda på egenskaperna hos skådespelaren Paul Rudd som gör läppsynkkaraoke. Det är inte perfekt – det är något som är lite fel – men det kan lura vissa människor.

Den här historien var en del av vårt septembernummer 2018

• Se resten av frågan
• Prenumerera

Fotoförfalskning är långt ifrån nytt, men artificiell intelligens kommer att förändra spelet helt. Tills nyligen kunde bara en filmstudio med stor budget genomföra en video-ansiktsbyte, och det skulle förmodligen ha kostat miljontals dollar. AI gör det nu möjligt för alla med en anständig dator och några timmar över att göra samma sak. Ytterligare framsteg inom maskininlärning kommer att göra ännu mer komplext bedrägeri möjligt – och göra fejk svårare att upptäcka.

Dessa framsteg hotar att ytterligare sudda ut gränsen mellan sanning och fiktion i politiken. Redan internet accelererar och förstärker spridningen av desinformation genom falska konton på sociala medier. Alternativa fakta och konspirationsteorier är vanliga och många tror. Falska nyheter, bortsett från deras eventuella inflytande på det senaste presidentvalet i USA, har utlöst etniskt våld i Myanmar och Sri Lanka under det senaste året. Föreställ dig nu att du slänger in nya sorters falska videor med ett riktigt utseende: politiker som pratar nonsens eller etniska förolämpningar, eller fastnar för att bete sig olämpligt på video – förutom att det aldrig riktigt hände.

Deepfakes har potential att spåra ur politisk diskurs, säger Charles Seife, professor vid New York University och författare till Virtuell overklighet: Bara för att internet sa till dig, hur vet du att det är sant? Seife erkänner till förvåning hur snabbt saker och ting har gått framåt sedan hans bok publicerades, 2014. Tekniken förändrar vår uppfattning av verkligheten i en alarmerande takt, säger han.

Är vi på väg att gå in i en era när vi inte kan lita på någonting, även videor med autentiskt utseende som verkar fånga riktiga nyheter? Hur avgör vi vad som är trovärdigt? Vem litar vi på?

Dessa stillbilder av Ted Cruz och Paul Rudd togs från filmerna som matades till ett ansiktsbyteprogram.

Riktigt fejk

Flera tekniker har konvergerat för att göra fejk lättare, och de är lättillgängliga: smartphones låter vem som helst fånga videofilmer, och kraftfulla datorgrafikverktyg har blivit mycket billigare. Lägg till programvara med artificiell intelligens, som gör att saker kan förvrängas, remixas och syntetiseras på nya sätt. AI är inte bara en bättre version av Photoshop eller iMovie. Det låter en dator lära sig hur världen ser ut och låter så att den kan trolla fram övertygande simulacra.

Jag skapade klippet av Cruz med OpenFaceSwap, ett av flera ansiktsbyteprogram som du kan ladda ner gratis. Du behöver en dator med ett avancerat grafikchip, och det kan ge dig några tusenlappar tillbaka. Men du kan också hyra åtkomst till en virtuell maskin för några cent per minut med hjälp av en molnmaskininlärningsplattform som Paperspace. Sedan matar du helt enkelt in två videoklipp och lutar dig tillbaka i några timmar medan en algoritm räknar ut hur varje ansikte ser ut och rör sig så att det kan mappa det ena på det andra. Att få saker att fungera är lite av en konst: om du väljer klipp som är för olika kan resultatet bli en mardrömslik sammanblandning av näsor, öron och hakor.

Men processen är lätt nog.

Att få saker att fungera är lite av en konst: om du väljer klipp som är för olika kan resultatet bli en sammanblandning av näsor, öron och hakor.

Ansiktsbyte antogs, förutsägbart, först för att göra porr. Under 2017 använde en anonym Reddit-användare känd som Deepfakes maskininlärning för att byta ut kända skådespelerskors ansikten till scener med vuxna filmstjärnor, och publicerade sedan resultaten på en subreddit tillägnad läckt kändisporr. En annan Reddit-användare släppte sedan ett lättanvänt gränssnitt, vilket ledde till en spridning av djupfalsk porr samt, av någon udda anledning, oändliga klipp av skådespelaren Nicolas Cage i filmer han inte riktigt var med i. Även Reddit, en notoriskt frihjulande hangout, förbjöd sådan pornografi utan samtycke. Men fenomenet består i de mörkare hörnen av internet.

OpenFaceSwap använder ett artificiellt neuralt nätverk, vid det här laget go-to-verktyget i AI. Mycket stora, eller djupa, neurala nätverk som matas med enorma mängder träningsdata kan göra alla möjliga användbara saker, inklusive att hitta en persons ansikte bland miljontals bilder. De kan också användas för att manipulera och syntetisera bilder.

OpenFaceSwap tränar ett djupt nätverk för att koda ett ansikte (en process som liknar datakomprimering), och skapar därigenom en representation som kan avkodas för att rekonstruera hela ansiktet. Tricket är att mata in kodad data för en sida i avkodaren för den andra. Det neurala nätverket kommer då att frammana, ofta med överraskande noggrannhet, ett ansikte som efterliknar det andras uttryck och rörelser. Den resulterande videon kan verka knäpp, men OpenFaceSwap kommer automatiskt att sudda ut kanterna och justera färgen på det nyligen transplanterade ansiktet för att få saker att se mer äkta ut.

Vänster: OpenFaceSwap förhandsgranskar försök till ansiktsbyten under träning. Tidiga försök kan ofta vara lite konstiga och groteska.

Höger: Mjukvaran tar flera timmar att producera ett bra ansiktsbyte. Ju mer träningsdata, desto bättre slutresultat.

Liknande teknik kan också användas för att återskapa någons röst. En startup som heter Lyrebird har lagt upp övertygande demos av Barack Obama och Donald Trump som säger helt påhittade saker. Lyrebird säger att det i framtiden kommer att begränsa sina röstdupliceringar till personer som har gett sin tillåtelse – men alla kommer säkert inte att vara så noggranna.

En startup har lagt upp övertygande demos av Barack Obama och Donald Trump som säger helt påhittade saker.

Det finns väletablerade metoder för att identifiera manipulerade bilder och video. Ett alternativ är att söka på webben efter bilder som kan ha mosats ihop. En mer teknisk lösning är att leta efter tydliga ändringar i en digital fil, eller till pixlarna i en bild eller en videoram. En expert kan söka efter visuella inkonsekvenser – en skugga som inte borde finnas där, eller ett objekt som har fel storlek.

Hany Farid från Dartmouth University, en av världens främsta experter, har visat hur en scen kan rekonstrueras i 3D för att upptäcka fysiska konstigheter. Han har också bevisat att subtila förändringar i pixelintensitet i en video, som indikerar en persons pulsfrekvens, kan användas för att upptäcka skillnaden mellan en riktig person och en datorgenererad. Nyligen har en av Farids tidigare studenter, nu professor vid State University of New York i Albany, visat att oregelbunden ögonblinkning kan ge bort ett ansikte som har manipulerats av AI.

Ändå kan de flesta inte göra den här typen av detektivarbete och har inte tid att studera varje bild eller klipp som dyker upp på Facebook. Så eftersom visuella förfalskningar har blivit vanligare, har det skett en push för att automatisera analysen. Och det visar sig att djupinlärning inte bara utmärker sig när det gäller att hitta på saker, den är idealisk för att granska bilder och videor för tecken på fejk. Denna ansträngning har dock bara precis börjat, och den kan i slutändan hindras av hur realistiska de automatiska förfalskningarna kan bli.

Nätverk av bedrägeri

En av de senaste idéerna inom AI-forskning handlar om att vända neurala nätverk mot sig själva för att producera ännu mer realistiska förfalskningar. Ett generativt motståndsnätverk, eller GAN, använder två djupa neurala nätverk: ett som har tränats för att identifiera riktiga bilder eller video, och ett annat som med tiden lär sig att överlista sin motsvarighet. GAN:er kan tränas för att producera överraskande realistiska falska bilder.

Förutom att kopiera och byta ansikten kan GAN:er göra det möjligt att syntetisera hela scener och människor som ser ganska verkliga ut, förvandla en dagtid till en nattlig scen och drömma om imaginära kändisar. GAN fungerar inte perfekt, men de blir bättre hela tiden, och detta är ett hett forskningsområde ( MIT Technology Review utnämnde GAN till en av sina 10 genombrottsteknologier för 2018).

GAN:er kan förvandla dagtidsscener till nattliga scener och drömma om imaginära kändisansikten.

Mest oroande är att tekniken också kan användas för att undvika digital kriminalteknik. USA:s Defense Advanced Research Projects Agency bjöd in forskare att delta i en tävling i somras där några utvecklade falska videor med hjälp av GAN och andra försökte upptäcka dem. GAN:er är en särskild utmaning för oss inom det kriminaltekniska samhället eftersom de kan vändas mot våra kriminaltekniska tekniker, säger Farid. Det återstår att se vilken sida som vinner.

Det här är slutet

Om vi ​​inte är försiktiga kan detta leda till världens undergång - eller åtminstone vad som verkar som det.

I april tillkännagav en förmodad BBC-nyhetsrapport att en kärnvapenkonflikt mellan Ryssland och Nato öppnades. Klippet, som började cirkulera på meddelandeplattformen WhatsApp, visade bilder av missiler som sprängdes av när en nyhetsuppläsare berättade för tittarna att den tyska staden Mainz hade förstörts tillsammans med delar av Frankfurt.

Det var naturligtvis helt falskt, och BBC skyndade sig att fördöma det. Videon skapades inte med hjälp av AI, men den visade kraften i falsk video och hur den kan sprida rykten i varphastighet. Spridningen av AI-program kommer att göra sådana videor mycket lättare att göra, och ännu mer övertygande.

Även om vi inte låter oss luras av falska nyheter kan det få svåra konsekvenser för den politiska debatten. Precis som vi nu är vana vid att ifrågasätta om ett fotografi kan ha fotograferats, kan AI-genererade förfalskningar göra oss mer misstänksamma mot händelser vi ser delas online. Och detta skulle kunna bidra till en ytterligare urholkning av den rationella politiska debatten.

I Sanningens död , publicerad i år, hävdar litteraturkritikern Michiko Kakutani att alternativa fakta, falska nyheter och den moderna politikens allmänna galenskap representerar kulmen på kulturströmmar som sträcker sig decennier tillbaka. Kakutani ser hyperrealistiska AI-förfalskningar som bara det senaste tunga slaget mot begreppet objektiv verklighet.

Innan tekniken ens blir bra är det faktum att den finns och är ett sätt att urholka förtroendet för legitimt material djupt problematiskt, säger Renee DiResta, forskare på Data for Democracy och en av de första som identifierade fenomenet politiskt motiverad Twitter desinformationskampanjer.

Den kanske största risken med denna nya teknik är alltså inte att den kommer att missbrukas av statliga hackare, politiska sabotörer eller Anonymous, utan att den ytterligare kommer att undergräva sanningen och objektiviteten i sig. Om du inte kan skilja en falsk från verkligheten, blir det lätt att ifrågasätta äktheten av någonting. Detta fungerar redan som ett sätt för politiker att undvika ansvarsskyldighet.

Den kanske största risken är att tekniken ytterligare undergräver sanning och objektivitet.

President Trump har vänt upp och ner på idén om falska nyheter genom att använda termen för att attackera alla mediarapporter som kritiserar hans administration. Han har också föreslagit att ett inkriminerande klipp där han förnedrar kvinnor, släppt under kampanjen 2016, kan ha förfalskats digitalt. I april anklagade den ryska regeringen Storbritannien för att förfalska videobevis för en kemisk attack i Syrien för att motivera föreslagna militära åtgärder. Ingen av anklagelserna var sanna, men möjligheten till sofistikerad förfalskning minskar allt mer trovärdigheten för verklig information. I Myanmar och Ryssland försöker ny lagstiftning förbjuda falska nyheter, men i båda fallen kan lagarna helt enkelt fungera som ett sätt att slå ner kritiken mot regeringen.

När de mäktiga blir allt mer medvetna om AI-förfalskning, kommer det att bli lätt att avfärda till och med tydliga videobevis på fel som inget annat än digitalt bedrägeri skapat av GAN.

Sanningen kommer fortfarande att finnas där ute. Men kommer du att veta det när du ser det?

Will Knight är seniorredaktör på MIT Technology Review som täcker artificiell intelligens.

Dölj