GAN-fadern: Mannen som har gett maskiner fantasins gåva

Christie Där Klok

En natt 2014 gick Ian Goodfellow och drack för att fira med en doktorand som precis tagit examen. På Les 3 Brasseurs (The Three Brewers), ett favoritvattenhål i Montreal, bad några vänner om hans hjälp med ett törstigt projekt de arbetade med: en dator som kunde skapa bilder på egen hand.

Forskare använde redan neurala nätverk, algoritmer löst modellerade på nätet av neuroner i den mänskliga hjärnan, som generativa modeller för att skapa rimliga nya egna data. Men resultaten var ofta inte särskilt bra: bilder av ett datorgenererat ansikte tenderade att vara suddiga eller ha fel som saknade öron. Planen som Goodfellows vänner föreslog var att använda en komplex statistisk analys av elementen som utgör ett fotografi för att hjälpa maskiner att komma fram till bilder på egen hand. Detta skulle ha krävt en enorm mängd siffror, och Goodfellow sa till dem att det helt enkelt inte skulle fungera.

Den här berättelsen var en del av vårt marsnummer 2018

• Se resten av frågan
• Prenumerera

Men när han funderade över problemet med sin öl fick han en idé. Vad händer om du ställer två neurala nätverk mot varandra? Hans vänner var skeptiska, så när han väl kom hem, där hans flickvän redan sov snabbt, bestämde han sig för att prova. Goodfellow kodade in på de tidiga timmarna och testade sedan sin programvara. Det fungerade första gången.

Det han uppfann den natten kallas nu ett GAN, eller generativt motståndsnätverk. Tekniken har väckt enorm spänning inom maskininlärning och förvandlat dess skapare till en AI-kändis.

Christie Där Klok

Under de senaste åren har AI-forskare gjort imponerande framsteg med en teknik som kallas djupinlärning. Förse ett system för djupinlärning med tillräckligt med bilder och det lär sig att till exempel känna igen en fotgängare som är på väg att korsa en väg. Detta tillvägagångssätt har möjliggjort saker som självkörande bilar och samtalstekniken som driver Alexa, Siri och andra virtuella assistenter.

Men även om djuplärande AI:er kan lära sig att känna igen saker, har de inte varit bra på att skapa dem. Målet med GAN är att ge maskiner något som liknar en fantasi.

I framtiden kommer datorer att bli mycket bättre på att frossa i rådata och räkna ut vad de behöver lära sig av det.

Att göra det skulle inte bara göra det möjligt för dem att rita vackra bilder eller komponera musik; det skulle göra dem mindre beroende av människor för att instruera dem om världen och hur den fungerar. Idag behöver AI-programmerare ofta tala om för en maskin exakt vad som finns i träningsdatan som den matas - vilka av en miljon bilder innehåller en fotgängare som korsar en väg, och vilka som inte gör det. Detta är inte bara kostsamt och arbetskrävande; det begränsar hur väl systemet hanterar även små avvikelser från vad det tränades på. I framtiden kommer datorer att bli mycket bättre på att frossa i rådata och räkna ut vad de behöver lära sig av det utan att få veta det.

Det kommer att markera ett stort steg framåt i det som inom AI kallas oövervakat lärande. En självkörande bil skulle kunna lära sig om många olika väglag utan att lämna garaget. En robot kan förutse de hinder den kan stöta på i ett upptaget lager utan att behöva föras runt det.

Det kommer att markera ett stort steg framåt i vad som inom AI kallas oövervakat lärande.

Vår förmåga att föreställa oss och reflektera över många olika scenarier är en del av det som gör oss till människor. Och när framtida teknikhistoriker ser tillbaka, kommer de sannolikt att se GAN som ett stort steg mot att skapa maskiner med ett mänskligt medvetande. Yann LeCun, Facebooks främsta AI-forskare, har kallat GANs för den coolaste idén inom djupinlärning under de senaste 20 åren. En annan AI-lampa, Andrew Ng, tidigare chefsforskare för Kinas Baidu, säger att GAN representerar ett betydande och grundläggande framsteg som har inspirerat en växande global forskargemenskap.

The GANfather, del II: AI fight club

Goodfellow är nu forskare i Google Brain-teamet vid företagets huvudkontor i Mountain View, Kalifornien. När jag träffade honom där nyligen verkade han fortfarande förvånad över sin status som superstjärna, han kallade det lite surrealistiskt. Kanske inte mindre förvånande är att han, efter att ha gjort sin upptäckt, nu ägnar mycket av sin tid åt att arbeta mot dem som vill använda den för onda ändamål.

Magin med GANs ligger i rivaliteten mellan de två neurala näten. Den härmar fram och tillbaka mellan en bildförfalskare och en konstdetektiv som upprepade gånger försöker överlista varandra. Båda nätverken tränas på samma datamängd. Den första, känd som generatorn, är laddad med att producera konstgjorda utdata, som foton eller handstil, som är så realistiska som möjligt. Den andra, känd som diskriminatorn, jämför dessa med äkta bilder från den ursprungliga datamängden och försöker avgöra vilka som är verkliga och vilka som är falska. På basis av dessa resultat justerar generatorn sina parametrar för att skapa nya bilder. Och så fortsätter det tills diskriminatorn inte längre kan avgöra vad som är äkta och vad som är falskt.

En GAN tränad på foton av riktiga kändisar kom på sin egen uppsättning imaginära stjärnor. I de flesta fall såg förfalskningarna ganska realistiska ut. Nvidia

I ett allmänt publicerat exempel förra året tränade forskare vid Nvidia, ett chipföretag som investerat hårt i AI, en GAN att generera bilder av imaginära kändisar genom att studera riktiga. Inte alla falska stjärnor som den producerade var perfekta, men några var imponerande realistiska. Till skillnad från andra metoder för maskininlärning som kräver tiotusentals träningsbilder, kan GAN:er bli skickliga med några hundra.

Relaterad berättelse

Relaterad berättelse

Denna fantasiförmåga är fortfarande begränsad. När den väl har tränats på många hundfoton kan en GAN generera en övertygande falsk bild av en hund som har, säg, ett annat mönster av fläckar; men det kan inte föreställa sig ett helt nytt djur. Kvaliteten på den ursprungliga träningsdatan har också stor inverkan på resultaten. I ett talande exempel började en GAN producera bilder på katter med slumpmässiga bokstäver integrerade i bilderna. Eftersom träningsdatan innehöll kattmemes från internet hade maskinen lärt sig att ord var en del av vad det innebar att vara en katt.

Att få GANS att fungera bra kan vara knepigt. Om det finns brister kan resultaten bli bisarra. Alec Radford

GANs är också temperamentsfulla, säger Pedro Domingos, en maskinlärande forskare vid University of Washington. Om diskriminatorn är för lätt att lura, kommer generatorns uteffekt inte att se realistisk ut. Och att kalibrera de två duellerande neurala näten kan vara svårt, vilket förklarar varför GAN ibland spottar ut bisarra saker som djur med två huvuden.

Ändå har utmaningarna inte avskräckt forskare. Sedan Goodfellow och några andra publicerade den första studien om hans upptäckt, 2014, har hundratals GAN-relaterade artiklar skrivits. Ett fan av tekniken har till och med skapat en webbsida som heter GAN zoo, dedikerad till att hålla reda på de olika versionerna av tekniken som har utvecklats.

De mest uppenbara omedelbara applikationerna finns i områden som involverar mycket bilder, som videospel och mode: hur kan till exempel en spelkaraktär se ut som springer genom regnet? Men när vi ser framåt tror Goodfellow att GAN kommer att driva på mer betydande framsteg. Det finns många områden inom vetenskap och teknik där vi behöver optimera något, säger han och tar upp exempel som mediciner som måste bli effektivare eller batterier som måste bli effektivare. Det kommer att bli nästa stora våg.

Inom högenergifysik använder forskare kraftfulla datorer för att simulera den sannolika interaktionen mellan hundratals subatomära partiklar i maskiner som Large Hadron Collider vid CERN i Schweiz. Dessa simuleringar är långsamma och kräver enorm datorkraft. Forskare vid Yale University och Lawrence Berkeley National Laboratory har utvecklat ett GAN som, efter att ha tränat på befintlig simuleringsdata, lär sig att generera ganska exakta förutsägelser om hur en viss partikel kommer att bete sig, och gör det mycket snabbare.

Goodfellows skapelse kan användas för att föreställa sig alla möjliga saker, inklusive ny inredning. Ian Goodfellow

Medicinsk forskning är ett annat lovande område. Sekretessproblem innebär att forskare ibland inte kan få tillräckligt med riktig patientdata för att till exempel analysera varför ett läkemedel inte fungerade. GAN kan hjälpa till att lösa detta problem genom att generera falska poster som är nästan lika bra som den äkta varan, säger Casey Greene från University of Pennsylvania. Dessa data skulle kunna delas mer brett, hjälpa till att främja forskning, samtidigt som de verkliga dokumenten är väl skyddade.

The GANfather, del III: Bad fellows

Det finns dock en mörkare sida. En maskin designad för att skapa realistiska förfalskningar är ett perfekt vapen för leverantörer av falska nyheter som vill påverka allt från aktiekurser till val. AI-verktyg används redan för att sätta bilder av andras ansikten på porrstjärnornas kroppar och lägga ord i munnen på politiker. GAN skapade inte detta problem, men de kommer att göra det värre.

Hany Farid, som studerar digital forensics vid Dartmouth College, arbetar på bättre sätt att upptäcka falska videor, som att upptäcka små förändringar i färgen på ansikten orsakade av inandning och utandning som GANs har svårt att efterlikna exakt. Men han varnar för att GAN kommer att anpassa sig i sin tur. Vi är i grunden i en svag position, säger Farid.

Detta katt-och-mus-spel kommer också att spela inom cybersäkerhet. Forskare lyfter redan fram risken för black box-attacker, där GAN:er används för att ta reda på maskininlärningsmodellerna med vilka massor av säkerhetsprogram upptäcker skadlig programvara. Efter att ha förutsett hur en försvarares algoritm fungerar, kan en angripare undvika den och infoga oseriös kod. Samma tillvägagångssätt kan också användas för att undvika spamfilter och andra försvar.

Det finns många områden inom vetenskap och teknik där vi behöver optimera något. Det kommer att bli nästa stora våg.

Goodfellow är väl medveten om farorna. Nu leder han ett team på Google som fokuserar på att göra maskininlärning säkrare och varnar för att AI-gemenskapen måste lära sig läxan från tidigare vågor av innovation, där teknologer behandlade säkerhet och integritet som en eftertanke. När de vaknade till riskerna hade skurkarna ett betydande försprång. Det är klart att vi redan är bortom starten, säger han, men förhoppningsvis kan vi göra betydande framsteg inom säkerheten innan vi är för långt in.

Ändå tror han inte att det kommer att finnas en rent teknisk lösning på fejk. Istället, tror han, måste vi förlita oss på samhälleliga sådana, som att lära barn kritiskt tänkande genom att få dem att ta saker som tal och debattlektioner. I tal och debatt tävlar du mot en annan elev, säger han, och du funderar på hur man skapar vilseledande påståenden, eller hur man skapar korrekta påståenden som är mycket övertygande. Han kan mycket väl ha rätt, men hans slutsats att tekniken inte kan bota problemet med falska nyheter är inte många som vill höra.

Dölj