Inuti en värld av AI som skapar vacker konst och skrämmande djupförfalskningar

Nvidia





Under de senaste tre veckorna har vi lagt ner grunderna för AI. För att sammanfatta:

  • De flesta framsteg och tillämpningar av AI är baserade på en typ av algoritm som kallas maskininlärning som hittar och återanvänder mönster i data.
  • Deep learning , en kraftfull delmängd av maskininlärning, använder neurala nätverk för att hitta och förstärka även de minsta mönstren.
  • Neurala nätverk är lager av enkla beräkningsnoder som arbetar tillsammans för att analysera data, ungefär som neuroner i den mänskliga hjärnan.

Nu kommer vi till det roliga. Att använda ett neuralt nätverk är riktigt bra för att lära sig mönster; att använda två är riktigt bra för att skapa dem. Välkommen till den magiska, skrämmande världen av generativa kontradiktoriska nätverk, eller GAN.

GANs har lite av ett kulturellt ögonblick. De är ansvariga för första stycket av AI-genererat konstverk sålt på Christie's , samt kategorin av falska digitala bilder som kallas deepfakes.



Deras hemlighet ligger i hur två neurala nätverk arbetar tillsammans – eller snarare, mot varandra. Du börjar med att mata båda neurala nätverk med en hel del träningsdata och ger var och en en separat uppgift. Det första nätverket, känt som generatorn, måste producera artificiella utdata, som handstil, videor eller röster, genom att titta på träningsexemplen och försöka efterlikna dem. Den andra, känd som diskriminatorn, bestämmer sedan om utsignalerna är verkliga genom att jämföra var och en med samma träningsexempel.

Relaterad berättelse

Relaterad berättelse Genom att ställa neurala nätverk mot varandra har Ian Goodfellow skapat ett kraftfullt AI-verktyg. Nu måste han, och vi andra, ta konsekvenserna.

Varje gång diskriminatorn framgångsrikt avvisar generatorns utsignal, går generatorn tillbaka för att försöka igen. För att låna en metafor från min kollega Martin Giles, härmar processen fram och tillbaka mellan en bildförfalskare och en konstdetektiv som upprepade gånger försöker överlista varandra. Så småningom kan diskriminatorn inte se skillnaden mellan resultatet och träningsexemplen. Med andra ord, mimik är omöjlig att skilja från verkligheten.

Du kan se varför en värld med GAN är lika mycket vacker och ful. Å ena sidan kan förmågan att syntetisera media och efterlikna andra datamönster vara användbar vid fotoredigering, animering och medicin (såsom att förbättra kvaliteten på medicinska bilder och att övervinna bristen på patientdata). Det ger oss också glada skapelser som detta:



Och detta:

Å andra sidan kan GAN också användas på etiskt stötande och farliga sätt: att överlägg kändisansikten på porrstjärnornas kroppar , för att få Barack Obama att säga vad du vill, eller för att förfalska någons fingeravtryck och andra biometriska data, en förmåga forskare vid NYU och Michigan State nyligen visade i en papper .



Lyckligtvis har GAN fortfarande begränsningar som sätter vissa skyddsräcken på plats. De behöver ganska mycket beräkningskraft och snävt avgränsad data för att producera något som verkligen är trovärdigt. För att producera en realistisk bild av till exempel en groda behöver ett sådant system hundratals bilder av grodor från en viss art, helst vända mot en liknande riktning. Utan dessa specifikationer får du verkligen några galna resultat , som den här varelsen från dina mörkaste mardrömmar:

(Du borde tacka mig för att jag inte visade spindlarna.)



Men experter oroar sig för att vi bara har sett toppen av isberget. I takt med att algoritmerna blir mer och mer förfinade kommer glitchy videor och Picasso-djur att bli ett minne blott. Som Hany Farid, en kriminalteknisk expert på digitala bilder, en gång sa till mig, är vi dåligt förberedda för att lösa det här problemet.

Detta dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det levererat direkt till din inkorg, prenumerera här gratis.

Dölj