Ett neuralt nätverk kan lära sig att organisera världen det ser i begrepp – precis som vi gör

Gabriel Santiago | unsplash





GAN, eller generativa motstridiga nätverk, är AI-algoritmernas stjärna på sociala medier. De är ansvariga för att skapa den första AI-målningen som någonsin sålts på en konstauktion och för överlägsna kändisansikten på porrstjärnornas kroppar. De fungerar genom att ställa två neurala nätverk mot varandra för att skapa realistiska utdata baserat på vad de matas. Mata en massa hundbilder, och det kan skapa helt nya hundar; mata den med många ansikten och den kan skapa nya ansikten.

Lika bra som de är på att orsaka ofog insåg forskare från MIT-IBM Watson AI Lab att GAN också är ett kraftfullt verktyg: eftersom de målar vad de tänker kan de ge människor insikt i hur neurala nätverk lär sig och resonerar. Detta har varit något som det bredare forskarsamhället har eftersträvat under lång tid - och det har blivit viktigare med vårt ökande beroende av algoritmer.

Det finns en chans för oss att lära oss vad ett nätverk kan genom att försöka återskapa den visuella världen, säger David Bau, en doktorand vid MIT som arbetade med projektet.



Så forskarna började undersöka en GAN:s inlärningsmekanik genom att mata den med olika foton av landskap – träd, gräs, byggnader och himmel. De ville se om det skulle lära sig att organisera pixlarna i vettiga grupper utan att uttryckligen få veta hur.

Häpnadsväckande, med tiden gjorde det det. Genom att slå på och stänga av olika neuroner och be GAN att måla vad den tyckte, fann forskarna distinkta neuronkluster som hade lärt sig att representera ett träd, till exempel. Andra kluster representerade gräs, medan ytterligare andra representerade väggar eller dörrar. Den hade med andra ord lyckats gruppera trädpixlar med trädpixlar och dörrpixlar med dörrpixlar oavsett hur dessa objekt ändrade färg från foto till foto i träningssetet.

GAN vet att inte måla några dörrar på himlen. MIT Computer Science & Artificiell Intelligens Laboratory



Dessa GAN är inlärningsbegrepp som mycket påminner om begrepp som människor har gett ord till, säger Bau.

Inte bara det, utan GAN verkade veta vilken typ av dörr som skulle målas beroende på vilken typ av vägg som avbildas i en bild. Det skulle måla en dörr i georgisk stil på en tegelbyggnad med georgisk arkitektur, eller en stendörr på en gotisk byggnad. Den vägrade också att måla några dörrar på ett stycke himmel. Utan att bli tillsagd hade GAN på något sätt förstått vissa outtalade sanningar om världen.

Det här var ett stort uppenbarelse för forskargruppen. Det är vissa aspekter av sunt förnuft som växer fram, säger Bau. Det har varit oklart tidigare om det fanns något sätt att lära sig den här typen av saker [genom djupinlärning]. Att det är möjligt tyder på att djupinlärning kan föra oss närmare hur våra hjärnor fungerar än vi tidigare trott - även om det fortfarande inte är i närheten av någon form av intelligens på mänsklig nivå.



Andra forskargrupper har börjat hitta liknande inlärningsbeteenden i nätverk som hanterar andra typer av data, enligt Bau. Inom språkforskning har man till exempel hittat neuronkluster för pluralord och könspronomen.

Att kunna identifiera vilka kluster som motsvarar vilka begrepp gör det möjligt att styra det neurala nätverkets output. Baus grupp kan slå på bara trädneuronerna, till exempel för att få GAN att måla träd, eller slå på bara dörrneuronerna för att få det att måla dörrar. Språknätverk kan på liknande sätt manipuleras för att ändra deras utdata, t.ex. för att byta kön på pronomenen medan man översätter från ett språk till ett annat. Vi börjar göra det möjligt för en person att göra ingrepp för att orsaka olika resultat, säger Bau.

Teamet har nu släppt en app som heter GANpaint som gör denna nyfunna förmåga till ett konstnärligt verktyg. Det låter dig slå på specifika neuronkluster för att måla scener av byggnader i gräsbevuxna fält med massor av dörrar. Utöver dess enfaldighet som ett lekfullt utlopp, talar det också om den större potentialen i denna forskning.

Problemet med AI är att när du ber den att göra en uppgift åt dig, ger du den ett enormt förtroende, säger Bau. Du ger den din input, den gör sitt 'genialiska' tänkande, och det ger dig lite output. Även om du hade en människoexpert som är supersmart, så skulle du inte vilja arbeta med dem heller.

Med GANpaint börjar du dra tillbaka locket på den svarta lådan och etablera någon form av relation. Du kan lista ut vad som händer om du gör det här, eller vad som händer om du gör det, säger Hendrik Strobelt, skaparen av appen. Så fort du kan leka med det här får du mer förtroende för dess kapacitet och även dess gränser.

En förkortad version av den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få den direkt levererad till din inkorg, prenumerera här gratis.

Dölj