Varför till och med en mals hjärna är smartare än en AI

En av de märkliga egenskaperna hos de djupa neurala nätverken bakom maskininlärning är att de är förvånansvärt annorlunda än de neurala nätverken i biologiska system. Även om det finns likheter, har vissa kritiska maskininlärningsmekanismer ingen motsvarighet i den naturliga världen, där inlärning verkar ske på ett annat sätt.

Dessa skillnader förklarar förmodligen varför maskininlärningssystem ligger så långt efter naturliga i vissa aspekter av prestanda. Insekter kan till exempel känna igen lukter efter bara en handfull exponeringar. Maskiner, å andra sidan, behöver enorma träningsdatauppsättningar för att lära sig. Datavetare hoppas att förståelse mer om naturliga former av lärande kommer att hjälpa dem att överbrygga klyftan.

Skriv in Charles Delahunt och kollegor vid University of Washington i Seattle, som har skapat ett artificiellt neuralt nätverk som efterliknar strukturen och beteendet hos luktinlärningssystemet i fredag ​​manduca nattfjärilar. De säger att deras system ger några viktiga insikter om hur naturliga nätverk lär sig, med potentiella konsekvenser för maskiner.

Först lite bakgrund. Doftinlärningssystemet hos nattfjärilar är relativt enkelt och väl kartlagt av neuroforskare. Den består av fem distinkta nätverk som matar information vidare från det ena till det andra.

Det första är ett system med cirka 30 000 kemiska receptorer som upptäcker lukter och skickar en ganska bullrig uppsättning signaler till nästa nivå, känd som antennloben. Denna innehåller cirka 60 enheter, kända som glomeruli, som var och en fokuserar på specifika lukter.

Antennloben skickar sedan neurala luktkoder till svampkroppen, som innehåller cirka 4 000 kenyonceller och tros koda lukter som minnen.

Slutligen läses resultatet av ett lager av yttre neuroner, som är 10-tal. Dessa tolkar signalerna från svampkroppen som handlingar, som att flyga i vinden.

Flera aspekter av detta system skiljer sig helt från vad som finns i maskininlärningsnätverk. Till exempel kodar antennloben information i ett lågdimensionellt parameterutrymme men skickar det till svampkroppen, som kodar det i ett högdimensionellt parameterutrymme. Däremot tenderar lagren i artificiella neurala nätverk att ha liknande dimensioner.

Och hos nattfjärilar utlöser det framgångsrika erkännandet av en lukt en belöningsmekanism där neuroner sprejar en kemisk signalsubstans som kallas oktopamin i antennloben och svampkroppen.

Detta är en avgörande del av inlärningsprocessen. Oktopamin verkar hjälpa till att förstärka de neurala ledningarna som leder till framgång. Det är en viktig del av hebbisk inlärning, där celler som skjuter tillsammans kopplar samman. Neuroforskare har faktiskt länge vetat att nattfjärilar inte lär sig utan oktopamin. Men vilken roll det spelar är inte väl förstått.

Att lära sig i maskiner är väldigt olika. Den förlitar sig på en process som kallas backpropagation, som justerar de neurala anslutningarna på ett sätt som förbättrar resultaten. Men information färdas i huvudsak bakåt genom nätverket i denna process, och det finns ingen känd analog till den i naturen.

För att bättre förstå hur malar lär sig skapade Delahunt och co ett artificiellt neuralt nätverk som efterliknar beteendet hos det naturliga. Vi konstruerade en end-to-end beräkningsmodell av fredag ​​manduca moth olfactory system som inkluderar interaktionen mellan antennloben och svampkroppen under oktopaminstimulering, säger de.

Modellen är speciellt utformad för att återskapa det naturliga systemets beteende på alla nivåer. Speciellt simulerar modellen de brusiga signalerna som genereras av luktreceptorerna och förändringen i dimension när informationen flödar från antennloben till svampkroppen, och den inkluderar en analog av den roll som oktopamin spelar.

Och resultaten ger intressant läsning. Modellen visar hur luktreceptorerna producerar en brusig signal som förförstärks av antennloben. Ändringen i dimension när signalen färdas till svampkroppen har dock effekten av att ta bort brus, och detta gör att systemet kan generera specifika, entydiga handlingssignaler som att flyga mot vinden.

Oktopamins roll ser också tydligare ut. Simuleringarna visar att inlärning kan ske utan oktopamin, men det går så långsamt att det faktiskt är värdelöst. Detta innebär att oktopamin fungerar som en kraftfull accelerator för inlärning.

Men hur det går till är fortfarande uppe för diskussion. Delahunt och co har sina egna idéer. Kanske är det en mekanism som gör att nattfjärilen kan arbeta kring inneboende organiska begränsningar på hebbisk tillväxt av nya synapser, begränsningar som annars skulle begränsa malen till en oacceptabelt långsam inlärningshastighet, föreslår de.

Oktopamin har också en annan roll. Hebbisk inlärning förstärker bara kopplingar som redan finns, och det väcker frågan om hur nya ledningar uppstår. Delahunt och co säger att oktopamin öppnar nya sändningskanaler för kabeldragning. Detta utökar lösningsutrymmet som systemet kan utforska under inlärning, säger de.

Och mest imponerande är att det simulerade nätverket lär sig på ett liknande sätt som det naturliga nätverket. Vår modell kan på ett robust sätt lära sig nya lukter, och våra simuleringar av integrera-och-avfyra neuroner matchar de statistiska egenskaperna hos in vivo skjuthastighetsdata, säger Delahunt och co.

Detta arbete som kan ha betydande konsekvenser för utformningen av syntetiska neurala nätverk som behöver lära sig snabbt. Ur ett maskininlärningsperspektiv ger modellen bioinspirerade mekanismer som potentiellt är användbara för att konstruera neurala nät för snabb inlärning från väldigt få prover, säger teamet.

Så framtidens maskininlärningsnätverk kan snart innehålla simulerade versioner av oktopamin och andra signalsubstanser.

Naturligtvis är det inte bara i lärandet som signalsubstanser är viktiga. Neuroforskare är väl medvetna om vilken roll de spelar för känslor, humörreglering och så vidare. Däri ligger en annan forskningsväg som maskininlärningsteam kommer att vara intresserade av att utforska.

Ref: arxiv.org/abs/1802.02678 : Biologiska mekanismer för lärande: En beräkningsmodell för luktinlärning i Manduca sexta Moth, med tillämpningar på neurala nät

Dölj