211service.com
Enstaka konstgjorda neuron som lärs känna igen hundratals mönster
Artificiell intelligens är ett område mitt i en snabb, spännande förändring. Det beror till stor del på en förbättrad förståelse för hur neurala nätverk fungerar och skapandet av enorma databaser för att träna dem. Resultatet är maskiner som plötsligt har blivit bättre på saker som ansikts- och objektigenkänning, uppgifter som människor alltid har haft övertaget i (se Teaching Machines to Understand Us ).
Men det finns ett pussel i hjärtat av dessa genombrott. Även om neurala nätverk skenbart är modellerade efter hur den mänskliga hjärnan fungerar, är de konstgjorda nervcellerna de innehåller ingenting som de som arbetar i vårt eget våtgods. Konstgjorda neuroner, till exempel, har i allmänhet bara en handfull synapser och saknar helt de korta, grenade nervförlängningarna som kallas dendriter och de tusentals synapser som bildas längs dem. Faktum är att ingen riktigt vet varför riktiga neuroner har så många synapser.
Idag förändras det tack vare Jeff Hawkins och Subutai Ahmads arbete på Numenta, en Silicon Valley-startup som fokuserar på att förstå och utnyttja principerna bakom biologisk informationsbehandling. Genombrottet som dessa killar har gjort är att komma med en ny teori som slutligen förklarar rollen av det stora antalet synapser i verkliga neuroner och att skapa en modell baserad på denna teori som reproducerar många av de intelligenta beteendena hos riktiga neuroner.
Verkliga neuroner består av en cellkropp, känd som soma, som innehåller cellkärnan och från vilken sträcker sig ett antal närliggande, eller proximala, dendriter såväl som axonet, en fin kabelliknande projektion som kan sträcka sig många centimeter för att ansluta till andra neuroner. I slutet av axonet finns en annan uppsättning grenar, kända som distala dendriter på grund av deras avstånd från soma.
Proximala och distala dendriter gör alla tusentals kopplingar, kallade synapser, till axonerna i andra nervceller. Dessa anslutningar påverkar väl den hastighet med vilken nervcellen producerar elektriska signaler som kallas spikar.
Konsensus är att neuroner lär sig genom att känna igen vissa mönster av samband mellan dess synapser och eld när de ser detta mönster.
Men även om det är lätt att förstå hur proximala synapser kan påverka cellkroppen och skotthastigheten, är det svårt att förstå hur distala synapser kan göra samma sak, eftersom de är så långt borta.
Hawkins och Ahmad säger nu att de vet vad som händer. Deras nya idé är att distala och proximala synapser spelar helt olika roller i inlärningsprocessen. Proximala synapser spelar den konventionella rollen att få cellen att brinna när vissa mönster av anslutningar dyker upp.
Detta är den konventionella inlärningsprocessen. Vi visar att en neuron kan känna igen hundratals mönster även i närvaro av stora mängder brus och variation så länge som den totala neurala aktiviteten är sparsam, säger Hawkins och Ahmad.
Men distala synapser gör något annat. De känner också igen när vissa mönster finns, men utlöser inte avfyring. Istället påverkar de cellens elektriska tillstånd på ett sätt som gör avfyrning mer sannolikt om ett annat specifikt mönster uppstår. Så distala synapser förbereder cellen för ankomsten av andra mönster. Eller, som Hawkins och Ahmad uttryckte det, dessa synapser hjälper cellen att förutsäga vad nästa mönster som avkänns av de proximala synapserna kommer att vara.
Det är jätteviktigt. Det betyder att förutom att lära sig när ett specifikt mönster finns, lär cellen sig också i vilken sekvens mönster uppträder. Vi visar hur ett nätverk av neuroner med denna egenskap kommer att lära sig och återkalla mönstersekvenser, säger de.
Dessutom visar de att allt detta fungerar bra, även i närvaro av stora mängder buller, som alltid är fallet i biologiska system.
Det är ett betydande nytt sätt att tänka om neuroner och ett som återger några av nyckelfunktionerna i informationsbehandling i den mänskliga hjärnan. Till exempel visar Hawkins och Ahmad att detta system inte kommer ihåg varje detalj i varje mönster i en sekvens utan istället lagrar skillnaden mellan ett mönster och nästa.
Så det som är viktigt är inte den totala mängden information i ett mönster utan skillnaden mellan detta mönster och nästa.
Det är en intressant egenskap som kan hjälpa till att förklara en annan förbryllande egenskap hos mänskligt minne som kallas chunking. Detta är observationen att människor i genomsnitt kan lagra omkring sju bitar av information i sina arbetsminnen. Dessa bitar kan vara saker som siffror, bokstäver eller till och med ord, men vad de än är kan människor bara komma ihåg ungefär sju av dem (plus eller minus två!).
Men här är grejen - informationsinnehållet i ett enskilt ord, som synaps, är betydligt större än informationsinnehållet i en enstaka siffra, till exempel en 7. Pusslet är att ingen vet hur hjärnan klarar av att hålla informationen i sju ord lika lätt som den håller informationen i sju siffror.
Men i Hawkins och Ahmads nya modell försvinner detta problem. Hjärnan lagrar inte informationen relaterad till ordet eller siffran, bara skillnaden mellan dem, som kan vara betydligt mindre. Det borde leda till några testbara hypoteser om minnets natur.
Den nya modellen leder också till andra testbara hypoteser. Till exempel fungerar modellen bara när det finns några synapser mellan axonet hos en neuron och en dendrit hos en annan. Om det fanns för många synapser skulle det inte vara möjligt att skilja ett mönster från ett annat och alla mönster skulle se likadana ut.
Om Hawkins och Ahmads modell är korrekt kan detta inte hända i riktiga nervceller. För att förhindra detta från att hända förutspår vi förekomsten av en mekanism som aktivt motverkar bildandet av flera synapser efter att en har etablerats, säger de.
Det är en ovanlig sak inom biologi - en testbar hypotes. Men det är en som säkerligen ger neuroforskare något att leta efter med sina förstoringsglas.
En sista poäng är att detta nytänkande inte kommer från en akademisk miljö utan från en Silicon Valley-startup. Detta företag är hjärnbarnet till Jeff Hawkins, en entreprenör, uppfinnare och neurovetare. Hawkins uppfann Palm Pilot på 1990-talet och har sedan dess riktat sin uppmärksamhet mot neurovetenskap på heltid.
Det är en ovanlig kombination av expertis men en som gör det mycket troligt att vi kommer att se dessa nya artificiella neuroner arbeta med verkliga problem inom en inte alltför avlägsen framtid. Hawkins och Ahmad kallar för övrigt sina nya leksaker för Hierarchical Temporal Memory-neuroner eller HTM-neuroner. Räkna med att höra mycket mer om dem.
Ref: arxiv.org/abs/1511.00083 : Varför neuroner har tusentals synapser, en teori om sekvensminne i Neocortex