211service.com
Tänker i silikon
Tänk dig en person som läser dessa ord på en bärbar dator på ett kafé. Maskinen gjord av metall, plast och kisel förbrukar cirka 50 watt när den översätter informationsbitar – en lång rad med ett s och 0 s—till ett mönster av prickar på en skärm. Samtidigt, inuti den personens skalle, använder en sliskig klump av proteiner, salt och vatten en bråkdel av den kraften, inte bara för att känna igen dessa mönster som bokstäver, ord och meningar utan för att känna igen låten som spelas på radion.
Detta datorchip, tillverkat av IBM 2011, har komponenter som fungerar som 256 neuroner och 262 144 synapser.
Datorer är otroligt ineffektiva vid massor av uppgifter som är lätta även för de enklaste hjärnorna, som att känna igen bilder och navigera i okända utrymmen. Maskiner som hittas i forskningslabb eller stora datacenter kan utföra sådana uppgifter, men de är enorma och energikrävande, och de behöver specialiserad programmering. Google skapade nyligen rubriker med programvara som på ett tillförlitligt sätt kan känna igen katter och mänskliga ansikten i videoklipp, men denna prestation krävde inte mindre än 16 000 kraftfulla processorer.
Den här historien var en del av vårt januarinummer 2014
- Se resten av frågan
- Prenumerera
En ny typ av datorchips som fungerar mer som hjärnan kan vara på väg att minska klyftan mellan artificiell och naturlig beräkning – mellan kretsar som går igenom logiska operationer med blåshastighet och en mekanism som finslipats av evolutionen för att bearbeta och agera på sensoriska input från verkliga världen. Framsteg inom neurovetenskap och chipteknologi har gjort det praktiskt att bygga enheter som åtminstone i liten skala bearbetar data på det sätt som en däggdjurshjärna gör. Dessa neuromorfa chips kan vara den saknade biten av många lovande men oavslutade projekt inom artificiell intelligens, som bilar som kör sig tillförlitligt under alla förhållanden och smartphones som fungerar som kompetenta samtalsassistenter.
Moderna datorer ärvs från miniräknare, bra för att knäcka siffror, säger Dharmendra Modha, seniorforskare vid IBM Research i Almaden, Kalifornien. Hjärnor utvecklades i den verkliga världen. Modha leder en av två grupper som har byggt datorchips med en grundläggande arkitektur kopierad från däggdjurshjärnan under ett projekt på 100 miljoner dollar som kallas Synaps , finansierat av Pentagon's Defense Advanced Research Projects Agency.
Prototyperna har redan visat tidiga gnistor av intelligens, bearbetat bilder mycket effektivt och fått nya färdigheter på ett sätt som liknar biologisk inlärning. IBM har skapat verktyg för att låta programvaruingenjörer programmera dessa hjärninspirerade chips; den andra prototypen, vid HRL Laboratories i Malibu, Kalifornien, kommer snart att installeras i ett litet robotflygplan, från vilket det kommer att lära sig känna igen sin omgivning.
Utvecklingen av hjärninspirerade chips började i början av 1980-talet med Carver Mead, en professor vid California Institute of Technology och en av modern dators fäder. Mead hade skapat sitt namn genom att hjälpa till att utveckla ett sätt att designa datorchips som kallas mycket storskalig integration, eller VLSI, som gjorde det möjligt för tillverkare att skapa mycket mer komplexa mikroprocessorer. Detta utlöste en explosiv tillväxt i beräkningskraft: datorer såg ut att bli mainstream, till och med överallt. Men industrin verkade glad över att bygga dem runt en ritning, från 1945. von Neumann-arkitekturen, uppkallad efter den ungerskfödde matematikern John von Neumann, är designad för att utföra linjära sekvenser av instruktioner. Alla dagens datorer, från smartphones till superdatorer, har bara två huvudkomponenter: en central processorenhet, eller CPU, för att manipulera data, och ett block av random access memory, eller RAM, för att lagra data och instruktionerna om hur man manipulerar den . CPU:n börjar med att hämta sin första instruktion från minnet, följt av den data som behövs för att exekvera den; efter att instruktionen utförts skickas resultatet tillbaka till minnet och cykeln upprepas. Även flerkärniga chips som hanterar data parallellt är begränsade till bara ett fåtal samtidiga linjära processer.
Det tillvägagångssättet utvecklades naturligt från teoretisk matematik och logik, där problem löses med linjära kedjor av resonemang. Ändå var det olämpligt för bearbetning och lärande från stora mängder data, särskilt sensoriska input som bilder eller ljud. Det kom också med inbyggda begränsningar: för att göra datorer mer kraftfulla hade industrin i uppdrag att bygga allt mer komplexa kretsar som kunde utföra sekventiella operationer snabbare och snabbare, men detta satte ingenjörer på kurs mot stora effektivitets- och kylningsproblem, eftersom snabbare flis producerar mer spillvärme. Mead, nu 79 och professor emeritus, kände redan då att det kunde finnas ett bättre sätt. Ju mer jag tänkte på det desto mer besvärligt kändes det, säger han och sitter på kontoret han har kvar på Caltech. Han började drömma om marker som behandlade många instruktioner – kanske miljoner – parallellt. Ett sådant chip skulle kunna utföra nya uppgifter och effektivt hantera stora mängder ostrukturerad information som video eller ljud. Den skulle kunna vara mer kompakt och använda ström mer effektivt, även om den var mer specialiserad för särskilda typer av uppgifter. Bevis på att detta var möjligt kunde hittas när de flyger, springer och går runt. De enda exemplen vi hade på en massivt parallell sak fanns i djurens hjärnor, säger Mead.
Hjärnor beräknar parallellt eftersom de elektriskt aktiva cellerna inuti dem, kallade neuroner, arbetar samtidigt och oavbrutet. Bundet in i komplicerade nätverk av trådliknande bihang påverkar neuroner varandras elektriska pulser via anslutningar som kallas synapser. När information flödar genom en hjärna, bearbetar den data som en sammansmältning av spikar som sprider sig genom dess nervceller och synapser. Du känner igen orden i det här stycket, till exempel tack vare ett speciellt mönster av elektrisk aktivitet i din hjärna som utlöses av input från dina ögon. Det avgörande är att neural hårdvara också är flexibel: ny input kan få synapser att anpassa sig för att ge vissa neuroner mer eller mindre inflytande över andra, en process som underbygger inlärning. I datortermer är det ett massivt parallellt system som kan programmera om sig självt.
Ironiskt nog, även om han inspirerade den konventionella designen som finns idag, hade von Neumann också känt av potentialen hos hjärninspirerad datoranvändning. I den ofullbordade boken Datorn och hjärnan , publicerad ett år efter hans död 1957, förundrade han sig över storleken, effektiviteten och kraften hos hjärnor jämfört med datorer. Djupare matematiska studier av nervsystemet ... kan förändra hur vi ser på matematik och logik, hävdade han. När Mead kom till samma insikt mer än två decennier senare fann han att ingen hade försökt göra en dator inspirerad av hjärnan. Ingen tänkte på den tiden, 'Hur bygger jag en?' säger Mead. Vi hade ingen aning om hur det fungerade.
Mead byggde äntligen sina första neuromorfa chips, som han döpte till sina hjärninspirerade enheter, i mitten av 1980-talet, efter att ha samarbetat med neuroforskare för att studera hur neuroner bearbetar data. Genom att driva vanliga transistorer vid ovanligt låga spänningar kunde han ordna dem i återkopplingsnätverk som såg väldigt olika ut från samlingar av neuroner men fungerade på liknande sätt. Han använde det tricket för att efterlikna databehandlingskretsarna i näthinnan och snäckan, och byggde chip som utförde trick som att upptäcka kanterna på objekt och funktioner i en ljudsignal. Men chipsen var svåra att arbeta med, och ansträngningen begränsades av chipstillverkningsteknik. Med neuromorphic computing fortfarande bara en kuriosa, gick Mead vidare till andra projekt. Det var svårare än jag trodde att gå in, reflekterar han. En flugs hjärna ser inte så komplicerad ut, men den gör saker som vi i dag inte kan göra. Det säger dig något.
Neuroner inuti
IBMs Almaden-labb, nära San Jose, ligger nära men bortsett från Silicon Valley - kanske den idealiska platsen för att ompröva datorindustrins grunder. Att ta sig dit innebär att köra till en magnoliakantad gata vid stadens utkant och klättra uppför två miles av kurvor. Labbet ligger mitt bland 2 317 skyddade tunnland av böljande kullar. Inuti går forskare i långa, breda, tysta korridorer och funderar över problem. Här leder Modha det större av de två team som DARPA rekryterade för att bryta datorbranschens von Neumann-beroende. Det grundläggande tillvägagångssättet liknar Meads: bygg kiselchips med element som fungerar som neuroner. Men han har fördelen av framsteg inom neurovetenskap och chiptillverkning. Timing är allt; det var inte helt rätt för Carver, säger Modha, som har för vana att blunda för att tänka, andas och reflektera innan han pratar.
IBM tillverkar neuromorfa chips genom att använda samlingar av 6 000 transistorer för att emulera det elektriska spikbeteendet hos en neuron och sedan koppla ihop dessa kiselneuroner. Modhas strategi för att kombinera dem för att bygga ett hjärnliknande system är inspirerad av studier på hjärnbarken, det rynkiga yttre lagret. Även om olika delar av cortex har olika funktioner, som att kontrollera språk eller rörelse, är de alla uppbyggda av så kallade mikrokolumner, repeterande klumpar av 100 till 250 neuroner. Modha avslöjade sin version av en mikrokolumn 2011. En kiselfläck lite större än ett knappnålshuvud, den innehöll 256 kiselneuroner och ett minnesblock som definierar egenskaperna hos upp till 262 000 synaptiska kopplingar mellan dem. Att programmera dessa synapser korrekt kan skapa ett nätverk som bearbetar och reagerar på information ungefär som neuronerna i en riktig hjärna gör.
Att ställa in chippet att fungera på ett problem innebär att man programmerar en simulering av chippet på en konventionell dator och sedan överför konfigurationen till det riktiga chippet. I ett experiment kunde chippet känna igen handskrivna siffror från 0 till 9, till och med förutsäga vilket nummer någon började spåra med en digital penna. I ett annat program programmerades chipets nätverk för att spela en version av videospelet Pong. I en tredje styrde den ett litet obemannat flygfordon att följa den dubbla gula linjen på vägen som närmade sig IBM:s labb. Ingen av dessa bedrifter är utom räckhåll för konventionell programvara, men de uppnåddes med en bråkdel av den kod, kraft och hårdvara som normalt skulle krävas.
Modha testar tidiga versioner av ett mer komplext chip, tillverkat av ett rutnät av neurosynaptiska kärnor som är kaklade i en slags rudimentär cortex - över en miljon neuroner totalt. Förra sommaren tillkännagav IBM också en neuromorf programmeringsarkitektur baserad på modulära kodblock som kallas corelets. Avsikten är att programmerare ska kombinera och justera corelets från en redan existerande meny, för att rädda dem från brottning med kiselsynapser och neuroner. Över 150 corelets har redan designats, för uppgifter som sträcker sig från att känna igen människor i videor till att särskilja Beethovens och Bachs musik.
Inlärningsmaskiner
På en annan sluttning i Kalifornien 300 miles söderut syftar den andra delen av DARPA:s projekt till att göra chips som efterliknar hjärnor ännu närmare. HRL, som ser ut över Malibu från foten av Santa Monica-bergen, grundades av Hughes Aircraft och fungerar nu som ett joint venture mellan General Motors och Boeing. Med en koi-damm, palmer och bananplantor liknar entrén ett hotell från Hollywoods gyllene era. Den har också en plakett till minne av den första fungerande lasern, byggd 1960 vid det som då kallades Hughes Research Labs.
Ett mikrochip utvecklat vid HRL lär sig som en biologisk hjärna genom att stärka eller försvaga synapsliknande kopplingar.
På en bänk i ett fönsterlöst labb sitter Narayan Srinivasas chip i mitten av en härva av ledningar. Aktiviteten hos dess 576 artificiella neuroner visas på en datorskärm som en parad av spikar, ett EEG för en kiselhjärna. HRL-chippet har neuroner och synapser ungefär som IBMs. Men precis som nervcellerna i din egen hjärna, justerar de på HRL:s chip sina synaptiska anslutningar när de utsätts för ny data. Med andra ord, chippet lär sig genom erfarenhet.
HRL-chippet efterliknar två inlärningsfenomen i hjärnan. En är att neuroner blir mer eller mindre känsliga för signaler från en annan neuron beroende på hur ofta dessa signaler anländer. Den andra är mer komplex: en process som tros stödja inlärning och minne, känd som spike-timing-beroende plasticitet. Detta gör att neuroner blir mer lyhörda för andra neuroner som har tenderat att nära matcha sin egen signalaktivitet tidigare. Om grupper av neuroner samarbetar konstruktivt, stärks kopplingarna mellan dem, medan mindre användbara kopplingar faller i dvala.
Resultat från experiment med simulerade versioner av chipet är imponerande. Chippet spelade ett virtuellt spel Pong, precis som IBM:s chip gjorde. Men till skillnad från IBM:s chip, var HRL:s inte programmerad att spela spelet – bara för att flytta sin paddel, känna av bollen och få feedback som antingen belönade ett lyckat skott eller straffade en miss. Ett system med 120 neuroner började svänga, men inom ungefär fem omgångar hade det blivit en skicklig spelare. Du programmerar det inte, säger Srinivasa. Du säger bara 'Bra jobbat', 'Dåligt jobb' och det kommer på vad det ska göra. Om extra bollar, paddlar eller motståndare läggs till, anpassar sig nätverket snabbt till förändringarna.
Det här tillvägagångssättet kan så småningom låta ingenjörer skapa en robot som snubblar genom ett slags barndom, och som kommer på hur de ska flytta runt och navigera. Du kan inte fånga rikedomen av alla saker som händer i den verkliga miljön, så du bör få systemet att hantera det direkt, säger Srinivasa. Identiska maskiner skulle då kunna införliva allt som originalet har lärt sig. Men att lämna robotar en viss förmåga att lära sig efter den tidpunkten kan också vara användbart. På så sätt kunde de anpassa sig om de skadades, eller anpassa sin gång till olika typer av terräng.
Det första riktiga testet av denna vision för neuromorfisk datoranvändning kommer nästa sommar, när HRL-chippet är planerat att fly från sin labbbänk och flyga i ett flygplan i palmstorlek med flaxande vingar, kallad Snipe. När en människa fjärrpiloter farkosten genom en serie rum, kommer chipet att ta in data från farkostens kamera och andra sensorer. Vid något tillfälle kommer chipet att ges en signal som betyder Var uppmärksam här. Nästa gång Snipe besöker det rummet ska chippet tända en lampa för att signalera att den kommer ihåg. Att utföra denna typ av igenkänning skulle normalt kräva för mycket el och datorkraft för en så liten farkost.
Alien Intelligence
Trots Synapse-chippens blygsamma men betydande framgångar är det fortfarande oklart om uppskalning av dessa chips kommer att producera maskiner med mer sofistikerade hjärnliknande förmågor. Och vissa kritiker tvivlar på att det någonsin kommer att vara möjligt för ingenjörer att kopiera biologin tillräckligt nära för att fånga dessa förmågor.
IBM använde denna simulering av långväga neurala banor i en makakapa för att vägleda designen av neuromorfa chips.
Neuroforskaren Henry Markram, som upptäckte spike-timing-beroende plasticitet, har attackerat Modhas arbete med nätverk av simulerade neuroner och sagt att deras beteende är för förenklat. Han tror att en framgångsrik efterlikning av hjärnans förmågor kräver kopiering av synapser ner till molekylär skala; neuronernas beteende påverkas av växelverkan mellan dussintals jonkanaler och tusentals proteiner, noterar han, och det finns många typer av synapser, som alla beter sig på icke-linjära eller kaotiska sätt. Enligt Markrams uppfattning skulle det kräva att forskare införlivar alla dessa funktioner för att fånga en riktig hjärnas förmåga.
DARPA-teamen motarbetar att de inte behöver fånga hjärnans fulla komplexitet för att få användbara saker gjorda, och att successiva generationer av deras chips kan förväntas komma närmare att representera biologi. HRL hoppas kunna förbättra sina chip genom att göra det möjligt för kiselneuronerna att reglera sin egen avfyringshastighet som de i hjärnan gör, och IBM kopplar kopplingarna mellan kärnor på sitt senaste neuromorfa chip på ett nytt sätt, med hjälp av insikter från simuleringar av kopplingarna mellan olika regioner av cortex av en makak.
Modha tror att dessa kopplingar kan vara viktiga för hjärnans funktion på högre nivå. Men även efter sådana förbättringar kommer dessa chips fortfarande att vara långt ifrån hjärnans röriga, komplexa verklighet. Det verkar osannolikt att mikrochips någonsin kommer att matcha hjärnor genom att passa in 10 miljarder synaptiska anslutningar i en enda kvadratcentimeter, även om HRL experimenterar med en tätare form av minne baserat på exotiska enheter som kallas memristorer.
Samtidigt är neuromorfa design fortfarande långt borta från de flesta datorer vi har idag. Kanske är det bättre att känna igen dessa marker som något helt separat – en ny, främmande form av intelligens.
Det traditionella tillvägagångssättet är att lägga till mer beräkningsförmåga och starkare algoritmer, men det skalas inte längre.
De kan vara främmande, men IBM:s chef för forskningsstrategi, Zachary Lemnios, förutspår att vi kommer att vilja bli bekanta med dem snart nog. Många stora företag känner redan behov av en ny typ av beräkningsintelligens, säger han: Det traditionella tillvägagångssättet är att lägga till mer beräkningsförmåga och starkare algoritmer, men det skalar inte, och vi ser det. Som exempel nämner han Apples Siri personliga assistent och Googles självkörande bilar. Dessa teknologier är inte särskilt sofistikerade i hur de förstår världen omkring dem, säger Lemnios; Googles bilar är mycket beroende av förladdade kartdata för att navigera, medan Siri använder sig av avlägsna molnservrar för röstigenkänning och språkbehandling, vilket orsakar märkbara förseningar.
Idag är framkanten av programvara med artificiell intelligens en disciplin som kallas djupinlärning, som omfattas av bland annat Google och Facebook. Det innebär att man använder programvara för att simulera nätverk av mycket grundläggande neuroner på normal datorarkitektur (se 10 Breakthrough Technologies: Deep Learning, maj/juni 2013). Men det tillvägagångssättet, som producerade Googles programvara för kattupptäckning, förlitar sig på stora kluster av datorer för att köra de simulerade neurala nätverken och mata dem med data. Neuromorfa maskiner bör tillåta att sådana förmågor kan paketeras till kompakta, effektiva enheter för situationer där det är opraktiskt att ansluta till ett avlägset datacenter. IBM pratar redan med kunder som är intresserade av att använda neuromorfa system. Säkerhetsvideobearbetning och förutsägelser om ekonomiskt bedrägeri ligger i framkant, eftersom båda kräver komplex inlärning och mönsterigenkänning i realtid.
Närhelst och hur neuromorfa chips som helst kommer att användas, kommer det troligen att ske i samarbete med von Neumann-maskiner. Det kommer fortfarande att behövas siffror, och även i system som ställs inför problem som att analysera bilder kommer det att vara enklare och mer effektivt att ha en konventionell dator under kommando. Neuromorfa chips kan sedan användas för särskilda uppgifter, precis som en hjärna förlitar sig på olika regioner som är specialiserade för att utföra olika jobb.
Som vanligtvis har varit fallet genom datorernas historia, kommer de första sådana systemen förmodligen att sättas in i den amerikanska militärens tjänst. Det är inte mystiskt eller magiskt, säger Gill Pratt, som leder Synapse-projektet vid DARPA, om neuromorfisk datoranvändning. Det är en arkitektonisk skillnad som leder till en annan avvägning mellan energi och prestanda. Pratt säger att UAV, i synnerhet, skulle kunna använda metoden. Neuromorfa chips kunde känna igen landmärken eller mål utan de skrymmande dataöverföringar och kraftfulla konventionella datorer som nu behövs för att bearbeta bilder. Istället för att skicka en video med ett gäng killar skulle det stå: 'Det finns en person i var och en av dessa positioner - det ser ut som om de springer', säger han.
Denna vision av en ny typ av datorchip är en som både Mead och von Neumann säkert skulle känna igen.