Detta chip visades på Jeff Bezos hemliga teknikkonferens. Det kan vara nyckeln till framtiden för AI.

Fotografier av Tony Luong

Nyligen, på en bländande morgon i Palm Springs, Kalifornien, Vivienne Sze tog till en liten scen för att leverera den kanske mest nervkittlande presentationen av hennes karriär.

Hon kunde ämnet utan och innan. Hon skulle berätta för publiken om chipsen, som utvecklas i hennes labb vid MIT, som lovar att ge kraftfull artificiell intelligens till en mängd enheter där kraften är begränsad, utom räckhåll för de stora datacenter där de flesta AI-beräkningar äger rum. Men händelsen – och publiken – gav Sze en paus.

Tony Luong

Miljön var MARS, en elitkonferens endast för inbjudningar där robotar promenerar (eller flyger) genom en lyxresort och umgås med kända forskare och sci-fi-författare. Bara ett fåtal forskare är inbjudna att hålla tekniska föredrag, och sessionerna är tänkta att vara både respektingivande och upplysande. Publiken bestod under tiden av cirka 100 av världens viktigaste forskare, vd:ar och entreprenörer. MARS gästas av ingen mindre än Amazons grundare och ordförande, Jeff Bezos, som satt på första raden.

Det var, jag antar att man skulle säga, en ganska högklassig publik, minns Sze med ett skratt.

Andra MARS-högtalare skulle introducera en karate-hackningsrobot, drönare som flaxar som stora, kusligt tysta insekter och till och med optimistiska ritningar för marskolonier. Szes marker kan verka mer blygsamma; för blotta ögat går de inte att särskilja från chipsen du hittar inuti någon elektronisk enhet. Men de är utan tvekan mycket viktigare än något annat som visas på evenemanget.

Nya möjligheter

Nydesignade chips, som de som utvecklas i Szes labb, kan vara avgörande för framtida framsteg inom AI – inklusive saker som drönare och robotar som finns på MARS. Hittills har AI-mjukvara till stor del körts på grafiska chips, men ny hårdvara kan göra AI-algoritmer kraftfullare, vilket skulle låsa upp nya applikationer. Nya AI-chips kan göra lagerrobotar vanligare eller låta smartphones skapa fotorealistiska scenerier med förstärkt verklighet.

Szes marker är både extremt effektiva och flexibla i sin design, något som är avgörande för ett område som utvecklas otroligt snabbt.

Mikrochippen är designade för att pressa ut mer av de djupinlärningsalgoritmer för AI som redan har vänt upp och ner på världen. Och i processen kan de inspirera dessa algoritmer själva att utvecklas. Vi behöver ny hårdvara eftersom Moores lag har saktat ner, säger Sze, med hänvisning till det axiom som myntades av Intels medgrundare Gordon Moore som förutspådde att antalet transistorer på ett chip kommer att fördubblas ungefär var 18:e månad – vilket leder till en motsvarande prestandaökning i datorkraft. .

Tony Luong

Denna lag går nu alltmer in i de fysiska gränserna som kommer med tekniska komponenter i atomär skala. Och det väcker nytt intresse för alternativa arkitekturer och metoder för datoranvändning.

De höga insatserna för att investera i nästa generations AI-chips – och bibehålla USA:s dominans inom chiptillverkning överlag – går inte förlorade för den amerikanska regeringen. Szes mikrochips utvecklas med finansiering från ett program från Defense Advanced Research Projects Agency (DARPA) som är avsett att hjälpa till att utveckla nya AI-chipdesigner (se De utestående AI-idéerna utformade för att hålla USA före Kina).

Men innovation inom chiptillverkning har främst stimulerats av uppkomsten av djupinlärning, ett mycket kraftfullt sätt för maskiner att lära sig att utföra användbara uppgifter. Istället för att ge en dator en uppsättning regler att följa, programmerar en maskin i princip sig själv. Träningsdata matas in i ett stort, simulerat artificiellt neuralt nätverk, som sedan justeras så att det ger önskat resultat. Med tillräckligt med träning kan ett djupinlärningssystem hitta subtila och abstrakta mönster i data. Tekniken tillämpas på ett ständigt växande utbud av praktiska uppgifter, från ansiktsigenkänning på smartphones till att förutsäga sjukdomar från medicinska bilder.

Det nya chipracet

Deep learning är inte så beroende av Moores lag. Neurala nät kör många matematiska beräkningar parallellt, så de körs mycket mer effektivt på de specialiserade videospelsgrafikchipen som utför parallella beräkningar för att rendera 3D-bilder. Men mikrochips designade specifikt för de beräkningar som ligger till grund för djupinlärning borde vara ännu kraftfullare.

Potentialen för nya chiparkitekturer för att förbättra AI har rört upp en nivå av entreprenöriell aktivitet som chipindustrin inte har sett på decennier (se The Race to Power AI:s Silicon Brains och Kina har aldrig haft en riktig chipindustri. Att tillverka AI-chips skulle kunna ändra det).

Tony Luong

Stora teknikföretag som hoppas kunna utnyttja och kommersialisera AI – inklusive Google, Microsoft och (ja) Amazon – arbetar alla med sina egna djupinlärningschips. Många mindre företag utvecklar också nya chips. Det är omöjligt att hålla reda på alla företag som hoppar in i AI-chiputrymmet, säger Mike Delmer, en mikrochipanalytiker på Linley Group , ett analytikerföretag. Jag skämtar inte med att vi lär oss om en ny nästan varje vecka.

Den verkliga möjligheten, säger Sze, är inte att bygga de mest kraftfulla djupinlärningschipen som möjligt. Effekteffektivitet är viktigt eftersom AI också behöver köras utom räckhåll för stora datacenter, vilket innebär att bara lita på den kraft som finns tillgänglig på själva enheten för att köras. Detta är känt som att arbeta på kanten.

AI kommer att finnas överallt – och att ta reda på sätt att göra saker mer energieffektiva kommer att vara oerhört viktigt, säger Naveen Rao, vicepresident för artificiell intelligens-produktgruppen på Intel.

Till exempel är Szes hårdvara mer effektiv dels för att den fysiskt minskar flaskhalsen mellan var data lagras och var den analyseras, men också för att den använder smarta system för att återanvända data. Innan han började på MIT var Sze pionjär med detta tillvägagångssätt för att förbättra effektiviteten av videokomprimering medan han var på Texas Instruments.

För ett snabbt rörligt område som djupinlärning är utmaningen för dem som arbetar med AI-chip att se till att de är tillräckligt flexibla för att anpassas för att fungera för alla tillämpningar. Det är lätt att designa ett supereffektivt chip som bara kan göra en sak, men en sådan produkt blir snabbt föråldrad.

Szes chip heter Eyeriss. Utvecklad i samarbete med joel emer , en forskare vid Nvidia och professor vid MIT, testades den tillsammans med ett antal standardprocessorer för att se hur den hanterar en rad olika algoritmer för djupinlärning. Genom att balansera effektivitet med flexibilitet uppnår det nya chippet prestanda 10 eller till och med 1 000 gånger effektivare än vad befintlig hårdvara gör, enligt ett papper lades ut på nätet förra året.

MIT:s Sertac Karaman och Vivienne Sze utvecklade det nya chippet Tony Luong

Enklare AI-chips har redan stor inverkan. Avancerade smartphones innehåller redan chips optimerade för att köra djupinlärningsalgoritmer för bild- och röstigenkänning. Effektivare chips kan låta dessa enheter köra mer kraftfull AI-kod med bättre kapacitet. Självkörande bilar behöver också kraftfulla AI-chips, eftersom de flesta prototyper för närvarande förlitar sig på en mängd datorer.

Rao säger att MIT-chippen är lovande, men många faktorer kommer att avgöra om en ny hårdvaruarkitektur lyckas. En av de viktigaste faktorerna, säger han, är att utveckla mjukvara som låter programmerare köra kod på den. Att göra något användbart ur kompilatorsynpunkt är förmodligen det enskilt största hindret för adoption, säger han.

Szes labb undersöker faktiskt också sätt att designa mjukvara så att den bättre utnyttjar egenskaperna hos befintliga datorchips. Och detta arbete sträcker sig längre än bara djupinlärning.

Tillsammans med Sertac Karaman , från MIT:s Department of Aeronautics and Astronautics, utvecklade Sze ett lågeffektschip kallat Navion som utför 3D-kartläggning och navigering otroligt effektivt, för användning på en liten drönare. Avgörande för denna ansträngning var att skapa chippet för att utnyttja beteendet hos navigationsfokuserade algoritmer – och designa algoritmen för att få ut det mesta av ett anpassat chip. Tillsammans med arbetet med djupinlärning speglar Navion hur AI-mjukvara och hårdvara nu börjar utvecklas i symbios.

Szes chips kanske inte är lika uppmärksammade som en flaxande drönare, men det faktum att de visades upp på MARS ger en viss känsla av hur viktig hennes teknik – och innovation inom kisel mer generellt – kommer att vara för AI:s framtid. Efter hennes presentation , säger Sze, några av de andra MARS-talarna uttryckte ett intresse för att ta reda på mer. Folk hittade många viktiga användningsfall, säger hon.

Med andra ord, förvänta dig att de iögonfallande robotarna och drönarna vid nästa MARS-konferens kommer med något ganska speciellt gömt inuti.

Dölj