211service.com
Superdatorn i pintstorlek som företag försöker skaffa
Nvidias DGX-1 superdator är designad för att träna djupinlärningsmodeller snabbare än vad konventionella datorsystem gör.
För företag som brottas med komplexa dataprojekt som drivs av artificiell intelligens är ett system som Nvidia kallar en AI-superdator i en låda en välkommen utveckling.
Tidiga kunder hos Nvidia DGX-1 , som kombinerar maskininlärningsprogramvara med åtta av chiptillverkarens högsta grafikprocessorenheter (GPU), säger att systemet låter dem träna sina analytiska modeller snabbare, möjliggör större experimenterande och kan underlätta genombrott inom vetenskap, hälsovård och finans. tjänster.
Dataforskare har utnyttjat GPU:er för att påskynda djupinlärning - en AI-teknik som efterliknar hur mänskliga hjärnor bearbetar data - sedan 2012 , men många säger att nuvarande datorsystem begränsar deras arbete. Snabbare datorer som DGX-1 lovar att göra algoritmer för djupinlärning mer kraftfulla och låter datavetare köra djupinlärningsmodeller som tidigare inte var möjliga.
DGX-1 är inte en magisk lösning för alla företag. Det kostar 129 000 dollar, mer än system som företag kan montera själva av enskilda komponenter. Den kommer också med en fast mängd systemminne och GPU-kort. Men eftersom de relevanta delarna och programmen är förinstallerade i en metallkapsling ungefär lika stor som en medelstor resväska, och eftersom den kopplar ihop avancerad hårdvara med snabb anslutning, hävdar Nvidia att DGX-1 är lättare att installera och snabbare att analysera data än tidigare GPU system. Dessutom tyder det positiva mottagande som DGX-1 har fått under de första månaderna av tillgänglighet att liknande allt-i-ett djupinlärningssystem kan hjälpa organisationer att köra fler AI-experiment och förfina dem snabbare. Även om DGX-1 är det enda systemet i sitt slag idag, kommer Nvidias tillverkningspartner att släppa nya versioner av superdatorn i början av 2017.
Färre än 100 företag och organisationer har köpt DGX-1 sedan de började levereras i höstas, men tidiga användare säger att Nvidias påståenden om systemet verkar hålla i sig. Jackie Hunter, VD för London-baserade Välvillig AI Life Sciences-avdelningen, BenevolentBio, säger att hennes datavetenskapsteam hade modellträning på DGX-1 samma dag som den installerades. Hon säger att teamet kunde utveckla flera storskaliga modeller utformade för att identifiera lämpliga molekyler för läkemedel inom åtta veckor. Dessa modeller tränar tre till fyra gånger snabbare på DGX-1 än på startupens andra GPU-system, enligt Hunter. Vi hade flera modeller som ursprungligen tog veckor att träna, men vi kan nu göra det här på dagar och timmar istället, tillägger hon.
Massachusetts General Hospital har en DGX-1 i ett av sina datacenter och har en till på beställning. Den säger att den behöver GPU-superdatorer som DGX-1 för att knäcka stora volymer av olika typer av data. MGH:s Center for Clinical Data Science , som koordinerar tillgången till sjukhusets DGX-1 över Boston-området PartnersHealthCare-system , säger projekt som använder superdatorn kommer att involvera analys av patologi- och radiologibilder, elektroniska hälsojournaler och genomisk information.
Om du använder inte bara röntgen, utan en hel mängd klinisk information, faktureringsinformation och sociala medier som indikatorer på en patients hälsa, behöver du verkligen stora mängder GPU-datorkraft för att krossa det, säger centerchefen Mark Michalski.
Flera andra organisationer använder DGX-1 för att förstå enorma mängder data relaterade till hälsovård och medicinsk forskning. Argonne och Oak Ridge nationella laboratorier använder sina för att studera uppkomsten av cancer och identifiera nya terapier som en del av Joe Bidens Cancer Moonshot-projekt.
DGX-1 används också aktivt inom AI-forskningssamhället. Nvidia donerade den första DGX-1 som den producerade till det ideella AI-forskningsföretaget OpenAI och gav nio andra system till universitet med framstående djupinlärningsavdelningar, inklusive New York University, Stanford University och University of Toronto.
Multinationella företag knäpper också upp systemen. SAP, som tillverkar mjukvara för att hjälpa företag att hantera sin verksamhet och kundrelationer, har installerat DGX-1 i två av sina globala innovationscentra , en i Potsdam, Tyskland och en i Ra'anana, Israel, och driver proof-of-concept-projekt på systemen för att identifiera de bästa sätten att använda deras skala och hastighet, säger vicepresident Markus Noga. Fidelity Labs , Fidelity Investments FoU-arm, äger också två DGX-1:or och planerar att använda dem för att bygga neurala nätverk eller datorsystem som är modellerade efter den mänskliga hjärnan, säger labbchefen Sean Belka.
Även de som redan äger en DGX-1 kommer sannolikt att fortsätta att använda en blandning av högpresterande datorsystem, inklusive cloud computing och andra GPU-baserade system, snarare än att flytta allt sitt djupinlärningsarbete till superdatorn. Andra företag kanske inte köper en i första hand på grund av dess höga initialkostnad och fasta konfiguration.
Men många verkar tycka att priset är värt det. BenevolentAI uppskattar att kostnaden för att hyra tillräckligt med servrar på Amazon Web Services för att matcha DGX-1:s prestanda skulle överstiga systemets prislapp på $129 000 inom ett år. Greg Diamos, senior forskare inom Baidus Silicon Valley AI Lab , som är expert på högpresterande datoranvändning, erkänner att superdatorn är dyr men säger att priset återspeglar konfigurationsarbetet och supporten som Nvidia tillhandahåller. Baidus AI Lab har ingen DGX-1, men håller på att uppgradera sitt system till samma GPU-kort och räknar med att den nya tekniken kommer att accelerera sin AI-forskning med cirka 3,5 gånger, enligt Diamos.
Företag som är fokuserade på att bygga applikationer för djupinlärning och inte vill oroa sig för att designa hård- och mjukvaruplattformen som de kör på kommer förmodligen att överväga DGX-1, säger Diamos. Men jag förväntar mig att större kunder som gör allt detta arbete internt köper individuella GPU:er och integrerar dem själva i anpassade HPC-kluster istället för att betala premien för DGX-1.