211service.com
Håller Google på marknaden med djupinlärning?
Hur mycket är ett dussin djuplärande forskare värda? Tydligen mer än 400 miljoner dollar.
I 'Plex : Google spenderar hundratals miljoner för att bygga programvara som kan lära sig av informationen som lagras i dess datacenter.
Den här veckan, Google enligt uppgift betalade så mycket att förvärva DeepMind Technologies , en startup baserad i London som hade en av de största koncentrationerna av forskare någonstans som arbetade med djupinlärning, ett relativt nytt område för forskning om artificiell intelligens som syftar till att uppnå uppgifter som att känna igen ansikten i video eller ord i mänskligt tal (se Deep Learning ).
Förvärvet, som syftar till att lägga till skickliga experter snarare än specifika produkter, markerar en acceleration i ansträngningarna från Google, Facebook och andra internetföretag för att monopolisera de största hjärnorna inom forskning om artificiell intelligens.
I en intervju förra månaden, innan DeepMind-förvärvet, Peter Norvig , en forskningschef på Google, uppskattade att hans företag redan sysselsatte mindre än 50 procent men säkert mer än 5 procent av världens ledande experter inom maskininlärning, vars bredare disciplin är djupinlärning i framkant.
Företag som Google förväntar sig djupinlärning för att hjälpa dem att skapa nya typer av produkter som kan förstå och lära av bilder, text och video som täpper till webben. Och till en betydande grad har ledande akademiska forskare anammat Silicon Valley, där de kan leda team av ingenjörer istället för studenter och har tillgång till de största och mest intressanta datamängderna. Det är en kombination av de datorresurser vi har och antalet anställda vi kan erbjuda, sa Norvig. På Google, om du vill ha en kopia av webben, ja, vi råkar bara ha en kvar.
Yoshua Bengio , en AI-forskare vid University of Montreal, uppskattar att det bara finns cirka 50 experter världen över inom djupinlärning, av vilka många fortfarande är doktorander. Han uppskattade att DeepMind anställde ett dussin av dem i sin personal på cirka 50. Jag tror att detta är huvudorsaken till att Google köpte DeepMind. Den har en av de största koncentrationerna av experter på djupinlärning, säger Bengio.
Företag som tävlar med Google om talang är bland annat Amazon, Microsoft och även Facebook, som i september skapade sin egen grupp för djupinlärning (se Facebook lanserar avancerad AI-ansträngning för att hitta mening i dina inlägg). Den rekryterade kanske världens mest kända djuplärande forskare, Yann LeCun från New York University, för att driva det. Hans NYU-kollega, Rob Fergus , tackade också ja till ett jobb på det sociala nätverket.
Krigsspel : Programvara från DeepMind lärde sig på egen hand hur man spelar Space Invaders.
När avancerad maskininlärning övergår från en huvudsakligen vetenskaplig strävan till en med hög industriell betydelse, är Googles bänk förmodligen djupast. Namn den har lockat från akademin till heltids- eller deltidsroller inkluderar Sebastian Thrun (som har arbetat med företagets autonoma bilprojekt); Fernando Pereira, en gång datorforskare vid University of Pennsylvania; Stanfords Andrew Ng; och Singularity University-chefen Ray Kurzweil.
Förra året tog Google också tag i den berömda djupinlärningsforskaren Geoff Hinton från University of Toronto och en passel av hans studenter när de förvärvade Hintons företag, DNNresearch. Hinton arbetar nu deltid på Google. Vi sa till Geoff: 'Vi gillar dina grejer. Skulle du vilja köra modeller som är 100 gånger större än någon annans?’ Det var attraktivt för honom, sa Norvig.
Alla är inte glada över ankomsten av den ökända Google Bus till ett av akademins sällsynta områden. I december, under ett vetenskapligt möte i Lake Tahoe, gjorde Mark Zuckerberg, grundare och VD för Facebook, ett överraskande framträdande tillsammans med uniformerade vakter, enligt Alex Rubinsteyn, en bioinformatikforskare vid Mount Sinai Medical Center, som klagade i ett blogginlägg att en kulturell gräns mellan akademin och Silicon Valley hade passerats.
Inom akademin är status forskningsmeriter, det är vad du vet, säger Rubinsteyn. I Silicon Valley beror det på att du driver ett företag eller är rik. Och då tänker folk runt omkring dem också på att bli rika.
Peter Lee, chef för Microsoft Research, berättade Bloomberg Businessweek att experter på djupinlärning var så efterfrågade att de beordrar samma typer av sjusiffriga löner som vissa förstaårs NFL-quarterbacks.
Vissa har motstått industrins uppmaning. Av de tre datavetare som anses vara upphovsmännen till djupinlärning – Hinton, LeCun och Bengio – har bara Bengio hittills stannat kvar i elfenbenstornet. Jag trodde bara inte att jag skulle bli lyckligare att tjäna 10 gånger mer, säger han. Som akademiker kan jag välja vad jag ska arbeta med och överväga mycket långsiktiga mål. Dessutom, säger han, har branschbidrag börjat flöda i väg när företagen inser att de snart kommer att få slut på rekryter. I år planerar han att öka antalet doktorander han utbildar från fyra till 15.
DeepMind grundades för två år sedan av Demis Hassibis, en 37-åring beskrivs av Tiderna av London som speldesigner, neurovetare och en gång schackvidunder. DeepMind-forskarna var välkända i det vetenskapliga samfundet, deltog i möten och publicerade uppsatser på ganska hög nivå inom maskininlärning, även om de ännu inte hade släppt en produkt, säger Bengio.
DeepMinds expertis är inom ett område som kallas förstärkningsinlärning, vilket innebär att få datorer att lära sig om världen även från mycket begränsad feedback. Tänk om jag bara berättade för dig vilka betyg du fick på ett prov, men inte berättade varför, eller vad svaren var, säger Bengio. Det är ett svårt problem att veta hur du kan göra bättre.
Men i december publicerade DeepMind ett papper som visar att dess mjukvara kunde göra det genom att lära sig spela sju Atari2600-spel använder endast den information som är synlig på en videoskärm, såsom partituren. För tre av spelen, klassikerna Breakout, Enduro och Pong, slutade datorn med att spela bättre än en expert. Det fungerade mindre bra på Q*bert och Space Invaders, spel där den bästa strategin är mindre uppenbar.
Sådana skickliga datorprogram kan ha viktiga kommersiella tillämpningar, inklusive förbättring av sökmotorer (se How a Database of the World's Knowledge Shapes Google's Future ), och kan vara särskilt användbara för att hjälpa robotar att lära sig att navigera i den mänskliga världen. Google förvärvade förra året flera ledande robotföretag, inklusive tillverkare av olika typer av humanoida robotar (se Googles senaste robotförvärv är den smartaste ännu .)
Visst, stora företag skulle inte spendera så mycket för att monopolisera talang inom artificiell intelligens om de inte trodde att dessa datorhjärnor kommer att ge dem en kraftfull fördel. Det kan låta som en filmintrig, men kanske är det till och med dags att undra vad det första företaget som hade en äkta AI skulle göra med kraften som den gav.
Bengio säger att man inte ska oroa sig för det. Industrin är intresserad av att tillämpa maskininlärning, och särskilt djupinlärning, på de uppgifter som de vill lösa, säger han. Dessa [ansträngningar] är på väg mot AI, men fortfarande långt ifrån det.