211service.com
Baidus djupinlärningssystem konkurrerar med människor inom taligenkänning
Kinas ledande internetsökföretag, Baidu, har utvecklat ett röstsystem som i vissa fall kan känna igen engelska och mandarintal bättre än människor.
Det nya systemet, kallat Deep Speech 2 , är särskilt betydelsefull när det gäller hur den helt och hållet förlitar sig på maskininlärning för översättning. Medan äldre röstigenkänningssystem innehåller många handgjorda komponenter för att underlätta ljudbearbetning och transkription, lärde sig Baidu-systemet att känna igen ord från grunden, helt enkelt genom att lyssna på tusentals timmars transkriberat ljud.
Tekniken förlitar sig på en kraftfull teknik som kallas djupinlärning, vilket innebär att man tränar ett mycket stort flerskiktat virtuellt nätverk av neuroner för att känna igen mönster i stora mängder data. Baidu-appen för smartphones låter användare söka med rösten och inkluderar även en röststyrd personlig assistent som heter Duer (se Baidu’s Duer Joins the Personal Assistant Party ). Röstfrågor är mer populära i Kina eftersom det är mer tidskrävande att mata in text och för att vissa människor inte vet hur man använder Pinyin, det fonetiska systemet för att transkribera mandarin med latinska tecken.
Historiskt sett såg folk kinesiska och engelska som två vitt skilda språk, och därför fanns det ett behov av att designa väldigt olika funktioner, säger Andrew Ng, en före detta Stanford-professor och Google-forskare, och nu chefsforskare för det kinesiska företaget. Inlärningsalgoritmerna är nu så generella att du bara kan lära dig.
Deep learning har sina rötter i idéer som först utvecklades för mer än 50 år sedan, men under de senaste åren har nya matematiska tekniker, i kombination med större datorkraft och enorma mängder träningsdata, lett till anmärkningsvärda framsteg, särskilt i uppgifter som kräver någon sorts av visuell eller auditiv perception. Tekniken har redan förbättrat prestandan för röstigenkänning och bildbehandling, och stora företag inklusive Google, Facebook och Baidu tillämpar den på de enorma datamängder de äger.
Deep learning används också för allt fler uppgifter. Facebook använder till exempel djupinlärning för att hitta ansikten i bilderna som dess användare laddar upp. Och på senare tid har det gjort framsteg när det gäller att använda djupinlärning för att tolka skriven text (se Teaching Machines to Understand Us). Google använder nu djupinlärning i mer än 100 olika projekt, från sökning till självkörande bilar.
Under 2013 öppnade Baidu sin egen insats för att utnyttja denna nya teknik, den Deep Learning Institute , samlokaliserat vid företagets huvudkontor i Peking och i Silicon Valley. Deep Speech 2 utvecklades främst av ett team i Kalifornien.
Vid utvecklingen av Deep Speech 2 skapade Baidu också ny hårdvaruarkitektur för djupinlärning som går sju gånger snabbare än den tidigare versionen. Deep learning bygger vanligtvis på grafikprocessorer, eftersom dessa är bra för de intensiva parallella beräkningarna som är involverade.
Den hastighet som uppnåddes gjorde att vi kunde experimentera i mycket större skala än vad människor hade uppnått tidigare, säger Jesse Engel , en forskare vid Baidu och en av mer än 30 forskare namngivna på en artikel som beskriver Deep Speech 2. Vi kunde söka över många [neurala nätverk]-arkitekturer och minska antalet ordfel med 40 procent.
Ng tillägger att detta nyligen har gett några imponerande resultat. För korta fraser, ur sitt sammanhang, verkar vi överträffa mänskliga nivåer av igenkänning, säger han.
Han tillägger: På mandarin finns det många regionala dialekter som talas av mycket mindre befolkningar, så det finns mycket mindre data. Detta kan hjälpa oss att känna igen dialekterna bättre.