Nvidia gjorde det enklare att bygga smartare chatbots och smartare falska nyheter

En bild av en röstassistentenhet bredvid ljudvågor Ms Tech; originalbild: HARMON KARDON

Artificiell intelligens har gjort imponerande framsteg under det senaste decenniet, men maskiner är fortfarande usla på att förstå språk. Försök bara att engagera Alexa i lite kvicka skämt.

Nvidia, företaget som tillverkar datorchips som driver många AI-algoritmer, tror att detta är på väg att förändras och vill dra nytta av en förväntad explosion.

Programvara som chiptillverkaren släpper gör det enklare att bygga AI-program på sin hårdvara som kan använda språk mer elegant. Den nya koden kan påskynda utvecklingen av nya språkalgoritmer och göra chatbotar och röstassistenter snabbare och smartare.

Nvidia tillverkar redan de mest populära chipsen för att träna AI-modeller med djup inlärning, som är skickliga i uppgifter som bildklassificering. Traditionellt har det dock varit mycket svårare att tillämpa statistiska maskininlärningsmetoder som djupinlärning på det skrivna eller talade ordet, eftersom språket är så tvetydigt och komplext.

Men det har skett några betydande framsteg på sistone. Två nya metoder för djupinlärning av språk från Google, kända som Transformer och BERT, har visat sig vara särskilt skickliga på att översätta mellan språk, svara på frågor om ett stycke text och till och med skapa realistiskt utseende text. Detta har väckt ett ökat akademiskt och branschintresse för att utveckla språket med hjälp av maskininlärning.

Kombinationen av Transformer och BERT har varit enormt påverkande, säger Alexander Rush , en professor vid Harvard University som är specialiserad på underområdet AI som kallas naturligt språkbehandling (NLP). Det är i princip toppmodernt i varje riktmärke och tillåter en undergraduate att producera modeller i världsklass i fem rader kod.

Nvidia har varit skickliga på att jaga de senaste trenderna inom AI-forskning. Om dess senaste gissning visar sig vara korrekt, kan röstassistenter gå från att bara svara på skällande kommandon till att sätta ihop fler ord på ett konsekvent sätt. Chatbots kan under tiden bli mindre otydliga, medan autoslutförandefunktionen hittade många i program och appar kan börja föreslå hela stycken istället för bara de kommande orden.

Vi har en stor efterfrågan på språkmodellering, säger Bryan Catanzaro , VP för tillämpad djupinlärning på Nvidia. Och om man ser till takten i språkutvecklingen verkar det som en självklar plats för oss att göra investeringar.

Nvidia utvecklade sin mjukvara genom att optimera många delar av processen som används för att träna språkmodeller på sina GPU:er. Detta påskyndade träningen av AI-modeller (från flera dagar till mindre än en timme), accelererade prestandan hos tränade språkmodeller (från 40 millisekunder till drygt 2 millisekunder) och gjorde att mycket större språkmodeller kunde tränas (Nvidias språkmodell , kallad Megatron, är många gånger större än något tidigare gjort, med 8,6 miljarder parametrar).

Autokomplettera inget ont

Framsteg i språket kan dock ha en mörkare sida. Smartare algoritmer skulle kunna användas för att massproducera mer övertygande, skräddarsydda falska recensioner, inlägg på sociala medier och nyhetsartiklar. Andra forskargrupper har visat hur kraftfulla språkmodeller kan skapa en realistisk text efter att ha fått i sig stora delar av texter från internet.

Nvidia har en enkel plan för att förhindra potentiellt missbruk: den kommer inte att släppa den största språkmodellen den har utvecklat och planerar att förlita sig på att forskare använder sina verktyg med omsorg. Vi släpper kod som visar hur man använder GPU:er för att träna dessa stora modeller, säger Catanzaro. Vi tror att communityn kommer att använda den här koden på ett ansvarsfullt sätt, men kom ihåg att träningsmodeller av den här storleken kräver seriös datorkraft, vilket gör den utom räckhåll för de flesta.

Även om framstegen fortsätter i snabb takt, kommer det sannolikt att ta lång tid innan maskiner verkligen kan prata med oss. Språk är bedrägligt svårt för maskiner att förstå, delvis på grund av dess sammansättningskomplexitet: ord kan arrangeras om för att låsa upp oändlig betydelse. Att förstå innebörden av en fras kräver ofta också någon sorts sunt förnuftsförståelse av världen - något datorer inte har.

Vi ser en renässans i NLP-kapaciteten, säger Oren Etzioni, VD för The Allen Institute for Artificiell Intelligens (Ai2) , en ideell organisation i Seattle dedikerad till banbrytande AI-forskning. Detta kommer att leda till bättre chatbots och röstassistenter, säger han, även om de kommer att lida av brist på sunt förnuft. En röstassistent som är lika hjälpsam som en skicklig hotellconcierge är fortfarande bortom horisonten, säger Etzioni.

Ai2 lanserade nyligen ett verktyg som heter Grover , som använder NLP-framsteg för att fånga upp text som verkar ha tagits fram av AI. Etzioni påpekar att bots redan lurar folk på Facebook och Twitter. Automatiskt genererad falsk text är redan här, säger han, och kommer sannolikt att öka exponentiellt.

Dölj