För att bygga en smartare chatbot, lär den först ett andraspråk

herr. tech





Från Alexa och Siri till otaliga chatbots och automatiserade kundsupportlinjer, datorer lär sig gradvis att prata. Det enda problemet är att de fortfarande är väldigt lätta att förväxla.

Ett forskarteam på Salesforce har kommit på ett smart sätt att förbättra prestandan för många moderna språkprogram – att lära en algoritm att tala ett annat språk innan den tränas för att utföra andra uppgifter.

Att lära maskiner att hålla en sammanhängande konversation är fortfarande en av de stora enastående utmaningarna inom AI eftersom att reda ut betydelsen av talad eller skriven text så ofta är beroende av en bredare förståelse av världen eller sunt förnuft (se AI:s språkproblem).



Det visar sig att utbildning av ett maskininlärningssystem för att översätta mellan två språk automatiskt lär det användbara saker om ords relation och lämpliga sammanhang. När detta system används som grunden för ett annat maskininlärningssystem – ett som är tränat för att föra en konversation, säg, eller att upptäcka känslorna i text – presterar det mycket bättre än ett system som tränats från grunden.

Vi tar maskinöversättningsdata och vi lär i princip modellen hur man förstår ord och sammanhang, säger vi Richard Socher , chefsforskare på Salesforce och expert på att tillämpa maskininlärning och språk.

Arbetet är ett exempel på hur framsteg inom maskininlärning kan bidra till att förbättra språkkunskaperna i AI-system. Många djupinlärningsbaserade datorseendesystem använder sig av någon form av nätverksförträning, och Socher föreslår att maskinöversättning kan erbjuda ett liknande sätt att bootstrap naturliga språksystem.



Salesforce, en onlineplattform för att hantera kundinteraktioner över försäljning, marknadsföring och handel, erbjuder redan en rad AI-verktyg genom sin Einstein-plattform. Dessa inkluderar ett verktyg för att automatiskt klassificera känslan av e-post eller chattmeddelanden, och ett annat för att prioritera de leads en arbetare eftersträvar baserat på hans eller hennes tidigare aktivitet.

Socher tror att denna upptäckt kommer att bidra till att förbättra de naturliga språkegenskaperna hos Einstein-plattformen. För chatbots och automatisering av kundsupport är det här supernyttigt, säger han.

Salesforce-forskarna tränade ett djupinlärningssystem för att översätta mellan engelska och tyska. Detta innebar att mata ett stort antal översatta dokument till ett neuralt nätverk med många lager och att justera nätverkets parametrar tills det lärde sig att producera en anständig översättning för sig själv. Systemet representerar ord med hjälp av vektorer, vilket är ett vanligt sätt att koda och analysera betydelse i text.



Forskarna tränade sedan det tvåspråkiga nätverket att göra en mängd olika saker: bestämma känslan av ett stycke text; klassificera olika typer av frågor; och svara på frågor. Och de visar att deras förutbildade nätverk överträffade prestandan för en som inte har lärt sig ett andra språk.

Datauppsättningar för maskinöversättning är särskilt stora, vilket hjälper till med utmaningen med maskininlärning. Det finns en viktig koppling mellan översättning och resten av språket, säger Bryan McCann, en forskare på Salesforce involverad i projektet. [Översättningsdatauppsättningar] är mycket generella; de innehåller information som kan vara användbar över hela linjen för naturlig språkbehandling.

Dölj