Hur man förhindrar en plåga av dumma chatbots

De senaste minuterna har jag chattat med George Washington, och ärligt talat verkar han ganska berusad. Han verkar också ha hängt med 20-åringar, för han säger hela tiden saker som coolt, haha, och vill du gå med i min armé eller vad?

Detta är naturligtvis inte USA:s första president. Det är automatiserad, konversationsbaserad artificiell intelligens, känd som en chatbot, skapad av Berusad historia , en komedi-TV-show, och tillgänglig via meddelandeprogrammet Kik. Det är förvånansvärt underhållande, om inte väldigt sammanhängande.

Du kan nu chatta med alla typer av bots genom ett antal meddelandetjänster inklusive Vem ,WeChat, Telegram , och nu, Facebook Messenger . Vissa är helt enkelt menade att underhålla, men ett växande antal är utformade för att göra något användbart. Du kan nu boka ett flyg, ta del av de senaste tekniska rubrikerna och till och med köpa en hamburgare från Burger King genom att skriva meddelanden till en virtuell hjälpare. Startups tävlar om att erbjuda verktyg för att påskynda utvecklingen, förvaltningen och intäktsgenereringen av dessa virtuella butlers.

Problemet är att datorer fortfarande har svårt att förstå mänskligt språk i all dess komplexitet och subtilitet. Vissa imponerande framsteg görs, men chatbots är fortfarande utsatta för förvirring och missförstånd. Och även om den berusade George Washington kan göra en dygd av det, är det mindre charmigt när du försöker boka ett flyg.

De bästa kommersiella chatbotarna kommer sannolikt att vara de som känner igen sina egna begränsningar. En fallgrop är att försöka göra för många saker samtidigt, säger Paul Gray, chef för plattformstjänster på Kik, som har erbjudit integration för bots sedan 2014. Du bör börja smått och enkelt.

30SecondstoFly , baserat i New York och Bangkok, bygger en chatbot för resebokning som fungerar via SMS eller meddelandeplattformen Slack. Företaget använder verktyg som tillhandahålls av API.ai , ett företag i Kalifornien som har byggt upp en kraftfull uppsättning verktyg för att hantera frågor skrivna på naturligt språk, men som fortfarande missförstår människor.

Vi har ett vardagsspråk som är väldigt svårt; då har vi specifika önskemål som inte finns i våra användarscenarier, säger medgrundaren Felicia Schneiderhan. Detta ledde till att företaget utvecklade ett eget verktyg för att omdirigera meddelanden till mänskliga hjälpare.

Denna rusning mot chatbots beror delvis på populariteten för flera nya meddelandetjänster. Men ansträngningarna att utnyttja bots har utan tvekan också inspirerats av otroliga framsteg inom andra områden av artificiell intelligens under de senaste åren, såsom bearbetning av bilder och ljud.

Men att bearbeta språk är en helt annan utmaning, och en som har förvirrat AI-forskare i årtionden. Chatbots går tillbaka till AIs tidigaste dagar. En av de allra första, ringde Eliza , utvecklades vid MIT 1964. Eliza spelade rollen som psykoterapeut och använde ett enkelt knep för att få folk att ställa: ställa standardfrågor och ofta omformulera en persons egna uttalanden i form av en fråga. Men om du avviker väldigt långt från formeln tappar Eliza snabbt handlingen.

Dagens chatbots är bättre, men inte mycket, och det är knappast förvånande. Det har inte skett några grundläggande genombrott i att träna datorer för att bearbeta och svara på språk (ett område som kallas naturlig språkbehandling) under de senaste åren.

Microsoft är ett exempel: det har förklarat att framtiden för persondatorer kommer att handla om bots, även om dess egna experiment med självlärande chatbotar har belyst några av de återstående utmaningarna (se Microsoft säger att Maverick Chatbot förebådar framtiden för datoranvändning och varför Microsoft av misstag släppte lös en nazistisk sexbot ).

Som sagt, teknikerna som har lett till framsteg inom andra områden, främst djupinlärning, visar lovande för att analysera språk, säger Chris Dyer , en biträdande professor vid Carnegie Mellon University. Neurala nätverk har mycket lovande här, säger Dyer. Det finns mycket spännande arbete som kommer ut med några månaders mellanrum om att svara på frågor.

En del av det arbetet matas nu in i chatbotarna som dyker upp. Derrick Connell, en koncernchef på Microsoft som övervakar teknik för företagets sökmotor, Bing, och dess personliga assistent, Cortana, säger att frågor som skrivs in i Bing används för att träna chatbotalgoritmerna som Microsoft gör tillgängliga för utvecklare. Han säger också att de flesta chatbots kommer att behöva regelbunden omskolning för att förstå nya fraser och begrepp, men att de bör förbättras stadigt med det. Det kommer att finnas kantfall, men med tiden kommer systemet att lära sig och fortsätta att bli bättre, säger Connell.

Mycket arbete återstår fortfarande. Facebooks egen virtuella hjälpare, kallad M, är faktiskt fortfarande bemannad av människor. Svaren som dessa personer ger används för att träna algoritmer för djupinlärning som så småningom kan svara på frågor själva.

Att hämta och presentera information från en databas på ett sätt som känns naturligt för en person är särskilt svårt att uppnå, säger Dyer; och att förstå en persons avsikt är fortfarande en olöst utmaning.

Med tanke på sannolikheten för förvirring och missförstånd är det knappast meningsfullt att designa chatbots så att de är för generella, eller att låta dem göra något särskilt viktigt. Juridisk rådgivning, medicinsk rådgivning och psykiatrisk rådgivning skulle förmodligen alla vara mycket riskabelt, säger Dyer.

Dölj