Facebooks perfekta, omöjliga chatbot

Tim Liedtke

Amazons Alexa kan tillkalla en Uber och tillfredsställa en fyraårings krav på pruttljud. Siri kan styra din internetanslutna termostat. Var och en betjänar miljontals användare varje dag. Men en lycklig grupp på runt 10 000 personer, mestadels i Kalifornien, vet att Facebooks assistent, som heter M, är den smartaste i gänget.

Rekommendera och boka ett romantiskt hotell i Marocko som även är lämpligt för små barn? Inga problem. Få offerter från lokala entreprenörer för landskapsplanering av din trädgård? Se det som klart. Facebooks experimentella assistent, som erbjuds i företagets Messenger-app, visar värdet av att ha en riktig digital butler i fickan. Istället för att bara hämta enkla uppgifter från databaser kan M förstå komplexa beställningar och vidta åtgärder som att boka teaterbiljetter eller kontakta företag för information.

M är så smart för att den fuskar. Det fungerar som Siri i det att när du trycker ut ett meddelande till M, försöker algoritmer ta reda på vad du vill ha. Men när de inte kan faller M inte tillbaka på att söka på webben eller säga att jag är ledsen, jag förstår inte frågan. Istället tar en människa osynligt över och svarar på din begäran som om algoritmerna fortfarande var vid rodret. (Facebook avböjde att säga hur många av dessa arbetare det har, eller att göra M tillgänglig för att prova.)

Den designen är för dyr för att skala till de 1,2 miljarder människor som använder Facebook Messenger, så Facebook erbjöd M till några tusen användare 2015 som ett slags halvoffentligt FoU-projekt. Att sammanfläta mänskliga arbetare och algoritmer var avsett att avslöja hur människor skulle reagera på en allvetande virtuell assistent, och att tillhandahålla data som skulle låta algoritmerna lära sig att ta över deras mänskliga tränares arbete.

Alla inom det här fältet drömmer om att skapa assistenten som äntligen kommer att bli väldigt, väldigt, väldigt smart, säger Alex Lebrun, som startade projektet. M är tänkt att öppna en väg till att verkligen göra det.

Nu två år på den vägen kan Facebooks forskningsprojekt med rätta kallas framgångsrikt. Användare som M, och teorin att programvara kan lära sig att ta över en del arbete från de mänskliga tränarna har bekräftats. Ändå är M fortfarande långt ifrån den punkt där det kan vara en riktig produkt som erbjuds de andra 99,9 procenten av Messenger-användarna, och framstegen har vunnits svårare än väntat.

Vi visste att det var en enorm utmaning, men den är ännu större än jag trodde, säger Lebrun. Inlärningshastigheten, tillväxten av automatiseringen – vi har sett att det skulle gå långsammare än vi hoppats. M:s berättelse är en påminnelse om hur långt artificiell intelligens har kommit de senaste åren – och hur långt det måste gå.

M är för moonshot

Människor är förvånansvärt spel att prata med dumma maskiner. Den första chatboten skapades 1964 av MIT-professorn Joseph Weizenbaum. Det travade ut konserverade rader som svar på specifika sökord, mest framgångsrikt när han spelade rollen som terapeut. Till Weizenbaums förtret blev många människor som provade det, inklusive hans egen sekreterare, slagen trots att de visste att boten, som heter Eliza, inte visste någonting. Jag hade inte insett att extremt korta exponeringar för ett relativt enkelt datorprogram kunde framkalla kraftfullt vanföreställningstänkande hos ganska normala människor, skrev han senare.

Att skapa en chatbot som hjälper dig genom att få saker gjorda, inte bara fungera som bollplank eller biktfader, är mycket svårare. När en virtuell tjänare ombeds att göra något, kommer ett vagt eller avvisande svar inte att avbryta det. Dagens mjukvara är dålig på att förstå språket och världen, så virtuella assistenter, som Siri eller Alexa, måste explicit programmeras för att hantera en given uppgift.

Det är därför bots på marknaden har begränsade repertoarer. Och det förklarar förmodligen varför förslagen förra året om att chatbotar var inställda på att förändra hur vi använder datorer ungefär som mobilappar gjorde, understödda av Microsoft, Facebook och vissa tekniska investerare, verkar inte ha varit så mycket. Bots är just nu i botten av förtvivlan, säger Greg Cohn, VD för Burner, ett mobilt sekretessföretag som har börjat hjälpa Airbnb-värdar att skapa en enkel bot för att svara på vanliga frågor från gäster. För branschobservatörer känns det som att de är överhypade och underlevererar.

Lebrun byggde M för att han hade ägnat mer än ett decennium åt att bygga konventionella, smala chatbots och drömde om att erbjuda mycket mer. Han gick med i Facebook i början av 2015 när det sociala nätverket förvärvade Wit.ai, ett företag som han var med och grundade för att hjälpa företag att skapa chatbots för funktioner som kundsupport. Lebrun hade tidigare sålt ett chatbotföretag till taligenkänningsjätten Nuance.

Varje enskild bot på marknaden, inklusive min, var regelbaserad, och du vet att du en dag kommer att nå ett tak och aldrig gå igenom, säger Lebrun. Våra barn arbetar inte med regler eller manus, och en dag blir de smartare än du.

M erbjöds till en början bara Facebook-anställda och sedan till några tunga Messenger-användare i Kalifornien. Och det tog inte lång tid att visa att algoritmer verkligen kunde lära sig att utföra en del av det arbete som utförs av människorna som driver assistenten.

Tim Liedtke

Facebooks forskargrupp för artificiell intelligens använde M för att testa en ny typ av inlärningsprogram som kallas ett minnesnätverk, som hade visat förmåga att svara på frågor om enkla berättelser. Programvaran använder ett slags arbetsminne för att salta bort viktig information för senare användning, en design som Google också testar för att förbättra programvarans resonemangsförmåga.

Weizenbaum hade redan 1964 föreslagit att något sådant här kunde göra Eliza smartare, och inom några veckor fungerade det för M. Lebrun minns att han blev förvånad efter att ha tackat assistenten för att han beställde biobiljetter. Det genererade automatiskt svaret Du är välkommen. Njut av filmen. M hade lärt sig att komma ihåg och använda sammanhanget för uppgiften den hjälpte till med. Vi blev riktigt blåsta, säger Lebrun. Ingen skrev ett program för att göra det.

Minnesnätverk fortsatte att göra mer. De slår nu in om någon ber M att få blommor levererade, till exempel automatiskt med hjälp av nyckelinformation från förfrågan, såsom budget eller adress, för att generera förslag från florister online. Den mänskliga tränaren väljer sedan vad som ska erbjudas användaren.

Andra upptäckter har varit mindre jubel. En är den enorma aptiten M låser upp hos sina användare. Med begränsade, helautomatiska assistenter som Siri eller Alexa tenderar människor att sätta sig in i att använda ett fåtal funktioner som de tycker fungerar tillförlitligt. Med M gör de det inte.

Folk försöker först fråga efter vädret i morgon; sedan säger de ’Finns det en italiensk restaurang tillgänglig?’ Därefter har de en fråga om immigration, och efter ett tag ber de M att ordna deras bröllop, säger Lebrun. Vi visste att det skulle vara farligt, och det är bredare än våra förväntningar.

Mänskliga tränare gör sitt bästa när de får svåra frågor som Ordna så att en papegoja besöker min vän , men ibland vägrar de helt och hållet hjälpa till. Även om M automatiskt skulle tacka nej till de mest komplexa användarfrågorna, men den stora variationen av deras förfrågningar gör målet att få algoritmer att ta över från mänskliga tränare svårare att nå. En teknik som kallas djupinlärning har nyligen gjort maskininlärning mer kraftfull (minnesnätverk är ett exempel). Men att lära sig att hantera en mängd olika komplexa scenarier, med lite data om var och en eftersom de inte uppstår ofta, är inte den typ av problem som djupinlärning överträffar. Det är mycket smartare och det kan lära sig mycket komplexa uppgifter, men det behöver mycket data, säger Lebrun.

Lång tid

Långsammare framsteg än väntat har fått Facebook att tänka om sitt projekt. Förra veckan dök det upp en funktion som heter M Suggestions i Messenger, som i sin funktion liknar de typer av begränsade bots som M är tänkt att förskjuta. Den tittar på dina chattar med vänner efter ledtrådar om att du kanske vill göra saker som att beställa en resa med Uber eller skicka pengar till någon, och erbjuder en knapp för att uppnå dessa mål med ett enda tryck.

Vi bestämde oss för att hitta ett användningsfall där vi kan påskynda leveransen av värde till användarna, säger Laurent Landowski, som gick med i Facebook med Lebrun som medgrundare av Wit.ai och nu övervakar M. (Lebrun återvände till sitt hemland Frankrike i januari och gick med i Facebooks AI-forskning labb i Paris.)

Den ursprungliga, människoberoende M är fortfarande ute och levererar mycket större värde till sina få lyckliga användare. Facebook säger att det är engagerat i projektet, och det aktuella ögonblicket inom artificiell intelligens är bra för långsiktiga satsningar. Under de senaste åren har djupinlärning höjt etablerade tekniker och förväntningar på programvara som bearbetar språk, säger Justine Cassell , professor vid Carnegie Mellon. Vi är i glansdagarna för dessa nya maskininlärningsalgoritmer, säger hon. Faktum är att Googles översättningsnoggrannhet nyligen hoppade till en nästan mänsklig nivå.

Det betyder inte att det är en självklarhet att programvara kan lära sig att spela butler genom att se människor göra det. Jag tror inte att vi vet ännu, säger Cassell. Men Facebooks forskare säger att de har massor av idéer att utforska.

En är att få den automatiserade sidan av M att lära sig av positiv eller negativ feedback i de meddelanden som användarna skickar, med hjälp av en teknik inspirerad av processen att träna djur med belöningar (se 10 Breakthrough Technologies 2017: Reinforcement Learning ). M kan avancera snabbare om inte enbart beroende av vad dess mänskliga entreprenörer gör. För att väcka idéer i det bredare forskarsamhället har Facebooks team släppt verktyg för att hjälpa andra att testa och jämföra oskriptade assistentbots. Och lovande nya tekniker kan nu även testas i större skala, i M Suggestions.

Lebrun och Landowski tror att de fortfarande är på väg att så småningom föra ut det riktiga M till massorna. Ibland säger vi att det här är tre år eller fem år - men det kanske är 10 år eller mer, säger Landowski.

Lebrun tillägger: Det är så svårt och vi gör framsteg långsamt, men jag tror att vi har allt vi behöver. Han kan ha rätt, men du kan också föreställa dig att någon som träffade Eliza 1964 sa ungefär samma sak.

Dölj