Social intelligens

jag: Ska jag gå och lägga mig, Siri?

Siri: Jag tycker att du ska sova på det.

Den här historien var en del av vårt majnummer 2012

• Se resten av frågan
• Prenumerera

Det är svårt att inte beundra ett sånt smart-aleck-svar. Siri – den intelligenta personliga assistenten som är inbyggd i Apples iPhone 4S – visar ofta denna typ av attityd, särskilt när den ställs en fråga som gör narr av dess artificiella intelligens. Men svaret är inte något snårigt skämt med programmerare. Det är en avgörande del av varför Siri fungerar så bra.

Siri popularitet visar att en digital assistent behöver mer än bara intelligens för att lyckas; det behöver också takt, charm och överraskande nog, kvickhet. Fel orsakar frustration och irritation med alla datorgränssnitt. Risken förstärks dramatiskt med en som poserar som en personlig konversationsassistent, ett faktum som har gjort några socialt förkrossade virtuella assistenter ogiltiga tidigare. Så för Siri kan det vara lika viktigt att vara sympatisk och ibland knäpp som att blända med maskinintelligens.

Saker granskade

• Siri (betaversion, körs på iPhone 4)

• START

  http://start.csail.mit.edu

• Mannen som ljög för sin bärbara dator: vad maskiner lär oss om mänskliga relationer

  Clifford Nass
  Aktuell, 2010

  
  
  

Siri har sitt ursprung i ett forskningsprojekt som startade 2003 och finansierades av den amerikanska militärens Defense Advanced Research Projects Agency (DARPA). Satsningen leddes av SRI International, som 2007 drev ut ett företag som släppte den ursprungliga versionen av Siri som en iPhone-app i februari 2010 (tekniken namngavs bland Teknikgranskning 10 nya teknologier under 2009). Denna tidigare Siri kunde göra färre saker än den som senare kom inbyggd i iPhone 4S. Den kunde få tillgång till en handfull onlinetjänster för att göra restaurangbokningar, köpa biobiljetter och boka taxibilar, men det var felbenäget och fick aldrig någon stor hit bland användarna. Apple köpte startupen bakom Siri för en ej avslöjad summa bara två månader efter att appen gjorde sin debut.

Siri som dök upp ett och ett halvt år senare fungerar häpnadsväckande bra. Den lyssnar på talade kommandon (på engelska, franska, tyska och japanska) och svarar med antingen en lämplig åtgärd eller ett svar som talas med en lugn, lämpligt robotaktig kvinnlig röst. Be Siri att väcka dig klockan 8:00 och den ställer in telefonens väckarklocka därefter. Säg till Siri att skicka ett sms till en vän så kommer det att ta diktering innan du avfyrar ditt meddelande. Say Var kan jag hitta en burrito, Siri? och Siri kommer att visa upp en lista över välrenommerade mexikanska restauranger i närheten, hittade genom att fråga telefonens platssensor och utföra en webb- och kartsökning. Siri har också otaliga fakta och siffror till hands, tack vare onlinesvarsmotorn Wolfram Alpha, som har tillgång till många databaser. Fråga: Vad är Jupiters radie? och Siri kommer nonchalant att informera dig om att det är 42 982 miles.

Siris karismatiska kvalitet saknas helt i andra naturliga språkgränssnitt. Flera företag säljer virtuella kundtjänstagenter som kan chatta med kunder online i maskinskriven text. Ett exempel är Eva, skapad av det spanska företaget Indysis. Eva kan chatta bekvämt om inte konversationen börjar avvika från de områden som den har tränats att prata om. Om det gör det, kommer Eva ganska oförskämt försöka driva dig tillbaka mot dessa ämnen.

Siri har även några närmare konkurrenter i form av appar tillgängliga för iPhones och Android-enheter. Evi, gjord av True Knowledge; Dragon Go, från röstigenkänningsföretaget Nuance; och Iris, gjorda av det indiska mjukvaruföretaget Dexetra, är alla varianter på temat en röststyrd personlig assistent, och de kan ofta matcha Siris förmåga att förstå och utföra enkla uppgifter, eller att hämta information. Men de är mycket mindre socialt skickliga. När jag frågade Iris om den tyckte att jag skulle gå och lägga mig, kanske du kunde använda resten var dess platt, humorlösa svar.

Även om Siri är imponerande, är den inblandade AI inte så sofistikerad. Boris Katz, en ledande forskare vid MIT:s datavetenskap och artificiell intelligens Lab, som har byggt maskiner som analyserar mänskligt språk i decennier, misstänker att Siri inte lägger ner mycket ansträngning på att analysera vad en person frågar. Istället för att ta reda på hur orden i en mening samverkar för att förmedla mening, tror han, känner Siri ofta bara igen några nyckelord och matchar dem med ett begränsat antal förprogrammerade svar. De lärde det några saker, och systemet förväntar sig de sakerna, säger han. De är väldigt smarta med vad folk brukar fråga.

Däremot har konventionell forskning om artificiell intelligens strävat efter att analysera mer komplex betydelse i konversationer. 1985 började Katz bygga ett system som heter START för att svara på frågor genom att bearbeta meningsstruktur. Det systemet svarar på maskinskrivna frågor genom att analysera hur orden är ordnade, för att tolka innebörden av det som frågas. Detta gör det möjligt för START att svara på frågor formulerade på komplexa sätt eller med en viss grad av tvetydighet.

2006 – ett år innan SRI avbröt sin start – demonstrerade Katz och kollegor en mjukvaruassistent baserad på START som kunde nås genom att skriva in frågor i en mobiltelefon. Konceptet är anmärkningsvärt likt Siri, men denna del av START-projektet kom aldrig längre. Det förblev mindre viktigt än Katz strävan efter sitt verkliga mål - att skapa en maskin som bättre kan matcha den mänskliga förmågan att använda språk.

För att förstå hur svårt det är att få rätt kommunikation behöver du inte leta längre än till den ökända intelligenta assistenten Clippy, som introducerades av Microsoft 1997.

START är bara en liten utlöpare av forskningen om artificiell intelligens som började cirka 50 år tidigare som ett försök att förstå hur det mänskliga sinnet fungerar och att skapa något liknande i maskiner. Denna ansträngning har producerat många verkligt anmärkningsvärda teknologier, som kan utföra beräkningsuppgifter som är omöjligt komplicerade för människor. Men forskning om artificiell intelligens har misslyckats med att återskapa många aspekter av mänskligt intellekt, inklusive språk och kommunikation. Som Katz förklarar kan en enkel konversation mellan två personer utnyttja hela djupet av en persons livserfarenheter, och detta är fortfarande omöjligt att efterlikna i en maskin. Så även när AI-system har blivit bättre på att komma åt, bearbeta och presentera information, har mänsklig kommunikation fortsatt att undgå dem.

Trots att Siri är mindre kapabel än START att hantera språkets komplexitet, visar Siri att en maskin kan göra precis tillräckligt många knep för att lura användare att känna att de har något ungefär som en riktig konversation. För att förstå hur svårt det är att få ens enkel textbaserad kommunikation rätt behöver du inte leta längre än den ökända intelligenta assistenten som introducerades av Microsoft redan 1997. Detta irriterande virtuella gem, kallat Clippy, skulle dyka upp när en användare skapade en dokument, som erbjuder hjälp med ett meddelande som den irriterande raden. Det ser ut som att du skriver ett brev. Vill du ha hjälp? Microsoft förväntade sig att användarna skulle älska Clippy. Bill Gates trodde att fans skulle designa Clippy T-shirts, muggar och webbplatser. Så företaget blev förbluffat och förvirrat när användarna hatade Clippy och skapade t-shirts, muggar och webbplatser som var dedikerade till att nedvärdera det. Responsen var så dålig att Microsoft dödade Clippy 2007.

Innan det gjorde det anlitade Microsoft Stanford-professorn Clifford Nass, en expert på interaktion mellan människa och dator, för att undersöka varför programmet hade inspirerat till så mycket obehag. Nass, som är författare till Mannen som ljög för sin bärbara dator: vad maskiner lär oss om mänskliga relationer, har ägnat år åt att studera liknande fenomen, och hans arbete antyder en ganska enkel orsak: människor tillämpar instinktivt reglerna för mänskliga sociala interaktioner på hanteringen av datorer, mobiltelefoner, robotar, navigationssystem i bilen och liknande maskiner. Nass insåg att Clippy bröt nästan alla normer för acceptabelt socialt beteende. Den gjorde samma misstag om och om igen och plågade ständigt användare som ville lämnas ifred. Clippys problem var att det sa 'Jag ska göra allt' och sedan fortsatte att bli besviken, säger Nass. Precis som en person som upprepar samma svar om och om igen får oss att känna oss förolämpade, säger Nass, så gör ett datorgränssnitt det också – även om vi mycket väl vet att vi har att göra med en maskin.

Clippy visade att försök till mer mänsklig kommunikation kan slå tillbaka spektakulärt om subtiliteterna i socialt beteende inte förstås och respekteras. Nass säger att Apple gjorde allt för att göra Siri sympatisk. Siri påtvingar sig inte användaren alls. Applikationen körs i bakgrunden på iPhone, och hoppar till uppmärksamhet endast när användaren håller ner hemknappen eller lägger telefonen mot örat och börjar prata. Den undviker också att göra samma misstag två gånger, att försöka olika svar när användaren upprepar en fråga. Även tonen i Siris röst var noggrant vald för att vara oförarglig, tror Nass.

Apple begränsade också de uppgifter Siri kan utföra och de svar den kan ge, troligen för att undvika besvikelse. Om du ber Siri att posta något på Twitter, till exempel, kommer den att erkänna att den inte vet hur. Men eftersom alternativet kan vara att oavsiktligt sända förvrängda tweets, är denna strategi förståelig.

Noggrannheten i Siris röstigenkänning hjälper också till att undvika besvikelse. Systemet hör ibland fel ord, ofta med underhållande resultat. Jag är ledsen, Will, jag förstår inte 'Jag behöver pyjamas' var ett nyfiket svar på en fråga som inte hade något med pyjamas att göra. Men mestadels fungerar röstsystemet anmärkningsvärt bra. Det har inga problem med min engelska accent eller med många komplexa ord och fraser, och denna övergripande noggrannhet gör det udda misstaget så mycket mer acceptabelt.

En nyckelutmaning för Apple var att en person strax efter att ha träffat Siri kan uppleva en kraftfull lust att snubbla upp denna virtuella kunskap: att fråga den meningen med livet, om den tror på Gud eller om den känner till R2D2. Apple valde att hantera detta fenomen på ett uppfinningsrikt sätt: genom att se till att Siri förstår skämtet och spelar med. Därför har den ett smart svar för nästan vilken kurva som helst som kastas på den och varierar till och med dess svar, ett knep som får det att verka kusligt mänskligt ibland.

Detta skämt hjälper också till att minska slaget när Siri missförstår något eller blir överraskad av en förvånansvärt enkel fråga. En gång, när jag frågade vem som vann Super Bowl, omvandlade den stolt en koreansk won till dollar åt mig. Jag visste att detta bara var ett algoritmiskt fel i en avlägsen bank av datorservrar, men jag kände också ett behov av att tolka det som att Siri var galen.

Nass säger att hur Siri hanterar humor är inspirerat. Forskning har visat, konstaterar han, att humor får människor att verka smartare och mer sympatiska. Intermittent, oskyldig humor har visat sig, för både människor och datorer, vara effektiv, säger Nass. Det är väldigt positivt, även för det tråkigaste, stabila datorgränssnittet.

Men Katz, som någon som har strävat efter att ge maskiner möjligheten att använda språk i decennier, hoppas så småningom få se något mycket mer sofistikerat än Siri dyka upp: en maskin som kan föra riktiga konversationer med människor. Sådana maskiner skulle kunna ge grundläggande insikter om den mänskliga intelligensens natur, säger han, och de kan ge ett mer naturligt sätt att lära maskiner hur man blir smartare.

Det kan fortsätta att vara drömmen för AI-forskare. För resten av oss är dock ankomsten av en virtuell assistent som faktiskt är användbar ett lika grundläggande genombrott. På Katz kontor på MIT visade jag honom några av de roliga svaren som Siri kommer med när hon blir provocerad. Han skrattade och anmärkte åt ingenjörernas skicklighet som designade Siri, men han talade också som AI-forskare med hjälp av betydelser och ord som Siri utan tvekan skulle kämpa med. Det är inget fel med att ha jippon, sa han, men det skulle vara trevligt om det faktiskt kunde analysera djupt vad du sa. Konversationerna med användaren blir så mycket rikare.

Katz har rätt i att en mer revolutionerande intelligent personlig assistent – ​​en som kan utföra många mer komplicerade uppgifter – kommer att behöva mer avancerad AI. Men detta underspelar också en viktig innovation bakom Siri. Efter att ha testat appen ett tag till erkände Katz att han beundrar entreprenörer som vet hur man förvandlar framsteg inom datavetenskap till något som vanliga människor kommer att använda varje dag. Jag önskar att jag visste hur folk gör så, erkänner han.

För svaret kanske han bara behöver fortsätta prata med Siri.

Will Knight är Teknikgranskning s onlineredaktör.

Dölj