Vi behöver datorer med empati

Jag repeterade ett tal för en AI-konferens nyligen när jag råkade nämna Amazon Alexa. Vid vilken tidpunkt Alexa vaknade och meddelade: Spelar Selena Gomez. Jag var tvungen att skrika Alexa, sluta! några gånger innan hon ens hörde mig.

Men Alexa var omedveten om min irritation. Liksom majoriteten av virtuella assistenter och annan teknik där ute, har hon ingen aning om vad vi känner.

Den här historien var en del av vårt novembernummer 2017

• Se resten av frågan
• Prenumerera

Vi är nu omgivna av hyperanslutna smarta enheter som är autonoma, konversationsbaserade och relationella, men de saknar helt någon förmåga att berätta hur irriterade eller glada eller deprimerade vi är. Och det är ett problem.

Tänk om istället dessa tekniker – smarta högtalare, autonoma fordon, tv-apparater, uppkopplade kylskåp, mobiltelefoner – var medvetna om dina känslor? Tänk om de kände ett icke-verbalt beteende i realtid? Din bil kanske märker att du ser trött ut och erbjuder dig att ta ratten. Ditt kylskåp kan fungera med dig på en hälsosammare kost. Din bärbara träningsspårare och TV kan slå sig samman för att få dig upp ur soffan. Din badrumsspegel kan känna att du är stressad och justera belysningen samtidigt som du slår på rätt stämningshöjande musik. Hämningsmedvetna tekniker skulle ge personliga rekommendationer och uppmuntra människor att göra saker annorlunda, bättre eller snabbare.

Idag är en framväxande kategori av AI – artificiell emotionell intelligens eller emotion AI – fokuserad på att utveckla algoritmer som kan identifiera inte bara grundläggande mänskliga känslor som glädje, sorg och ilska utan också mer komplexa kognitiva tillstånd som trötthet, uppmärksamhet, intresse , förvirring, distraktion och mer.

Jag förväntar mig att tekniken som omger oss kommer att bli känslomedvetna under de kommande fem åren.

Mitt företag, Affectiva, är bland dem som arbetar med att bygga sådana system. Vi har sammanställt en stor mängd data som består av sex miljoner ansiktsvideor som samlats in i 87 länder, vilket gör att en AI-motor kan ställas in för verkliga uttryck av känslor i det vilda och för att ta hänsyn till kulturella skillnader i känslomässiga uttryck.

Med hjälp av datorseende, talanalys och djupinlärning klassificerar vi ansikts- och röstuttryck av känslor. En hel del öppna utmaningar kvarstår — hur tränar man sådana multimodala system? Och hur samlar du in data för mindre frekventa känslor, som stolthet eller inspiration?

David biskop

Ändå går området så snabbt framåt att jag förväntar mig att tekniken som omger oss kommer att bli känslomedvetna under de kommande fem åren. De kommer att läsa och svara på mänskliga kognitiva och känslomässiga tillstånd, precis som människor gör. Emotion AI kommer att vara förankrat i den teknik vi använder varje dag, köra i bakgrunden, vilket gör våra tekniska interaktioner mer personliga, relevanta, autentiska och interaktiva. Det är svårt att komma ihåg nu hur det var innan vi hade beröringsgränssnitt och taligenkänning. Så småningom kommer vi att känna på samma sätt om våra känslomedvetna enheter.

Här är några av de applikationer jag är mest exalterad över.

Bil : Ett fordon som är medvetet om passagerarna kan övervaka föraren för trötthet, distraktion och frustration. Utöver säkerheten kan din bil anpassa upplevelsen i hytten genom att ändra musiken eller de ergonomiska inställningarna efter vem som sitter i bilen.

Relaterad berättelse

Relaterad berättelse En teknik för att läsa känslor i ansikten kan hjälpa företag att sälja godis. Nu hoppas dess skapare att den också kan ta sig an större problem.

Utbildning : I inlärningsmiljöer online är det ofta svårt att avgöra om en elev har det svårt. När provresultaten släpar efter är det ofta för sent – ​​studenten har redan slutat. Men tänk om intelligenta lärsystem kunde ge en personlig inlärningsupplevelse? Dessa system skulle erbjuda en annan förklaring när eleven är frustrerad, saktar ner i tider av förvirring, eller bara berättar ett skämt när det är dags att ha lite kul.

Sjukvård : Precis som vi kan spåra vår kondition och fysiska hälsa kan vi spåra vårt mentala tillstånd och skicka varningar till en läkare om vi väljer att dela denna information. Forskare undersöker känslomässig AI för tidig diagnos av sjukdomar som Parkinsons och kranskärlssjukdom, samt självmordsprevention och autismstöd.

Kommunikation : Det finns många bevis för att vi redan behandlar våra enheter, särskilt konversationsgränssnitt, hur vi behandlar varandra. Människor namnger sina sociala robotar, de anförtror Siri att de blivit fysiskt misshandlade och de ber en chatbot om moraliskt stöd när de ger sig ut på cellgiftsbehandling. Och det är innan vi ens har lagt till empati. Å andra sidan vet vi att yngre generationer tappar en viss förmåga till empati eftersom de växer upp med digitala gränssnitt där känslor, huvuddimensionen av det som gör oss till människor, saknas. Så emotion AI kan helt enkelt föra oss närmare varandra.

Som med all ny teknik finns det potential för både gott och missbruk. Det är svårt att bli mer personlig än information om dina känslor. Människor bör vara tvungna att välja alla typer av datadelning, och de bör veta vad uppgifterna används till. Vi måste också ta reda på om vissa tillämpningar korsar moraliska gränser. Vi måste ta reda på reglerna kring integritet och etik. Vi måste arbeta för att undvika att skapa partiskhet i dessa applikationer. Men jag tror starkt på att potentialen för det goda överväger det dåliga.

Rana el Kaliouby är VD och medgrundare av Affectiva. 2012 utsågs hon till en av MIT Technology Review s 35 innovatörer under 35.

Dölj