211service.com
När våra enheter kan läsa våra känslor: Affectivas Gabi Zijderveld
Känslospårande AI börjar hjälpa maskiner att känna igen vårt humör. Är vi redo?
28 februari 2019
Personliga assistenter som Siri, Alexa, Cortana eller Google Home kan analysera våra talade ord och (ibland) svara på lämpligt sätt, men de kan inte bedöma hur vi känner – delvis för att de inte kan se våra ansikten. Men inom det framväxande området för känslospårande AI, studerar företag de ansiktsuttryck som fångas av våra enheters kameror för att tillåta mjukvara av alla slag att bli mer lyhörd för våra humör och kognitiva tillstånd.
På Affectiva, en startup i Boston som grundades av MIT Media Lab-forskarna Rosalind Picard och Rana El Kaliouby, har programmerare tränat maskininlärningsalgoritmer för att känna igen våra ansiktssignaler och avgöra om vi njuter av en video eller blir dåsiga bakom ratten. Gabi Zijderveld, Affectivas marknadschef och chef för produktstrategi, säger till Business Lab att sådan programvara kan effektivisera marknadsföring, skydda förare och i slutändan göra all vår interaktion med teknik djupare och mer givande. Men för att skydda sig mot risken för missbruk, säger hon, lobbar Affectiva också för branschövergripande standarder för att göra känslospårningssystem opt-in och samförstånd.
Business Lab-lyssnare är inbjudna att ansöka om att gå med i MIT Technology Review Global Panel, vårt exklusiva forum för tankeledare, innovatörer och chefer. Som medlem i den globala panelen kan du undersöka dagens tekniska trender, se undersöknings- och studieresultat, säga din mening och gå med dina kamrater på affärsmöten över hela världen.
VISA ANMÄRKNINGAR OCH LÄNKAR:
MIT Media Lab Affective Computing Group
FULLSTÄNDIG TRANSKRIPT:
Elizabeth Bramson-Boudreau: Från MIT Technology Review heter jag Elizabeth Bramson-Boudreau, och det här är Business Lab, programmet som hjälper företagsledare att förstå ny teknik som kommer ut från labbet och in på marknaden.
Elizabeth: Innan vi börjar vill jag bjuda in lyssnare att gå med i MIT Technology Review Global Panel, vårt exklusiva forum för tankeledare, innovatörer och chefer. Och som medlem i den globala panelen kan du undersöka dagens tekniska trender, se undersökningar och studieresultat, säga din mening och gå med dina kamrater på affärsmöten över hela världen. Ansök om att gå med i panelen på TechnologyReview.com/globalpanel. Det är TechnologyReview.com/globalpanel.
Elizabeth: Nu, skulle det inte vara coolt om din telefon kunde berätta att du är på ett surt humör från alla dagens avbrott och hålla dina samtal så att du får lite arbete gjort? Eller skulle det inte vara bra om din dotters surfplatta kunde se när hon är uttråkad med sitt pedagogiska spel och öka utmaningsnivån för att hålla henne engagerad?
Elizabeth: Tja, innan våra enheter kan tjäna oss bättre på sätt som detta, måste de förstå vad vi faktiskt känner. Och det är vad jag pratar om idag med min gäst Gabi Zijderveld. Hon är marknadschef och chef för produktstrategi på Affectiva, en startup i Boston som är ledande inom det nya området för känslospårande AI. Det är en spinoff från MIT Media Labs Affective Computing Group. That's Affective with a A. Affectiva bygger algoritmer som läser av människors ansikten för att upptäcka deras känslor och andra kognitiva tillstånd.
Elizabeth: Tekniken hjälper redan stora företag att testa hur publiken reagerar känslomässigt på deras annonser. Och nu leder Gabi ett projekt för att utrusta bilar med programvara som övervakar förarens kognitiva och känslomässiga tillstånd och hjälper till att hålla dem säkra och vakna. Det hela kan innebära ett stort steg framåt i hur vi interagerar med datorenheter. Men naturligtvis väcker det också några svåra frågor om hur man kan förhindra att algoritmer som kan läsa våra känslomässiga tillstånd utnyttjar vår uppmärksamhet eller invaderar vår integritet.
Elizabeth: Gabi, välkommen och tack så mycket för att du besökte oss.
Natt: Tack så mycket för att du har mig.
Elizabeth: Namnet på ditt företag, Affectiva, är en lek med ord, och det är en lek med termen affective computing. Kan du definiera vad affective computing är, tack?
Natt: Affective computing är i grunden utformad för att överbrygga klyftan mellan mänskliga känslor och teknik. Och affective computing gör det möjligt för tekniken att förstå mänskliga känslor och sedan anpassa sig och svara på dessa känslor.
Elizabeth: Så Affectiva, som jag förstår det, snurrade ut ur Media Lab 2009?
Natt: Ja korrekt. Nästan 10 år sedan.
Elizabeth: OK. Och medgrundarna är Rosalind Picard som är chef för Media Labs Affective Computing Group, och Rana El Kaliouby – jag är inte säker på om jag säger det rätt.
Natt: Rana El Kaliouby.
Elizabeth: Så hon var postdoc vid den tidpunkten i gruppen, eller hur?
Natt: Korrekt.
Elizabeth: Vilka var de stora idéerna som de två lade fram till bordet 2009, och enligt deras uppfattning, vad saknades i datoranvändning, och vad hoppades de förändra?
Natt: Dr Rosalind Picard startade faktiskt området för affektiv datoranvändning. Hon skrev den framstående boken för ungefär två decennier sedan, kallad Affective Computing. Så det här fältet är verkligen hennes idé. Och idag driver hon fortfarande gruppen på MIT Media Lab. Så Rana, Dr. Rana El Kaliouby, anslöt sig till Ros Picards grupp som postdoc, och tillsammans byggde de upp idén om att teknik skulle kunna ha förmågan att förstå och svara på mänskliga känslor, för att i grunden förbättra mänsklig interaktion med teknik för att göra dem mer relevant, lämpligare, men också kanske för att hjälpa människor att få bättre grepp eller bättre kontroll över känslor. I de tidiga dagarna var det särskilt mycket fokus på tillämpningarna inom mental hälsa, särskilt att hjälpa barn inom autismspektrumet, att använda teknik för att lära dem att känna igen eller förstå känslor och sedan coacha dem om hur de kan uttrycka sina egna känslor på lämpligt sätt. . Så att där, egentligen, den här idén började i början.
Natt: Och så började Rana och Ros få ett stort intresse från industrin. Så på MIT Naturligtvis finns det massor av evenemang och konferenser dit branschmedlemmar kommer för att få en känsla av vad som är nytt inom teknik och vad som utvecklas och under dessa demodagar började de få ett stort kommersiellt intresse för sin teknik. Av ett antal olika branscher, faktiskt, inklusive bilindustrin, vilket intressant nog är där vi är väldigt aktiva idag. Vid den tiden gick de till direktören för Media Lab och sa: Hej, vi behöver mer budget för att anställa fler forskare, och han rådde dem på ett lämpligt sätt: Ja, det är dags att du slår av och startar ditt eget företag. Och det var så 2009 de var med och grundade Affectiva. Ros Picard leder nu gruppen på MIT Media Lab så på daglig basis är hon inte längre involverad i företaget. Men Dr Rana El Kaliouby är idag vår VD.
Elizabeth: Som jag förstår det har du två huvudprodukter. Du har en produkt som är fokuserad på marknadsundersökningar och en annan – du nämnde bilindustrin – den handlar om förarsäkerhet. Kan du säga mer om dessa två produkter? Börja kanske med den som är fokuserad på marknadsundersökningar. Heter det Affdex?
Natt: Så faktiskt finns det olika, mer än bara dessa två produkter som vi har. Så det finns olika sätt vi har paketerat vår teknik. Men de två marknaderna som du beskrev är verkligen de viktigaste marknaderna vi är ute efter idag. Så den första, där vi har vår teknologi, Affdex, för marknadsundersökningar, är en produkt. Det är en molnbaserad lösning som i princip gör det möjligt för media och annonsörer, inklusive de stora varumärkena i världen, att testa sitt innehåll, såsom videoannonser och TV-program, med målgrupp. Och på den marknaden har vi varit marknadsledare i ett stort antal år, vi har haft den kommersiella produkten där ute i nära åtta år vid denna tidpunkt. Och idag använder ungefär en fjärdedel av Fortune Global 500 vår teknik för att testa alla sina annonser runt om i världen. Jag tror att vi den här månaden förmodligen har testat mer än 40 000 annonser i 87 länder, och vi har analyserat mer än sju och en halv miljon ansikten. Så enorma mängder data som vi har. Och det har gjort det möjligt för oss att bygga en produkt som också kan hjälpa dessa annonsörer att förutsäga nyckelprestandaindikatorer för annonsering. Så känslodata, eller känsloanalys, kan faktiskt hjälpa dem att förutsäga sannolikheten för att innehåll blir viralt, eller köpavsikt eller försäljningsökning.
Elizabeth: Ok. Hjälp mig nu att förstå, hur fungerar det hur det här faktiskt fungerar. Så är det här att ta en video av någon medan de till exempel tittar på en annons? Och sedan analyserar den ansiktets reaktioner på ögonen?
Natt: Ja i princip, det är så det görs. När det gäller hur vi vanligtvis arbetar arbetar vi med stora insiktsföretag eller marknadsundersökningsföretag, företag som Kantar Millward Brown. De har enorma forskningsprocesser där de engagerar sig med sina varumärkeskunder för att förstå hur deras annonsering och go-to-market behöver ske. Nu är vi en del av deras forskningsmetoder, vilket innebär att vår teknik är integrerad i deras övergripande plattformar. Och vanligtvis är hur det skulle fungera, de har betalda paneldeltagare som rekryteras för att delta i dessa konsumentinsiktsstudier. Som en del av dessa studier kan det finnas en undersökningskomponent, men det finns också en komponent som säger: OK, vi vill att du online ska titta på ett innehåll, som kan vara TV-program eller en videoannons, och vi ber dig att välja och samtycka till att vi spelar in och analyserar ditt ansikte när du tittar på innehållet. Och det är där vår teknik kommer in.
Natt: Det är en molnbaserad lösning. Allt vi behöver är att i princip ta, med tillåtelse, åtkomst till någons kamera, och när de tittar på detta innehåll, sittande hemma eller var de än råkar vara, på sin enhet, spelar vi in lite diskret i bakgrunden, deras ögonblick för ögonblick reaktioner på innehållet. Så ruta för ruta analyserar vi dessa svar. Och intressant nog har vår forskning visat att folk ganska snabbt glömmer att det finns en kamera där. De reagerar bara naturligt på vad de än tittar på. Och det är en sorts opartisk och ofiltrerad reaktion du vill ha. För med den insikten, om du sedan samlar på dig det i stor skala, kan du fatta riktigt viktiga beslut om ditt innehåll och till och med din innehållsplacering eller hur du spenderar dina reklampengar.
Natt: Så det är i princip de första marknaderna där Affective började. Idag är vi fortfarande mycket aktiva på denna marknad. En annan marknad för att gå efter riktigt med full kraft just nu är faktiskt bilindustrin. Och under det senaste året, för nästan ett år sedan, lanserade vi en ny lösning för den marknaden som heter AffectivA Automotive AI. I grund och botten är detta vår kärnteknologi paketerad och anpassad till fordonsindustrin, eftersom användningsfallen där är väldigt olika. De är tvåfaldiga. Å ena sidan inom bilindustrin, som vi alla vet, är trafiksäkerhet en nyckelfråga. Det är bara massor av dödsfall och tragiska olyckor som äger rum på vägarna varje dag på grund av distraherad körning och dåsig körning. Tänk nu om du kunde upptäcka att en förare var distraherad eller blev dåsig och få bilen att ingripa på ett relevant och lämpligt sätt? Att det är en sak som alla dessa biltillverkare går efter. Och det är här vår teknik kommer in, för återigen bara genom att använda kameror som redan finns i bilar idag kan vi helt enkelt och diskret förstå människors känslomässiga tillstånd och komplexa kognitiva tillstånd, såsom dåsighet och distraktion, genom att analysera deras ansikte. Så det är ett användningsfall inom bilindustrin. I grund och botten förarövervakning för att förbättra trafiksäkerheten.
Elizabeth: Du måste ha ganska mycket data som du behöver använda för att träna dina system för att kunna läsa ansiktena på ett stort antal människor. Kan du prata om var dina träningsdata kommer ifrån och vilken typ av uppsving du har fått av revolutionen inom maskininlärning och djupinlärning under de senaste fem, 10 åren? Kan du berätta lite om dina dataprocesser?
Natt: Ja absolut. Så jag kanske borde börja med maskininlärning och djupinlärning och varför vi faktiskt använder det. Så när du tänker på mänskliga känslor och hur dessa utvecklas och manifesterar sig, är mänskliga känslor faktiskt mycket komplexa, ofta extremt subtila och nyanserade. Och sedan när du tänker på komplexa kognitiva tillstånd, som tekniskt sett inte är känslor, saker som du känner till dåsighet och distraktion, det är också saker som utvecklas över tiden. Och det är sällan prototypiskt. Sällan i den verkliga världen ser du det där överdrivna leendet eller att någon somnar direkt. Det är tidsmässigt. Och att kunna modellera för dessa komplexiteter, du kan inte göra det med ett regelbaserat heuristiskt tillvägagångssätt. Du måste verkligen använda maskininlärning för att kunna upptäcka den typen av komplexitet.
Natt: Så det är därför för ett stort antal år sedan vår FoU verkligen förändrades till att all vår teknik byggdes med metoder för maskininlärning. Nu måste maskininlärning och djupinlärningsarkitekturer drivas av enorma mängder data. Utöver det, för oss, igen när du tänker på att modellera mänskliga tillstånd, ser uppenbarligen inte människor likadana ut beroende på ålder, kön och etnicitet. Och så finns det också kulturella influenser och kulturella normer som ibland förändrar uttrycket av känslor i mänskliga tillstånd. Så förutom att vi kan underblåsa djupt lärande behöver vi också stora mängder data för att redogöra för just den mångfald som finns i mänskligheten, mångfald som finns runt om i världen. Så för Affectiva är data avgörande för allt vi gör. Och vi har analyserat enorma mängder data och vi har samlat in enorma mängder data. Faktum är att vi har analyserat över 7,6 miljoner ansikten i 87 länder.
Elizabeth: Och var får du den informationen ifrån?
Natt: På en rad olika sätt. Så först och främst vad jag skulle vilja säga, eftersom detta är så viktigt för oss, samlas all denna data in med opt-in och samtycke. Vi har alltid, antingen rekryterar vi människor för att få deras data insamlade, eller så är det genom onlinemekanismer där vi uttryckligen berättar för människor att vi samlar in data och ber dem om tillåtelse att göra det. Även denna data är till största delen anonymiserad. Så, Elizabeth, om du deltog i en av våra studier, finns det bara inget sätt att jag kunde hitta ditt ansikte tillbaka. För i grunden är du ett ansikte. Du är inte en namngiven person. Så vi känner starkt för det.
Natt: Vi samlar in denna data på ett antal olika sätt. Som jag nämnde tidigare är vi väldigt aktiva inom media och reklam och genom våra partnerskap i den branschen har vi gjort ett stort antal mediatester, och det är genom det som vi har samlat in enorma mängder data. Det finns andra kundrelationer där vi i princip har avtal om datadelning. Alla våra kunder vill inte dela med sig av sin data, men några av dem gör det. Så det är en annan väg genom vilken vi får data. Och sedan när du till exempel tänker på bilindustrin, och låt oss använda exemplet med dåsig körning, så har vi denna massiva grunddatauppsättning som gör att vi kan bygga dessa algoritmer. Men vi har inte nödvändigtvis stora mängder dåsighet. Nu för att modellera för det och bygga algoritmer för det behöver du inte bara dåsig data, utan du behöver verkligen ett visst lager av denna data utöver vad du redan har, så du kan ställa in dina algoritmer för det.
Elizabeth: Så du kan skilja mellan en dåsig blick och, jag vet inte, en uttråkad blick.
Natt: Exakt, exakt eller distraherad rätt eftersom de manifesterar sig annorlunda.
Elizabeth: Och de får olika konsekvenser som förare.
Natt: Åh absolut. Absolut. Och även när det gäller hur du samlar in dessa data i fordonet, finns det också någon form av operativa utmaningar, beroende på kameraplacering, kameravinklar. Och nu måste vi naturligtvis stödja nära-infraröda kameror som används, för när du kör på natten eller i en tunnel är ljusförhållandena inte så bra. Så det här är alla miljöförhållanden som vi skulle ha haft att vi behövt träna våra algoritmer för. Men när du tänker på det, att fånga dåsig kördata är det inte så lätt. För det är inte så att vi kan hålla folk vakna i 48 timmar i ett av våra fantastiska sömnlabb runt Boston och sedan skicka dem ner till Memorial Drive i en bil och se om de somnar. Det är något som vi inte nödvändigtvis vill göra.
Natt: Så det är också en fråga om att samla in enorma mängder data, utvinna vår data för naturliga förekomster i dessa stater, och sedan också göra mycket specifika studier inriktade på demografi som är benägna att vara sömnig när de kör. Vi har till exempel gjort ett antal studier med skiftarbetare – personer som kanske arbetar långa pass i till exempel, låt oss säga en fabrik, och sedan måste köra hem mitt i natten. Du har större sannolikhet att fånga dåsig data på det sättet. Så det finns en mängd olika sätt som vi samlar in vår data på. Det ger oss ett enormt datalager och sedan används en delmängd av denna data för att modellera dina maskininlärningsklassificerare. Och sedan tar du fram ytterligare en delmängd som du använder för träning och validering. Så du håller dem åtskilda. Och vi samlar kontinuerligt in data och kommenterar kontinuerligt dessa data. Det är bara en pågående aspekt av våra FoU-insatser och att växa förvaret på det sättet.
Natt: Höger. Så vad du just har pratat om är de sätt på vilka du har konstruerat läsningen av känslor. Hur är det nu med behovet av att programmera datorerna för att tolka och använda den informationen. Är det inte mycket svårare att göra?
Natt: Det beror på. Huruvida det är svårare att göra eller inte beror lite på vad interaktionerna är. Och vanligtvis är det det ultimata designbeslutet för vår kund, men det är i hög grad också en samarbetsprocess. För att vi ska kunna utveckla dessa algoritmer som kan upptäcka och analysera mänskliga känslor är det också ytterst viktigt att förstå, vilka är användningsfallen? Hur vill de använda den tekniken? För du kan inte bara bygga dessa algoritmer i ett vakuum. Så det är väldigt mycket en samarbetsprocess.
Natt: Så jag sa tidigare att vi är ganska aktiva i bilindustrin just nu. Så det är en pågående dialog med biltillverkarna om hur de använder vår data för att sedan designa anpassningar eller ingrepp i ett fordon. Och en del av detta är i hög grad en föränderlig process. Om du kan se att någon blir distraherad i ett fordon, vill du inte nödvändigtvis ha alla dessa varningar och larm igång, om det bara är en mindre distraktion, eller hur? Det kan göra människor upprörda eller förvärra dem ännu mer och orsaka ännu farligare körbeteende. Du vill kunna förstå nivåer och intensiteter och frekvens av distraktion, och sedan utforma mycket subtila, relevanta och lämpliga interventioner.
Natt: Och det finns också en framtida statlig vision, och vi är verkligen inte där ur ett tekniskt perspektiv, men jag tror att vi är på väg dit i framtiden. Tänk om du kunde anpassa det till individen? Så när du blir dåsig kanske du skulle vilja lyssna på hårdrocksmusik. Kanske till och med jag är dåsig, jag vill bara absolut gå ur min bil och sträcka på benen och gå runt. Och hur min bil eller en framtida robottaxi tillgodoser mina behov...
Elizabeth: Är anpassad.
Natt: Är anpassad efter mina personliga behov i stunden, eller hur. Så löftet om att potentiellt bygga det här på ett personligt sätt, jag tror att vi är på väg dit i framtiden, men inte där än idag, och jag tror inte att vi kommer att se det om du vet i bilar på vägen någon gång snart .
Elizabeth: Jag är intresserad av i vilken utsträckning ni alla tänker på bakslagspotentialen i detta. Så just nu pratar vi såklart mycket om Facebook. Vi pratar mycket om valet 2016. Vi pratar om den manipulation som vi känner oss ganska säkra på har skett genom sociala medieplattformar som Facebook. Och jag undrar i vilken utsträckning du oroar dig för vad som skulle kunna göras med Affectivas teknologi och genom att läsa hur människor reagerar på vissa saker och därför justeringen av meddelandet för att göra det mer effektfullt. Oroar du dig för vilken typ av oförutsedda konsekvenser av denna teknik kan bli, om den inte hanteras på rätt sätt.
Natt: Självklart oroar vi oss för det. Men jag tror att varje enskilt teknikföretag behöver oroa sig för potentiella negativa tillämpningar av de produkter de designar. För ärligt talat kan varenda bit av teknik som vi använder dagligen användas för illvilliga eller smutsiga syften. Tänk på lastbilen. Det är valet av transportsätt för terrorister. Eller google maps. Höger. Så de teknologierna och systemen var inte designade för dessa användningsfall. Så jag tror först och främst som teknikföretag att man alltid måste vara uppmärksam på det, speciellt nu när tekniken har blivit så tillgänglig och datorkraften är så stark, och den är till hands för varje konsument. Du måste vara uppmärksam på det.
Elizabeth: Men när du har en verktygslåda, oroar du dig för vad som händer om den verktygssatsen kan användas på sätt som ni alla inte nödvändigtvis skulle kunna skydda sig mot?
Natt: Ja absolut. Så det finns saker som företag kan göra och saker som vi har gjort. Så jag talade precis nu i allmänna ordalag om vad jag skulle önska att teknikföretag ständigt skulle tänka på. Men till din tidigare fråga, om vi går tillbaka till den ursprungliga frågan, oroar vi oss för det? Absolut ja. Och vad gör vi åt det? En rad olika saker. Så först och främst, vår teknik, är vi väldigt försiktiga med vem vi licensierar den för. Och vi blir mycket strängare när det gäller var vi var för kanske till och med för några år sedan. Så det är inte så att någon där ute bara kan ta tag i vår teknik och bygga något med den.
Natt: Det finns även licensavtal eller juridiska dokument som vi har på plats som skyddar mot det. Vi har också uppgett som företag att det finns vissa typer av användningsfall som vi helt enkelt inte kommer att sälja vår teknik till. Vi tror på opt-in och samtycke, för när du analyserar saker som mänskliga känslor är känslor extremt privata, och vi vill inte engagera oss i säkerhet eller övervakning där människor inte har möjlighet att välja eller samtycka till deras ansikten som analyseras. Och vi har faktiskt tackat nej till affärer som skulle ha tagit oss in på den vägen.
Elizabeth: Vi skulle inte ens vara där vi är just nu om vi inte är det, vi kände inte alla en stor sorts cynism eller skepsis kring teknikens förmåga att utnyttjas, eller hållas från oförutsedda negativa konsekvenser. Höger? Så på sätt och vis ger det alla, ni faller under närmare granskning, eftersom vi känner oss skygga för teknik. Och vi vet att tillsynsmyndigheter i Washington är ineffektiva i detta avseende.
Natt: De är för att de inte förstår det rätt. Om du har senatorer som frågar ledarna på Facebook hur de tjänar pengar, eftersom de inte förstår kärnkoncepten för personlig annonsinriktning, så har vi ett problem. Det är också en utbildningsfråga. Men utöver det, en intressant friktion, eller hur? För det finns också, jag tror, bortsett från ett enormt ansvar som teknikföretag har, och där vissa kanske har släpat efter eller försummat, hur är det med konsumenten, eller hur? För det finns detta upplevda värde att ha. Vi gillar att använda sociala medieplattformar och vi är okej att dela våra liv där, eftersom vi uppfattar att vi får värde av det. Och vi som konsumenter ställer inte många frågor, och det oroar mig också. Speciellt när du vet att jag har en dotter som är på väg att fylla 13 och jag misstänker kommer att spendera mycket mer tid på enheter och sociala medier. Hur utbildar man sig för det? Även som konsument har just dessa system också blivit enormt komplexa. Gå bara in i dina iPhone-inställningar och försök ta reda på vart data går, och hur det flödar, och vad vill du stänga av när, och hur och hur gör du ens det?
Elizabeth: Det är väldigt svårt att tyda.
Natt: Det är inte särskilt intuitivt, eller hur? Medvetet så. Och du måste göra en poäng av att gå ut och hitta information och göra den och vända den, snarare än tvärtom, där kanske data hålls privat hela tiden och du går in och tillåter åtkomst. Så det finns en enorm friktion där, tror jag, mellan värde som konsumenter uppfattar för att få kontra värde som teknikföretagen faktiskt får med datan. Transparens i det. Så för oss som företag oroar vi oss verkligen för det.
Elizabeth: Du har dessa konversationer.
Natt: Åh ja. Kontinuerligt. Och även i offentliga fora. Vi gick med i Partnership on AI, som är ett industrikonsortium designat för att i princip realisera rättvis, ansvarsfull, transparent och etisk AI. Och vi var en av få nystartade företag som blev inbjudna att vara en del av det. Men det är ett sätt som vi hoppas kunna driva på för förändring. Och vi har också turen att Rana, vår VD, är mycket en tankeledare inom AI, mycket en offentlig person. Hon har möjligheter att vara ute och tala i offentliga miljöer. Och hon vill vara väldigt högljudd i dessa frågor eftersom vi har en stark åsikt om det. Och vi känner också att vi har ett socialt ansvar att vara transparenta om detta och att förespråka förändring. Eftersom en startup på 50 personer kan göra det. Men vi måste alla bidra med vår del.
Elizabeth: Så när jag tänker på vad effekten av känslomässig AI eller känslomässig AI kan vara på vägen, betyder det att, Siri kommer att få, Alexa kommer att bli bättre på att förstå mina känslor och svara på mig i enlighet med mina känslor? Och i så fall vad betyder det för framtiden? Vad betyder det om våra enheter är smarta på det här sättet om oss som känslovarelser?
Natt: Så idag förstås där vi är sammankopplade av hyperavancerade system och teknologier. Avancerad AI. Många kognitiva förmågor. Men vad som egentligen saknas är denna medvetenhet om känslor. Dessa system förstår för det mesta inte våra tillstånd, våra reaktioner, vårt välbefinnande. Och vi på Affectiva tror verkligen att det skapar mycket ineffektiva och ytliga interaktioner med teknik. Så tänk om dessa system kunde förstå våra känslor och våra kognitiva tillstånd och våra reaktioner och vårt beteende? Hur mycket effektivare skulle vår interaktion med dessa tekniker vara?
Natt: Så i framtiden föreställer jag mig verkligen en värld där vår typ av teknik, emotion AI, är ingrodd i väven av teknologier som finns till hands varje dag. Det är diskret i bakgrunden, förstår och svarar på vårt känslomässiga välbefinnande. Jag har också alltid haft den här visionen som vi som människor kanske skulle bära med oss, låt oss kalla det vårt känslopass. Det är vårt känslomässiga digitala fotavtryck som vi kontrollerar. Vi äger den datan. Det klarar vi. Och vi tillåter, med våra tillåtelser och önskningar, att ta det med oss från enhet till digital upplevelse till var vi än använder teknik. Oavsett om vi sitter på vårt kontor och arbetar på vår bärbara dator för att sätta oss i bilen eller använder en åkdel eller på våra hemsystem, som ett Google-hem eller i Alexa, you name it. Alla typer av teknik vi interagerar med. Det skulle finnas denna konsekventa förståelse för vårt välbefinnande och den skulle vägleda och ge oss råd och hjälpa oss. Och jag tror att det är den kritiska delen. Och det är därför jag tror att det också är så viktigt att allt detta görs med vår egen opt-in och samtycke och kontroll.
Elizabeth: Det är så fascinerande, för du kan tänka på att den här tekniken används för att skapa empati i de enheter vi använder, och de erfarenheter vi har, eller hur? Och svara på hur vi till exempel läser eller reagerar på en annons och justerar den. Och du kan också tänka på att den här tekniken används som ett sätt att hantera de känslor vi känner. Så när du pratade om ett känslopass kan du typ säga att jag känner mig pirrig, jag känner mig i vädret och jag vill att mina enheter och min teknik ska svara på det. Eller så kan du se det som att min av dessa enheter på något sätt behöver hantera mig från den känslan. Och det är ganska intressant att tänka på. Det kan gå åt båda hållen. Och du vet att jag antar att jag har min egen röst om vilken väg jag skulle vara mest bekväm med att det går.
Natt: Och helst skulle systemen förstå dig tillräckligt bra, vad som skulle vara lämpligt för stunden. För här tillåter vi att denna data spåras i längdriktningen och kanske på morgonen kan någon hemenhet som jag använder säga som, Hej Gabi, verkar som om du inte är lika glad som du var i går morse. Jag kan också säga att du inte riktigt sov de 7 timmar som är optimala för dig. Vill du att jag någonsin slår på den här musikspellistan? Och du kanske inte vill att enheten ska fungera idag. Varför beställer jag inte en skjutsandel åt dig? Eller så har kaffemaskinen precis startat i köket. Eller tvärtom. Så du kommer hem från jobbet och det är som att du hade en riktigt jobbig dag på jobbet. Jag gjorde en restaurangbokning åt dig och barnvakten kommer och hämtar ditt barn. Ja. Och tanken är att dessa som med, låt oss kalla det ett känslopass, som ger våra system och de teknologier som vi använder, ger dem insikt i vårt personliga tillstånd och vårt välbefinnande, tanken är att det kan hjälpa oss att vägleda och ge oss råd. och i huvudsak försöka göra våra liv bättre eller mer effektiva. Självklart skulle jag personligen vilja att det alltid var i min kontroll och mitt val och samtycke. Jag kanske inte vill att mina uppgifter om välbefinnande skickas till min läkare eller, gud förbjude, mitt försäkringsbolag. Men det kanske är till hjälp i vissa situationer. Och att kunna tillåta vår teknik att få en djupare förståelse för vårt välbefinnande och vårt tillstånd kan vara av avgörande betydelse.
Elizabeth: Underbar. Tack, Gabi, det här har varit väldigt intressant. Detta är ett spännande utvecklingsområde och vi önskar er all framgång.
Natt: Tack så mycket och tack för att du pratade med mig. Det var så stora frågor. Jag tyckte verkligen om att prata med dig. Tack.
Elizabeth: Det var allt för det här avsnittet av Business Lab. Jag är din värd Elizabeth Bramson-Boudreau. Jag är VD och utgivare av MIT Technology Review. Vi grundades 1899 vid Massachusetts Institute of Technology. Du kan hitta oss i tryckt form, på webben, vid dussintals liveevenemang varje år och nu i ljudform. På vår hemsida, TechnologyReview.com, kan du ta reda på mer om oss. Och glöm inte att ansöka om att gå med i MIT Technology Review Global Panel, en grupp av tankeledare, innovatörer och chefer, där du kan lära dig av dina kamrater och dela med dig av din expertis om dagens teknik- och affärstrender. Ansök på TechnologyReview.com/globalpanel. Den här showen är tillgänglig var du än får dina poddar. Om du gillade det här avsnittet hoppas vi att du tar dig tid att betygsätta och recensera oss på Apple Podcasts. Business Lab är en produktion av MIT Technology Review. Producenten är Wade Roush med redaktionell hjälp av Mindy Blodgett. Speciellt tack till vår gäst Gabi Zijderveld. Tack för att du lyssnar. Vi återkommer snart med ett nytt avsnitt.