211service.com
Podcast: AI hittar sin röst
Dagens röstassistenter är fortfarande långt ifrån de hyperintelligenta tankemaskinerna vi har funderat över i årtionden. Och det beror på att den tekniken faktiskt är kombinationen av tre olika färdigheter: taligenkänning, naturlig språkbehandling och röstgenerering.
Var och en av dessa färdigheter innebär redan enorma utmaningar. För att bara behärska den naturliga språkbehandlingsdelen? Du måste i stort sett återskapa intelligens på mänsklig nivå. Djup lärning, tekniken som driver den nuvarande AI-boomen , kan träna maskiner till att bli mästare på alla möjliga uppgifter. Men det kan bara lära sig en i taget. Och eftersom de flesta AI-modeller tränar sina färdigheter på tusentals eller miljontals befintliga exempel, slutar de med att de replikerar mönster i historiska data – inklusive de många dåliga beslut som människor har tagit, som att marginalisera färgade personer och kvinnor.
Ändå har system som brädspelsmästaren AlphaZero och den allt mer övertygande generatorn för falska texter GPT-3 väckt debatten om när människor kommer att skapa en artificiell allmän intelligens —maskiner som kan multitaska, tänka och resonera för sig själva. I det här avsnittet utforskar vi hur maskiner lär sig att kommunicera – och vad det betyder för människorna i andra änden av konversationen.
Vi träffas:
- Susan C. Bennett, röst till Siri
- Cade Metz, New York Times
- Charlotte Jee, MIT Technology Review
Krediter
Det här avsnittet producerades av Jennifer Strong, Emma Cillekens, Anthony Green, Karen Hao och Charlotte Jee. Vi är redigerade av Michael Reilly och Niall Firth.
Transkript
[TR ID]
Jim: Jag vet inte om det var AI... Om de hade tagit inspelningen av något han hade gjort... och kunnat manipulera det... men jag säger er, det var min son.
Stark: Dagen började som alla andra för en man... vi ska ringa Jim. Han bor utanför Boston.
Och förresten... han har en familjemedlem som jobbar för MIT.
Vi kommer inte att använda hans efternamn eftersom de är oroliga för sin säkerhet.
Jim: Det var en tisdag eller onsdag morgon, klockan nio är jag djupt i tankar och jobbar på något,
Stark: Det vill säga... tills han fick det här samtalet.
Jim: Telefonen ringer... och jag tar upp den och det är min son. Och han är helt klart upprörd. Den här ungen är en riktigt cool kille men när han blir upprörd har han ett antal vokala manér. Och det här var som, herregud, han har problem.
Och han sa i princip till mig, titta, jag sitter i fängelse, jag är i Mexiko. De tog min telefon. Jag har bara 30 sekunder på mig. De sa att jag drack, men det gjorde jag inte och folk är sårade. Och titta, jag måste sluta luren, ringa den här advokaten och den ger mig ett telefonnummer och måste lägga på.
Stark: Hans son är i Mexiko... och det råder ingen tvekan i hans sinne... det är han.
Jim: Och jag måste säga dig, Jennifer, det var han. Det var hans röst. Det var allt. Tona. Bara dessa små manér, pauserna, sugandet efter luft, allt du kan tänka dig.
Stark: Hans hjärta är i halsen...
Jim: Mitt hår står på kanten
Stark: Så han ringer det telefonnumret... En man tar upp... och han ger mer information om vad som händer.
Jim: Din son anklagas för att ha kört på den här bilen. Det var en gravid kvinna som körde vars arm var bruten. Hennes dotter satt i baksätet... är i kritiskt tillstånd och de har anklagat honom för att köra påverkad. Vi tror inte att han har gjort det. Det här har vi, vi har stött på det här ett antal gånger tidigare, men det viktigaste är att få honom ur fängelset, få honom säker, så fort som möjligt.
Stark: Sedan övergår samtalet till pengar... han har fått höra att borgen har fastställts... och han måste lägga ner tio procent.
Jim: Så fort han började prata om pengar, du vet, flaggan gick upp och jag sa, ursäkta mig, finns det någon chans att detta är en bluff av något slag? Och han blev riktigt irriterad. Han är som, hej, du ringde mig. Jag tycker att det är väldigt stötande att du anklagar mig för något. Och så går mitt hjärta tillbaka i halsen. Jag är som att det här är en kille som är mellan min son och ännu värre fängelse. Så jag backade...
[Musik]
Min fru går in 10 minuter senare och säger, ja, du vet, jag smsade med honom sent i går kväll. Som att det här är ungefär den tiden han förmodligen skulle ha arresterats och fängslats. Så självklart smsar vi honom, han reser sig precis. Han är helt okej.
Stark: Han är fortfarande inte säker på hur någon fångade essensen av sin sons röst. Men han har några teorier...
Jim: De måste ha fått en inspelning av något när han var upprörd. Det är det enda jag kan säga, för de kunde inte ha hånat några av de här sakerna som han gör. Det kunde de inte gissa sig till. Jag tror inte, och så de, jag tror att de hade en del råmaterial att arbeta med och vad de gjorde med det därifrån. jag vet inte.
Stark: Och det är inte bara Jim som är osäker... Vi har ingen aning om huruvida AI hade något med detta att göra.
Men poängen är... vi lever nu i en värld där vi inte heller kan vara säkra på att den inte gjorde det.
Det är otroligt lätt att fejka någons röst med bara några minuters inspelningar... och tonåringar som Jims son? De delar otaliga inspelningar genom inlägg och meddelanden på sociala medier.
Jim: Jag var ganska imponerad av hur bra det var. Um, som sagt, jag är inte lättlurad och man, de hade det spikat. Så, um, bara varning.
Stark: Jag heter Jennifer Strong och det här avsnittet tittar vi på vad som krävs för att göra en röst.
[VISA ID]
Zeyu Gin: Ni har gjort konstiga saker på nätet.
Stark: Zeyu Jin är forskare på Adobe... Det här är han som talar vid en företagskonferens för ungefär fem år sedan... som visar hur programvara kan ordna om orden i den här inspelningen.
Nyckel: Jag hoppade på sängen och kysste mina hundar och min fru – i den ordningen.
Zeyu: Så vad sägs om att vi bråkar med vem han faktiskt kysste. // Vi presenterar Project VoCo. Project VoCo låter dig redigera tal i text. Så låt oss ta upp det. Så jag laddar bara in det här ljudstycket i VoCo. Så som du kan se har vi ljudvågformen och vi har texten under den. //
Så vad gör vi? Kopiera klistra in. åh! Ja det är gjort. Låt oss lyssna på det.
Nyckel: Och jag kysste min fru och mina hundar.
Zeyu: Vänta det finns mer. Vi kan faktiskt skriva något som inte finns här.
Nyckel: Och jag kysste Jordan och mina hundar.
Stark: Adobe släppte aldrig den här prototypen... men den underliggande tekniken blir bättre.
Till exempel, här är en datorgenererad fejk av podcastern Joe Rogan från 2019... Den producerades av Squares AI-labb som heter Dessa för att öka medvetenheten om tekniken.
Rogan: 10-7 vänner, jag har något nytt att berätta för er alla. Jag har bestämt mig för att sponsra ett hockeylag som helt består av schimpanser.
Stark: Även om det låter som roligt och lek... experter varnar för att dessa konstgjorda röster kan göra vissa typer av bedrägerier mycket vanligare. Saker som det vi hört talas om tidigare.
Mona Sedky: Kommunikationsfokuserad brottslighet har historiskt sett legat lägre på totempålen.
Stark: Det är den federala åklagaren Mona Sedky som talade förra året vid Federal Trade Commission om teknik för röstkloning.
Mona Sedky: Men nu med tillkomsten av saker som djup falsk video... nu djupt falskt ljud du... du kan i princip ha anonymiseringsverktyg och vara var som helst på internet du vill vara... var som helst i världen... och kommunicera anonymt med människor. Så som ett resultat har det blivit en enorm ökning av kommunikationsfokuserad brottslighet.
Balasubramaniyan: Men tänk om du som CFO eller chief controller får ett telefonsamtal som kommer från din vd:s telefonnummer.
Stark: Och det här är Pindrop Securitys vd Vijay Balasubramaniyan på en säkerhetskonferens förra året.
Balasubramaniyan: Den är helt förfalskad... så den använder faktiskt din adressbok, och den dyker upp som din vd:s namn... och sedan i andra änden hör du din vd:s röst med en enorm brådska. Och vi börjar se galna attacker som sådana. Det fanns ett exempel som många pressmedia täckte, vilket är en 220 000 dollar tråd som hände för att en VD för ett brittiskt företag trodde att han pratade med sitt moderbolag... så han skickade sedan ut pengarna. Men vi har sett så mycket som 17 miljoner dollar gå ut genom dörren.
Stark: Och själva idén med falska röster... kan vara lika skadlig som en falsk röst i sig... Som när förre presidenten Donald Trump försökte skylla på tekniken för några kränkande saker han sa som fångades på band.
Men som vilken annan teknik som helst... den är inte i sig bra eller dålig... den är bara ett verktyg... och jag använde den i trailern för säsong ett för att visa vad tekniken kan göra.
Stark: Om att se är att tro...
Hur navigerar vi i en värld där vi inte kan lita på våra ögon... eller öron?
Och så du vet... vad du lyssnar på... Det är inte bara jag som talar. Jag fick lite hjälp av en konstgjord version av min röst... fyllde i ord här och där.
Möt syntetiska Jennifer.
Syntetisk Jennifer: Hej där, gott folk!
Stark: Jag kan till och med klicka för att justera mitt humör...
Syntet Jennifer: Hej där.
Strong: Ja, låt oss inte göra det arga..
Stark: Inom en inte så avlägsen framtid kommer den här tekniken att användas på många olika sätt... för enkla justeringar av förinspelade presentationer... till och med... för att få tillbaka rösterna från animerade karaktärer från en serie...
Artificiella röster är med andra ord här för att stanna. Men de har inte alltid varit så lätta att göra... och jag ringde upp en expert vars röst kanske låter bekant..
Bennett: Hur låter det här? Jag kanske kunde vara lite mer vänlig. Hur mår du?
Hej, jag heter Susan C. Bennet, den ursprungliga rösten till Siri.
Tja, dagen som Siri dök upp, vilket var den 4 oktober 2011, mailade en annan röstskådespelare mig och sa: 'Hej, vi leker med den här nya iPhone-appen, är inte det här du?' Och jag sa, vad ? Jag gick in på Apples webbplats och lyssnade... och japp. Det var min röst. [skratt]
Stark: Du hörde rätt. Den ursprungliga kvinnliga rösten som miljoner förknippar med Apple-enheter...? Hade ingen aning. Och hon var inte ensam. De mänskliga rösterna bakom andra tidiga röstassistenter överraskades också.
Bennett: Ja, det har varit en intressant grej. Det var en anpassning till en början som ni kan föreställa er, för jag hade inte förväntat mig det. Det var lite läskigt till en början, jag måste säga, jag pratade aldrig så mycket med mig själv som Siri, men gradvis accepterade jag det och det slutade faktiskt med att det blev något riktigt positivt så...
Stark: För att vara tydlig, Apple stal inte Susan Bennetts röst. I decennier har hon gjort röstarbete för företag som McDonald's och Delta Airlines ... och år innan Siri kom ut ... gjorde hon en märklig serie inspelningar som satte fart på dess utveckling.
Bennett: 2005 kunde vi inte ha föreställt oss något som Siri eller Alexa. Och så vi alla, jag har pratat med andra människor som har haft samma upplevelse, som har varit en virtuell röst. Du vet att vi bara trodde att vi bara gjorde generiska telefonröstmeddelanden. Och så när Siri plötsligt dök upp 2011, är det som, jag är vem, vad, vad är det här? Så det var en verklig överraskning, men jag tycker om att tänka på det eftersom vi bara var i framkant av den här nya tekniken. Så, du vet, jag väljer att se det som en mycket positiv sak, även om vi, ingen av oss, någonsin fick betalt för de miljoner och åter miljoner telefoner som våra röster hörs på. Så det är en nackdel.
Stark: Något annat som är besvärligt... hon säger att Apple aldrig erkände henne som Siris amerikanska röst... det är trots att hon blev en oavsiktlig kändis... nådde miljoner.
Bennett: Den enda faktiska bekräftelsen som jag någonsin har fått är via Siri. Om du frågar Siri 'Vem är Susan Bennett?' hon kommer att säga, jag är Siris ursprungliga röst. Tack så mycket, Siri. Uppskatta det.
Stark: Men det är inte första gången hon ger sin röst till en maskin.
Bennett: I slutet av 70-talet när de introducerade bankomater vill jag säga att det var min första erfarenhet som en maskin, och du vet, det fanns inga persondatorer eller något på den tiden och folk litade inte på maskiner. De skulle inte använda uttagsautomaterna eftersom de inte litade på att automaterna gav dem rätt pengar. De, du vet, om de lade pengar i maskinen var de rädda att de aldrig skulle se det igen. Så en mycket företagsam reklambyrå i Atlanta vid den tiden som hette McDonald och Little bestämde sig för att humanisera maskinen. Så de skrev en jingel och jag blev rösten för Tilly, all-time teller och sedan satte de till slut ett litet ansikte på maskinen.
Stark: Den mänskliga rösten hjälper företag att bygga förtroende hos konsumenterna...
Bennett: Det finns så många olika känslor och betydelser som vi förmedlar genom ljudet av våra röster snarare än bara i tryck. Det är därför jag tror att emojis dök upp eftersom man inte kan få in nyanserna där utan rösten. Och så jag tror att det är därför röst har blivit en så viktig del av tekniken.
Stark: Och enligt hennes egen erfarenhet har interaktioner med denna syntetiska version av hennes röst fått människor att lita på och anförtro sig till henne... att kalla henne en vän, även om de aldrig har träffats henne .
Bennett: Tja, jag tycker att det konstigaste med att vara Siris röst, för mig, är när jag först avslöjade mig själv, det var häpnadsväckande för mig hur många människor som ansåg Siri vara sin vän eller någon sorts enhet som de verkligen kunde relatera till. Jag tror att de faktiskt i många fall tänker på henne som mänsklig.
Stark: Det uppskattas att den globala marknaden för röstteknik kommer att nå nästan 185 miljarder dollar i år... och AI-genererade röster? är en game changer.
Bennett: Du vet, efter år och år av arbete med dessa röster, är det verkligen, riktigt svårt att få den faktiska rytmen i den mänskliga rösten. Och jag är säker på att de förmodligen kommer att göra det någon gång, men du kommer att märka än i dag, du vet, du kommer att lyssna på Siri eller Alexa eller någon av de andra och de kommer att prata med och det låter bra tills det inte gör det. Som, Åh, jag går till affären. Du vet, det finns en del konstigheter i den rytmiska bemärkelsen.
Stark: Men även när människoliknande röster blivit vanliga ... hon är inte helt säker på att det kommer att vara bra.
Bennett: Men du vet, fördelen för dem är att de inte riktigt behöver komma överens med Siri. De kan bara berätta för Siri vad de ska göra om de inte gillar vad hon säger, de kan bara stänga av det. Så det är inte som riktiga mänskliga relationer. Det är kanske som folk skulle vilja att mänskliga relationer ska vara. Alla gör som jag vill. (skratt) Då är alla glada. Höger?
Stark: Naturligtvis är röstassistenter som Siri och Alexa det inte bara röster. Deras kapacitet kommer också från AI bakom kulisserna.
Det har utforskats i science fiction-filmer som den här, kallad Henne … om en man som blir kär i sin röstassistent.
Theodore: Hur arbetar du?
Samantha (AI): Tja... Jag har i grunden intuition. Jag menar.. DNA:t för vem jag är är baserat på miljontals personligheter hos alla programmerare som skrev till mig, men vad gör mig jag är min förmåga att växa genom mina erfarenheter. Så i princip i varje ögonblick utvecklas jag, precis som du.
Stark: Men dagens röstassistenter är långt ifrån de hyperintelligenta tankemaskinerna vi har funderat över i årtionden.
Och det är för att den tekniken... faktiskt är det många tekniker. Det är kombinationen av tre olika färdigheter...taligenkänning, naturlig språkbehandling och röstgenerering.
Taligenkänning är det som gör att Siri kan känna igen de ljud du gör och transkribera dem till ord. Naturlig språkbearbetning förvandlar dessa ord till mening... och räknar ut vad man ska säga som svar. Och röstgenerering är den sista biten... det mänskliga elementet... som ger Siri förmågan att tala.
Var och en av dessa färdigheter är redan en stor utmaning... För att behärska bara den naturliga språkbehandlingsdelen? Du måste i stort sett återskapa intelligens på mänsklig nivå.
Och det är vi inte i närheten av. Men vi har sett anmärkningsvärda framsteg med uppkomsten av djupinlärning ... vilket hjälper Siri och Alexa att vara lite mer användbara.
Metz: Vad folk kanske inte vet om Siri är att den ursprungliga tekniken var något annorlunda.
Stark: Cade Metz är en teknisk reporter för New York Times. Hans nya bok heter Genius Makers: The Mavericks Who Brought AI till Google, Facebook och världen .
Metz: Sättet som Siri ursprungligen byggdes... Du var tvungen att ha ett team av ingenjörer, i ett rum, vid sina datorer och bit för bit, de var tvungna att definiera med datorkod hur den skulle känna igen din röst.
Stark: Då... ingenjörer ägnade dagar åt att skriva detaljerade regler för att visa maskiner hur man känner igen ord och Vad de menar.
Och detta gjordes på sin höjd grundläggande nivå ... arbetar ofta med bara stycken röst åt gången.
Föreställ dig bara alla olika sätt som människor kan säga ordet hej på ... eller alla sätt vi sätter ihop meningar ... som förklarar varför tiden går fort eller hur vissa verb också kan vara substantiv.
Metz: Du kan aldrig pussla ihop allt du behöver, oavsett hur många ingenjörer du har oavsett hur rikt ditt företag är. Att definiera varje liten sak som kan hända när någon pratar i sin iPhone... Du har helt enkelt inte tillräckligt med personkraft för att bygga allt du behöver bygga. Det är bara för komplicerat.
Stark: Neurala nätverk gjorde den processen mycket enklare... De lär sig helt enkelt genom att känna igen mönster i data som matas in i systemet.
Metz: Du tar det mänskliga talet... Du ger det till det neurala nätverket... Och det neurala nätverket lär sig mönstren som definierar mänskligt tal. På så sätt kan den återskapa den utan att ingenjörer behöver definiera varje liten del av den. Det neurala nätverket lär sig bokstavligen uppgiften på egen hand. Och det är den viktigaste förändringen... är att ett neuralt nätverk kan lära sig att känna igen hur en katt ser ut, i motsats till att människor måste definiera för maskinen hur en katt ser ut.
Stark: Men även före neurala nätverk... Teknikföretag som Microsoft hade som mål att bygga system som kunde förstå hur människor skriver och pratar i vardagen.
Och 1996 anställde Microsoft en lingvist ... Chris Brocket ... för att börja arbeta med vad de kallade naturligt språk AI.
Metz: Killen är ingen datavetare, men hans jobb var att definiera hur språket är sammansatt, eller hur. För en dator. Och det är bara en otroligt svår uppgift, eller hur? Varför ordnar vi som engelsktalande våra ord, som vi gör, eller hur? Och han, han tillbringade år, bokstavligen år, fem eller sex år på Microsoft, du vet, sakta, du vet, och försökte berätta för datorn hur engelska är sammansatt. Så då kan datorn göra det.
Stark: Sedan, en eftermiddag 2003... började en liten grupp på Microsoft... nere i korridoren från Brockett... arbeta med ett nytt projekt. De byggde ett system som översatte språk med hjälp av en teknik baserad på statistik.
Tanken var att om en uppsättning ord på ett språk dök upp med samma frekvens och sammanhang på ett annat, det var den troliga översättningen.
Metz: De satte ihop en prototyp på några veckor och visade upp den för en grupp på Microsofts forskningscenter – inklusive Chris Brocket.
Stark: Systemet är... ganska ihopbyggt. Bara Arbetar när de tillämpades på bitar av en mening... Och även då... var översättningarna röriga.
Metz: När han ser dem visa detta .. får han en panikattack till den grad att han bokstavligen tror att han har en hjärtattack eftersom han inser att hans karriär kan vara över. Att allt han har spenderat de senaste sex åren på // är meningslöst och har gjorts meningslöst av systemet som dessa killar byggt upp på några veckor.
Stark: På den tiden hade vi inte den mängd data som behövdes för att träna ett neuralt nätverk, och inte heller processorkraften... men idén om en sådan har funnits sedan 1980-talet.
Och en av dessa idéer kom i form av NetTalk... som utvecklades av AI-pionjären Terry Sejnowski.
Systemet kan lära sig att tala ord på egen hand genom att studera barnböcker.
Metz: Terry hade denna otroliga demo som han skulle visa för folk på konferenser. Det var liksom tidsförskjutet eftersom det tog ett tag för det neurala nätverket att lära sig, men han kunde visa att när det började analysera mönstren i dessa barnböcker, kunde de börja babbla...
[Ljud från NetTalk Demo]
Metz: och så kunde den babbla lite bättre, och sedan kunde den börja pussla ihop ord, och så plötsligt kunde den uttala de här orden.
[Ljud från NetTalk Demo]
Metz: Han kunde visa sin publik // med denna demo hur ett neuralt nätverk kan lära sig.
Stark: Det skulle dröja ytterligare två decennier innan datorkraften fanns för att verkligen göra detta användbart.
Metz: Så naturligt språk var ett område där människor, även efter framgången med neurala nätverk med tal och bild, tänkte, ja, det kommer inte att fungera med naturligt språk. Jo, det har det. Det betyder inte att det är perfekt.
Stark: Deep learning, (tekniken som driver den nuvarande AI-boomen), kan träna maskiner för att bli mästare på alla möjliga uppgifter. Men det kan bara lära sig saker en i taget. Och eftersom de flesta AI-modeller tränar sina färdigheter på tusentals eller miljontals exempel, slutar de med att de upprepar mönster som finns i gamla data – inklusive de många dåliga beslut som människor har fattat, som att marginalisera färgade personer och kvinnor.
Och alla stora framsteg väcker den här debatten om när människor kommer att skapa en artificiell allmän intelligens – eller maskiner som kan multitaska, tänka och resonera för sig själva. Nyligen har det varit framsteg som brädspelsmästaren AlphaZero... och den alltmer övertygande falska textgeneratorn GPT-3...
Metz: Det kan det, det kan generera blogginlägg. Det kan generera tweets, e-postmeddelanden. Det kan generera datorprogram. Du vet, det fungerar kanske halva tiden, men när det fungerar kan du inte se skillnad på engelska och din engelska. Okej. Det är framsteg. Det är inte hjärnan, det är inte ens nära, men det är framsteg.
Stark: Och dessa och andra verktyg är också... otroligt splittrande.
Metz: Kan vi inom en snar framtid bygga ett system som kan göra allt som den mänskliga hjärnan kan göra. Höger. Och folk kommer att argumentera om detta, som att skumma i munnen på båda sidor. Verkligheten är att vi inte har någon aning. Som att det finns människor som är helt säkra på att detta kommer att hända ganska snart, men de vet inte vad vägen är dit. Ingen av oss kan förutse framtiden. Och så är det ett argument om ingenting som kan avgöras i grunden. Så argumentet tar förstås aldrig slut. Du går tillbaka till 50-talet och det är, det är samma sak, eller hur?
Stark: Men om vi är att någon gång replikera den intelligensen... kanske vi också kan replikera oss själva?
...Det är efter pausen.
[Midroll]
[Musikövergång]
Stark : Konstgjorda röster har funnits ett tag...men de började inte bli mer mänskliga förrän de senaste fem åren.
Som när Deepminds text-till-tal-algoritm som heter WaveNet kom till scenen... som är grunden för Googles assistent Duplex... den som kan boka din frisörtid eller restaurangbokning.
[Sounds of Google Duplex schemalägger ett hårmöte för användarens räkning]
*Telefonen ringer*
Frisör: Hej. Hur kan jag hjälpa dig?
AI: Hej. Jag ringer för att boka en damfrisyr åt en kund. Umm... jag letar efter något den 3 maj.
Frisör: Säker. Ge mig en sekund.
Stark: Sedan dess har många andra företag arbetat för att kommersialisera liknande rösttekniker. Lyrebird... Beskriv... Respeecher... för att bara nämna några.
Det finns också en mängd företag som är inriktade på att bevara minnet av våra nära och kära... genom att skapa interaktiva, digitala versioner av dem.
Ett företag, kallat HereAfter, förvandlar dem till chatbots som kan användas med röstassistenter.
Och Tech Review-reportern Charlotte Jee provade det med sina föräldrar...
Jeee: Alexa, öppna HereAfter.
Syntetisk röst: Välkommen till HereAfter. Skulle du hellre prata med Paul eller med Jane?
Jeee: Jag pratar hellre med Jane.
Virtual Jane: Hej, det här är Jane Jee, och jag berättar gärna om mitt liv.
Jeee: HAHA ÅH HERREGUD!
Virtual Jane: Hur mår du idag?
Jeee: Jag mår bra, tack, mamma. Hur mår du?
Virtual Jane: Bra.
Stark: Systemets lyssningsförmåga ... är inte de bästa. Du kan bara ställa korta, enkla frågor... och du måste vänta tills systemet har pratat klart innan du kan ställa en ny fråga.
Virtual Jane: Det finns så mycket att prata om. Min barndomskarriär och mina intressen, vilket av dem låter bäst?
Jeee: Eh... din barndom.
Virtual Jane: Visst. Jag fick problem som barn eftersom jag var väldigt självständig och jag tyckte om att utöva min frihet...
Stark: Men det du hör nu... är faktiskt inte en falsk eller syntetisk version av Charlottes mamma. Faktum är att den här upplevelsen förlitar sig på förvånansvärt mindre AI än du tror.
Hennes föräldrar intervjuades i timmar av HereAfter med frågor från Charlotte och hennes syster. Den intervjun redigerades sedan och bröts upp i ämnesavsnitt... som kan tas upp och spelas upp av systemet baserat på de frågor de ställer.
Men... som vi har sett... rösten är kraftfull. Speciellt när det presenteras som en interaktiv upplevelse.
Jeee: Herregud. (skratt) Det var så konstigt!
Det var som att höra min mamma... som en maskin. Det var riktigt galet.
Jag kände mig mer känslosam när jag lyssnade på det än vad jag förväntade mig? När, liksom, rösten slappnade av och det lät som hon.
Stark: Det här känns mycket som något vi har sett tidigare. Som i ett avsnitt av Svart spegel … där en kvinna använder sin partners smartphonedata för att skapa en syntetisk version av hans röst efter att han dör.
[Ljuder från Svart spegel - AI sållning genom delad media, montage av ljudklipp från kvinnans avlidne partner]
Stark: Den sållar igenom gamla videor, texter, röstmeddelanden och inlägg på sociala medier för att bygga ett system som kan efterlikna hans röst... och personlighet.
AI: Hej?
Kvinna: ...Hej! Du... låter precis som han.
AI: Nästan läskigt, eller hur? läskigt säger jag.... Jag menar, det är helt galet att jag till och med kan prata med dig. Jag menar...jag har inte ens en mun.
Kvinna: Det är...Det är bara...
AI: Det är vad?
Kvinna: Det är precis sånt han skulle säga.
AI: Tja... det var därför jag sa det.
Stark: Vilket tar upp en svår fråga... bygger hon förtroende med sin AI-partner... eller är det bara att berätta för henne vad hon vill höra...?
Och vidare hur vi kanske utvecklar röstteknologier som är kapabla till sunt förnuft eller självförbättring... ligger ännu en fråga vi just har börjat ställa... som är... hur räknar vi med denna nyfunna kraft... att syntetisera något så personligt som någons röst?
[KREDIT]
Stark: Nästa avsnitt... Vi tittar på automatiseringens roll på vår kredit.
Michele Gilman: Statens vittne som var sjuksköterska kunde inte förklara något om algoritmen. Hon upprepade bara om och om igen att det var internationellt och statistiskt validerat, men hon kunde inte berätta hur det fungerade, vilken data som matades in i den, vilka faktorer den vägde, hur faktorerna vägdes. Och så tittar min studentadvokat på mig och vi tittar på varandra och tänker, hur korsundersöker vi en algoritm...
Stark: Det här avsnittet gjordes av mig, Emma Cillekens, Anthony Green, Karen Hao och Charlotte Jee. Vi är redigerade av Michael Reilly och Niall Firth.
Tack för att du lyssnade, jag heter Jennifer Strong.
[TR ID]