211service.com
Denna AI låter dig förfalska din röst för att tala som Barack Obama
Ms. Tech | Getty bilder
Möt mitt alter ego, Katie:
Accenten, känslorna och intonationen är alla mina. Men på något sätt låter jag nu som en ung kvinna med en hög röst.
Min feminina rösthud skapades av Modulate.ai , ett företag baserat i Cambridge, Massachusetts. Företaget använder maskininlärning för att kopiera, modellera och manipulera röstens egenskaper på ett kraftfullt nytt sätt.
Tekniken går långt utöver de enkla röstfiltren som kan låta dig låta som Kylo Ren. Med detta tillvägagångssätt är det möjligt att anta vilken ålder, kön eller ton du vill, allt i realtid. Eller att ta på sig en kändis röst. Jag kan hålla ett långt telefonsamtal i Katies skepnad om jag vill.
Jag besökte Modulates huvudkontor för att höra om företagets teknologi och ambitioner, och för att diskutera de etiska implikationerna av att använda AI för att kopiera någon annans röst. I en ljudisolerad monter provade jag några av företagets röstskinn.
Här är min verkliga röst:
Och här matas den genom en annan persona:
Och att förändras mellan de två personorna i realtid.
Röstmodelleringstekniken är inte perfekt; varje ny röst är lite tjatig. Men det är anmärkningsvärt bra, och det förbättras genom att mata på mer av din röstdata. Och det visar hur framsteg inom maskininlärning snabbt börjar förändra den digitala verkligheten. Modulate använder generativa motstridiga nätverk (GAN) för att fånga och modellera ljudegenskaperna hos en röstsignal. GAN:er ställer två neurala nätverk mot varandra i en kamp för att fånga och reproducera egenskaperna hos en datamängd på ett övertygande sätt (se The GANfather ).
Maskininlärning har gjort det möjligt att byta två personers ansikten i en video, med hjälp av programvara som kan laddas ner gratis från internet (se Fake America great igen). AI-forskare använder GAN och andra tekniker för att manipulera visuella scener och till och med trolla fram helt falska ansikten .
Modulate har en demonstrationsröstskinn av Barack Obama på sin webbplats, och medgrundaren och VD:n Mike Pappas sa att det skulle vara möjligt att skapa en för vem som helst, givet tillräckligt med träningsdata. Men han tillägger att företaget inte kommer att göra en kändis röstskinn tillgänglig utan ägarens tillåtelse. Han insisterar också på att bedrägeri inte är huvudpoängen.
Det här är inte teknik byggd för att imitera människor, säger Pappas. Den är byggd för att ge dig nya möjligheter.
Modulate riktar sig till onlinespel som Fornite eller Call of Duty, där spelare kan chatta med främlingar genom en mikrofon. Detta kan förbättra spelet, men det kan också öppna dörren för övergrepp och trakasserier.
När vi vill interagera online och ha riktigt djupa upplevelser är röster avgörande, säger Pappas. Men vissa människor är inte villiga att faktiskt lägga sin röst där ute. I vissa fall kanske jag bara vill vara anonym. I andra fall är jag orolig för att jag ska avslöja min ålder eller kön och bli trakasserad.
Charles tvål , en professor vid NYU som studerar spridningen av desinformation, säger att tekniken verkar betydligt mer avancerad än annan teknik för röstmodifiering. Och han säger att hur AI nu kan manipulera video och ljud har potentialen att fundamentalt förändra media. Vi måste börja fundera på vad som är verklighet, säger han.
'Hittills har kvaliteten på röstkonverteringstekniken varit låg så att man enkelt kan urskilja en konverterad röst', tillägger Tuomas Virtanen , expert på röstsyntes och manipulation vid Tammerfors universitet i Finland. 'Men jag kan tänka mig att kvaliteten inom en snar framtid kommer att vara tillräckligt bra så att konvertering inte kan upptäckas lätt.'
Modulate är medveten om att dess teknologi har potential att missbrukas. Företaget säger att det kommer att söka garantier för att alla kunder som kopierar någons röst har den personens tillåtelse. Den har också utvecklat en ljudvattenmärkningsteknik som kan användas för att upptäcka en kopierad röst. Detta kan till exempel ge en varning om någon använder en falsk röst under ett samtal.
'Vi har byggt in etiska skydd i vårt företag från grunden', säger medgrundare och CTO, Carter Huffman, 'från hur vi distribuerar vår teknologi, till hur vi väljer röstskinn att erbjuda, till vattenmärke av vårt ljud för upptäckt i känsliga system.
Modulate kanske kan begränsa missbruket av sin egen teknik, men det är möjligt att andra kommer att utveckla liknande teknik oberoende och göra den tillgänglig för människor att missbruka. Frågan är, hur brett kan detta missbrukas, och hur kunnig om det kommer allmänheten att bli?
Pappas är optimistisk att potentialen för AI-falsk ofta är överdriven. Det är definitivt något där man vill vara medveten om det, men det är inte något där själva aspekterna av samhället faller sönder, säger han. Vi har verktyg för att hantera detta.