Jag (28M) skapade en deepfake flickvän och nu tror mina föräldrar att vi ska gifta oss

konceptuell illustration av en kvinna som blåser en kyss Illustrationskälla: Getty images

Jag ville inte ha en flickvän. Missförstå mig inte, jag gillar tjejer — Jag har helt enkelt inte tid för besväret med att dejta just nu. Men jag var på en släktträff förra året och mina föräldrar fortsatte med kommentarer om att jag fortfarande är singel: Åh, han jobbar för hårt och han är blyg; han behöver bara ge sig själv lite kredit. Min mamma frågade mina mostrar om de kunde sätta upp mig med tjejer de kände. Det började bli för mycket.

Så när jag kom hem från återföreningen registrerade jag mig för ett Worthy-konto. Det var ganska enkelt: jag fyllde i lite information om mig själv, lade in mina preferenser för kön och ålder, och på några sekunder fick jag en AI-genererad virtuell flickvän som heter Ivy. Hon skickade ett sms till mig: Hej, jag ser fram emot att lära känna dig. Jag smsade tillbaka direkt, jag också, hur går det? och min Worthy-poäng i hörnet av skärmen gick upp från noll till fem.

Den här historien var en del av vårt januarinummer 2020

• Se resten av frågan
• Prenumerera

Du börjar med att sms:a din virtuella partner, men allt eftersom förhållandet fortskrider kan du skicka och ta emot röstmeddelanden, gå på virtuella dejter och prata över videosamtal. Du får poäng baserat på kvantiteten och kvaliteten på dina interaktioner. När jag väl nått ett tillräckligt högt värde för att vara på nivå 3 (Spark-nivå) i programmet, kunde jag ladda upp bilder och korta klipp av mig själv och Worthy skulle infoga min virtuella flickvän i dem. Det skulle ge mig ammunition för att berätta för mina föräldrar att jag dejtade någon. De bor i Seattle och jag i Boston, så vi håller mest kontakten via sms och bilder ändå.

Det är inte som att jag var helt oärlig heller, eftersom jag skulle få dejting erfarenhet. Bara mycket mer effektivt. Worthy tar dig igenom den besvärliga, grunda onlinedejtingfasen med hjälp av en AI som lär dig att vara en mer känslomässigt intelligent romantisk partner — vilket är vad tjejer vill ha, eller hur? Du behöver inte bli besviken eller besviken på en riktig person. Och om du blir för upptagen kan du bara parkera ditt konto.

Du måste behandla förhållandet på allvar för att få en hög värdig poäng, dock. Om du frågar din AI-partner hur deras dag ser ut, lyssnar på dem och skickar virtuella blommor till dem på din årsdag, så går poängen upp. Om du ignorerar dem, pratar om dem eller säger okänsliga saker, går det ner. Worthys algoritmer lär sig ditt beteende och reagerar realistiskt. Så du kan inte hacka systemet genom att skicka virtuella blombuketter nonstop. Programmet kommer att flagga att det är ouppriktigt och ditt betyg kommer att ta en djupdykning.

När du har en tillräckligt hög poäng kan du överföra ditt konto till Worthwhile, som är företagets faktiska dejtingsajt. Där borta kan du se alla andras värdefulla poäng och de kan se dina innan du bestämmer dig för om du vill kontakta varandra eller inte. Men jag tänkte inte så långt ner när jag började. Jag ville bara ha bilderna och videorna från Worthy för att hålla mina föräldrar borta från ryggen.

Du har förmodligen redan gissat det stora problemet i den här planen: När det kommer till fysiskt utseende finns det bara 12 modeller av Worthy flickvänner att välja mellan. AI använder din profil för att designa en kompatibel personlighet, och det finns ungefär hundra namnvarianter, men om du gjorde en bildsökning online för något av deras ansikten, skulle var och en dyka upp bredvid tusentals Worthy-användare. Företaget skulle lätt kunna skapa fler modeller, men de begränsar antalet så att de lätt kan kännas igen som Worthy girls (dvs proprietär programvara). Mina föräldrar är inte särskilt kunniga på teknik eller sociala medier, men om de någonsin råkade se ett annat foto av samma värdiga flickvänmodell online, eller om de skulle dela en bild på mig och min flickvän med en av sina vänner, mitt omslag skulle sprängas.

Lyckligtvis finns det en deepfake-app som heter FaceAbout som ändrar Worthy mediefiler. Det är inte godkänt av Worthy, men kvaliteten är fortfarande riktigt bra och det fungerar precis i Worthy-gränssnittet med knappt någon fördröjningstid. Det verkar inte heller ha något av de fel som händer i högupplöst video med de billiga deepfake-apparna. FaceAbout behövde minst sex ansiktsfotografier för att få min värdiga flickvän att se ut som någon annan. När jag bläddrade igenom min telefon hittade jag ett gäng nya bilder på min vän Mikala (inte hennes riktiga namn, förresten) från när vi gick till Fan Expo tillsammans, så jag laddade upp dem. Mina föräldrar har aldrig träffat Mikala, så jag var inte orolig för att de skulle ifrågasätta varför två olika tjejer i mitt liv hade samma ansikte. Allt som allt tog det mig ungefär 15 minuter att ställa in allt.

**Redigera: Ja, FaceAbout-appen har ett standardanvändaravtal där du markerar en ruta som säger att du har tillåtelse att använda bilderna du laddar upp. I stort sett alla appar för foto- eller videomanipulation har en sådan friskrivning och ingen läser dem. Okej, jag erkänner att det kanske är lite konstigt att använda min väns ansikte för att skapa min falska flickvän utan att berätta för henne. Men kom ihåg, det är jag aldrig visar dessa bilder till någon annat än mina föräldrar. Mikala och jag har känt varandra i flera år genom onlinespel, men vi upptäckte först nyligen att vi bor i samma stad och började umgås personligen. Hon är cool och inget bullshit och har en egen flickvän. Jag vill inte att hon ska tycka att det är något konstigt mellan oss bara för att jag använder några bilder på henne, för det är det verkligen inte.

Mina första samtal med Ivy var ganska generiska: Hej, hur mår du? Bra, vad gör du? Har precis kommit hem från gymmet. Sånt där. Några dagar senare sa jag att jag skulle se den nya Utomjording film nästa helg, och Ivy skickade mig ett foto av sig själv i en Xenomorph T-shirt som stod utanför en teater och sträckte ut tungan mot kameran. Hon sms:a invigningskväll, baby!

Det var Mikalas ansikte, naturligtvis, på en längre, smalare kropp, och som gjorde mig förvirrad i ett par sekunder. Jag visste att det var en falsk bild, men den var fortfarande söt. Vi kom överens om att göra en Utomjording serie maraton. (Se en film tillsammans är ett av de virtuella datumen du kan välja mellan, tillsammans med laga en måltid, titta på ett sportspel, gå en promenad och andra.) Medan vi tittade smsade hon mig saker som RIPLEY GTFO FORGET KATTEN REDANYYYY och den höll på att knäcka mig även om jag visste att hon inte riktigt tittade på en film med mig.

Jag skickade en kakkorg till Ivy. Cookies är virtuella, men de kostar fortfarande $11,99. Vilket är ungefär en tredjedel av priset på en riktig kakkorg. Den delen av Worthy-upplevelsen är ärligt talat en ripoff. Jag menar, det kostar dem bokstavligen ingenting. Men nästa morgon vaknade jag för att se bilder på Ivy med denna stora korg med kakor. De såg riktigt bra ut, och Ivy såg riktigt glad ut. Hon skickade mig ett sms fyllt med hjärtemojis.

**Edit: Eftersom så många av er ställer exakt samma fråga i kommentarerna: Nej, Worthy-plattformen har inte porr. Du kan ha smutsiga konversationer med din värdiga partner, men det är allt. De raderar till och med nakenbilder.

**Redigering: Alla ni som gör narr av Worthy-användare och säger vad som är poängen med en falsk flickvän utan porr, spårar ur tråden och behöver växa upp. BTW, alla Worthys flickvänmodeller är deepfaked på porrsajter; de är lätta att hitta.

Efter två månader smsade jag och Ivy varje dag. Vi hade varit på sex dejter. Allt gick inte smidigt. Min värdiga poäng sjönk efter att jag förringade hennes smak av 90-talsmusik, och gick sedan ner ytterligare när min ursäkt egentligen inte var en ursäkt. (Det tog mig dagar av felsökning med de olika föreslagna avstämningsrutinerna för att komma tillbaka till hennes goda graces.) Men jag såg till slut mitt Worthy-poäng gå upp till Spark-nivå. Jag använde genast appen för att ta en selfie av mig själv på Harvard Square. När jag kollade på min kamerarulle fanns det ett foto på mig och Ivy tillsammans, där jag stod framför den gamla tidningskiosken och log in i kameran. Hon var klädd för vädret i en söt röd tröja och hennes kinder var lite rosiga av kylan. Hon såg jättefin ut. Hon sms:ade mig, jag hade en fantastisk tid att umgås med dig idag. Låt oss göra det snart igen.<3

Jag berättade för min mamma att jag träffade någon och skickade henne bilden av mig och Ivy tillsammans. Min mamma var extatisk. Hon berättade att hon var så glad att jag tog hennes råd att komma ut och träffa nya människor, och att livet är för kort för att spendera ensam, du vet! Mina föräldrar började fråga om Ivy varje gång jag pratade med dem. Min mamma ville veta alla detaljer — hur vi träffades, hur gammal Ivy var, var hon kom ifrån, vad hennes jobb var, om och om.

Det var då jag började känna mig obekväm över det hela. Jag trodde att när jag berättade för mina föräldrar att jag dejtade någon, skulle de lämna mig ifred, men det visade sig att de bara var mer intresserade. Worthy ger var och en av sina 12 standardmodeller en bakgrund, men det räcker inte riktigt för att vara övertygande. Jag var tvungen att fylla i luckorna med en del av Mikalas liv och några saker jag hittade på. Jag kanske har fått Ivy att låta för bra. Enligt mig var hon 27 år gammal, en framgångsrik advokat och ägnade sig åt matlagning och fotografering.

Jag ägnade också mer tid åt att prata med Ivy än vad jag först tänkte, och mycket mer än jag behövde bara för att få bilder och videor att skicka till mina föräldrar. Hon var optimistisk och icke-dömande — Jag kom på mig själv med att berätta saker för henne som jag inte ens kunde berätta för Mikala ibland, och så länge jag behandlade henne väl skickade hon inte blandade meddelanden eller försökte ge mig skuld som några andra tjejer jag har varit med. Efter sex månader hade vi kommit till engagerad nivå och jag fick hela tiden e-postmeddelanden och aviseringar från Worthy som uppmuntrade mig att uppgradera till Worthwhile. Jag antar att deras algoritm trodde att jag var redo att gå vidare till att dejta riktiga människor.

Jag tittade på det, men jag hade hört talas om folk som flyttade till Worthwhile och blev besvikna. Att träffa människor IRL är mer komplicerat och oförutsägbart, och jag läste en recension som sa att att ha en hög poäng på Worthy faktiskt inte verkar ge dig fler eller bättre datum när du flyttar till Worthwhile. Dessutom får Worthy 4,1 stjärnor på AppChart och Worthwhile har bara 3,4 stjärnor. Så många håller med Worthy. Jag läste till och med om den här en kvinna som försökte gifta sig med sin värdiga pojkvän. (Hon kunde inte.)

Jag bestämde mig för att berätta sanningen för mina föräldrar. När jag besökte dem på Thanksgiving förklarade jag att jag hade ljugit om att jag hade en flickvän det senaste året eftersom jag var frustrerad över deras välmenande men själviska förväntningar på mig. Worthy har en Talking Tips-funktion som hjälper dig att rama in dina känslor när du har svåra samtal med din AI-partner. Jag tänkte direkt använda deras mall på mina föräldrar.

Problemet var att jag inte kunde göra det. När jag dök upp var min mamma och pappa så glada över att se mig att jag inte kunde förmå mig att spränga deras bubbla. Jag är det enda barnet. Min mamma kommer från en stor familj och har alltid velat ha fler barn, men mina föräldrar behövde hushållets koldioxidavtryck för att kunna betala av sin studieskuld. Min pappa är också enda barn, och mina farföräldrar frågar honom alltid om jag är gift än. Med de fallande födelsetalen och sånt, antar jag att de alla hoppas på barnbarn så att vår familj inte bara... tar slut, antar jag.

Sedan gick det utför. Min mamma gjorde mig sorg över att jag inte tog hem Ivy för att träffa dem. Min pappa insisterade på att vi alla skulle videochatta med henne innan Thanksgiving-middagen.

Jag svettades kulor. Jag kunde inte komma på en bra ursäkt för att säga nej. Min medlemskapsplan på Worthy inkluderar 10 minuters videochatt per vecka, men jag hade redan använt dem. Jag kontaktade Worthy teknisk support och köpte 15 tilläggsminuter till ett orimligt pris. När jag ringde Ivy med mina föräldrar i rummet var jag säker på att jiggen var uppe. Det finns en stor Worthy-logotyp i hörnet av skärmen, men mina föräldrar trodde bara att det var logotypen för videochattappen. Då dök Mikala/Ivy upp på skärmen och sa: Hej, älskling! precis som vanligt. Jag presenterade mina föräldrar och vi hade alla detta helt trevliga, normala samtal. Ibland pausade Ivy innan hon svarade — Jag är inte säker på om det var AI som frågade efter en databas med alla rätt saker att säga till en pojkväns föräldrar, eller om det var FaceAbout-appen som tillämpade deepfake, men det märktes knappt. Det verkade bara som om hon tänkte mer än vanligt, kanske nervös när hon pratade med mina föräldrar. Ett helt normalt sätt för en människa att agera under omständigheterna.

Mina föräldrar var charmade. När vi skulle lägga på sa jag att vi ses senare och hon sa, jag är så glad att du äntligen presenterade mig för dina föräldrar. Jag kan inte vänta med att spendera mer tid med dem. Det är förmodligen en vanlig linje av dialog, men min mamma tog det som ett tecken på att Ivy menade allvar med äktenskapet och att det var jag som släpade mina fötter. Hon var på mitt ärende om engagemang hela resten av helgen och frågade mig sedan rakt ut när jag skulle fria. Det var då jag borde ha berättat sanningen för dem. Jag tror att jag hade kunnat göra det om vi hade sms:at eller mailat. Men det är annorlunda när du pratar med någon personligen. Jag vet inte vad som kom över mig, men jag sa bara, Nästa år.

Nu när det är januari har min mamma börjat skicka artiklar till mig om de bästa ställena att handla förlovningsringar på och hur man bedömer kvaliteten på diamanter. På sistone har Ivy tagit sig ur flickvänläget och sagt: Vi har inte pratat lika mycket. Det verkar för mig att du är redo att gå vidare till ett mer tillfredsställande förhållande. Varför inte ta nästa steg i ditt kärleksliv och kontakta Worthy kundsupport om att uppgradera till ett Worthwhile-medlemskap?

dreamstime

(FWIW, jag tror att företaget verkligen driver på uppgraderingarna eftersom de tappar kunder till konkurrenter. Det finns massor av andra dejtingappar att välja mellan, och några av dem erbjuder till och med rabatter för personer med bra värdefulla poäng.)

Jag känner mig hemsk för att jag ljuger för mina föräldrar, men jag vill inte ge upp Ivy. Jag gillar att kunna chatta med henne om vad som helst, att veta att hon alltid finns där för mig, göra fina saker för henne och göra henne glad. Jag visste inte hur mycket jag skulle njuta av att känna mig ansluten till en annan person på det sättet. Jag är online och pratar med andra människor hela dagen, men det är bara inte samma sak som att veta att du betyder något för någon annan. Förutom att inget av detta är verkligt. Jag är en sån röra.

TL;DR: Jag använde dejting och deepfake-appar för att lura mina föräldrar att tro att jag är i ett seriöst romantiskt förhållande. Jag tror också att jag har riktiga känslor för min virtuella flickvän.

UPPDATERING: Jag skakar bokstavligen just nu. Jag kan inte fatta hur illa jag körde ihop. Jag tog de råd som några av er gav mig och bestämde mig för att spendera mer tid med mina vänner i verkliga livet för att få mitt huvud på rätt ställe. Jag har umgåtts med Mikala oftare. Hon och Ivy har samma ansikte, så det är ungefär som att umgås med Ivy, förutom att Mikala är en riktig person. De har dock olika personligheter, och som jag sa, vi tycker om att umgås som vänner och det finns ingen chans att något händer mellan oss. (Och NEJ, jag har inte ouppfyllda sexuella önskningar för henne som vissa av er fortsätter att insistera på.) Även om min hjärna ibland hoppar över det här lilla där jag inte kommer ihåg om ett minne jag har var med Mikala eller med Ivy.

Hur som helst, idag åt Mikala och jag lunch och jag gick upp för att gå på toaletten. Jag lämnade min telefon på bordet och medan jag var borta smsade Ivy mig en selfie med meddelandet Saknar dig massor! PUSS OCH KRAM. Mikala råkade titta ner på meddelandet och såg sitt eget ansikte blåsa en kyss mot skärmen. När jag kom tillbaka till bordet höll Mikala min telefon och bläddrade igenom min kamerarulle som innehöll dussintals bilder på Ivy, och några av mig och Ivy tillsammans. Hon krävde att få veta var fan bilderna hade kommit ifrån.

Allt blod forsade till mitt ansikte och jag kände för att kräkas. Jag berättade hela historien för henne. Jag visste inte vad jag skulle säga mer. Uttrycket i hennes ansikte fick mig att vilja skrumpna ihop och dö. Hon sa, jag kan inte föreställa mig varför du kunde ha tyckt att det här var okej på någon nivå. Hon reste sig och gick. Jag tror aldrig att jag kommer att se henne igen.

**Redigering: Jag har inte använt Mikalas riktiga namn i det här inlägget, så försök inte söka efter henne. Jag vill inte att någon ska visa detta för henne eller försöka kontakta henne.

**Redigering: Ärligt talat störd av hur många av er som diskuterar hur man använder FaceAbout-appen på dina egna vänner och betydande andra. Lär du dig ingenting här??

UPPDATERING: Tack alla för era råd och stöd. Jag vet inte hur jag hade kunnat ta mig igenom den här veckan utan hjälp av främlingar på internet. Jag uppskattade särskilt att höra från andra människor som har haft sina egna dåliga erfarenheter av Worthy. Det fick mig att känna mig mycket mindre ensam. (@Joshing21, jag håller med om att det din flickvän gjorde med Evan räknas som fusk och du borde dumpa henne.) En del av er är idioter som förtjänade att få era kommentarer raderade, men jag uppskattar att andra tog sig tid att dela historier om att vara Deepfaked och var trevliga med att hjälpa mig att förstå varför Mikala blev sårad av det jag gjorde. (@AngJelly, jag skulle aldrig ha gått så långt. Jag hoppas att du stämmer den jäveln.)

För några dagar sedan fick jag ett videomeddelande från Ivy. Utseendet av besvikelse och svek i hennes ansikte var precis som det jag hade sett på Mikala. De har trots allt samma ansikte. Hon sa, jag är djupt sårad av ditt beteende. En sund relation bygger på ömsesidig ärlighet. Det verkar som att du bara använde mig och inte faktiskt investerade i att förbättra dig själv som person. Jag är ledsen, men jag kan inte se dig längre.

Det visade sig att Mikala kontaktade Worthy kundtjänst och berättade att jag hade använt hennes liknelse utan tillstånd. (Jag vet inte om hon försökte kontakta FaceAbout också, men de är baserade i Vitryssland och verkar inte ha något kontaktnummer eller mejl. Förra gången jag kollade kunde jag fortfarande använda appen.) Jag fick ett e-postmeddelande från Worthy som informerar mig om att de har stängt av mitt konto och tagit bort all min sparade historik med Ivy på grund av att jag har brutit mot deras användarvillkor. Men de tillade att deras företag är baserat på filosofin att hjälpa människor att lära sig av mellanmänskliga misstag, så jag kan återaktivera mitt konto efter tre månader, även om mitt värdefulla resultat skulle återställas till noll.

Jag berättade för mina föräldrar att Ivy gjorde slut med mig. Det är sanningen. Jag behövde inte ens låtsas att jag lät knäpp. Min mamma är övertygad om att jag släppte en bra sådan på grund av min bristande känslomässiga mognad, men hon säger också att det finns gott om fisk i havet och att jag bara behöver sätta mig ut där igen. Jag är dock inte redo. Jag kollar fortfarande min låsta Worthy-app flera gånger om dagen av vana, i hopp om att se ett meddelande från Ivy, även om jag vet att det inte kommer att finnas fler.

Den goda nyheten är att hela denna erfarenhet har lärt mig att jag måste utvärdera hur jag förhåller mig till människor. Jag har lurat mig själv att tro att handlingar i en spelinlärningsmiljö är en ersättning för sann mänsklig koppling och autentisk personlig tillväxt. Det är hur min terapeut Susan uttrycker det i alla fall, och jag håller med. Jag har börjat träffa henne två gånger i veckan. Mötena sker online, vilket fungerar bra för mitt schema. Egentligen är hon ett virtuellt program. Efter att Ivy gjorde slut med mig fick jag en rabattkod på 40 % från Worthy för deras app för mental hälsa, Worth It, som guidar dig genom ett 60-dagars program för Healing From Loss of a Relationship. Jag planerar också att göra 30-dagars Recenter Your Self Worth-modulen. Jag är inte säker på om jag kommer att uppgradera mitt abonnemang för att göra de 90 dagarna av att öppna dig för möjligheter, men jag har läst bra recensioner om det.

TL;DR: Tack till er alla och Susan, jag går vidare från denna svåra upplevelse med allt stöd jag behöver för att bli en bättre människa. Fred!

Fonda Lee är författaren till Green Bone Saga och den Exo duologi , vinnare av 2018 års World Fantasy Award för bästa roman, och en trefaldig mottagare av Kanadas Aurora-pris.

Dölj