Människor hyr ut sina ansikten för att bli deepfake-stil marknadsföringskloner

timme ett

Liksom många studenter har Liri haft flera deltidsjobb. En 23-åring i Israel gör hon servitris- och bartenderspelningar i Tel Aviv, där hon går på universitetet.

Hon säljer också bilar, jobbar inom detaljhandeln och genomför anställningsintervjuer och introduktionssessioner för nyanställda som HR-representant. I Tyskland.

Relaterad berättelse

Året deepfakes blev mainstream År 2020 började AI-syntetiska medier röra sig bort från de mörkare hörnen av internet.

Liri kan jonglera med så många jobb, i flera länder, eftersom hon har hyrt ut sitt ansikte till Hour One, en startup som använder människors likheter för att skapa AI-röstade karaktärer som sedan dyker upp i marknadsförings- och utbildningsvideor för organisationer runt om i världen. Det är en del av en våg av företag se över hur digitalt innehåll produceras . Och det har stora konsekvenser för mänsklig arbetskraft .

Liri sköter sitt servitris- och bararbete personligen, men hon har ingen aning om vad hennes digitala kloner har för sig. Det är definitivt lite konstigt att tänka på att mitt ansikte kan dyka upp i videor eller annonser för olika företag, säger hon.

Hour One är inte det enda företaget tar deepfake tech mainstream , använder den för att producera mash-ups av verkliga bilder och AI-genererad video. Vissa har använt professionella skådespelare för att lägg liv till djupförfalskade personas . Men Hour One ber inte om några speciella färdigheter. Du behöver bara vara villig att lämna över rättigheterna till ditt ansikte.

Karaktärsdriven

Hour One bygger upp en pool av vad den kallar karaktärer. Det står att det har cirka 100 på sina böcker hittills, och fler läggs till varje vecka. Vi har en kö av människor som dör efter att bli dessa karaktärer, säger Natalie Monbiot, företagets strategichef.

Vem som helst kan ansöka om att bli karaktär. Som en modellbyrå filtrerar Hour One igenom sökande och väljer ut dem som den vill ha i sina böcker. Företaget siktar på ett brett urval av karaktärer som speglar åldrarna, könen och rasbakgrunden för människor i den verkliga världen, säger Monbiot. (För närvarande är cirka 80 % av karaktärerna under 50 år, 70 % är kvinnor och 25 % är vita.)

För att skapa en karaktär använder Hour One en högupplöst 4K-kamera för att filma en person som pratar och gör olika ansiktsuttryck framför en grön skärm. Och det är det för den mänskliga delen av föreställningen. Genom att koppla in den resulterande informationen i AI-programvara som fungerar på liknande sätt som deepfake-teknik, Hour One kan generera en oändlig mängd bilder av den personen som säger vad den vill, på vilket språk som helst.

AI-karaktären som Hour One skapade med Liris ansikte

Hour Ones kunder betalar företaget för att använda dess karaktärer i reklam- eller kommersiell video. De väljer ett ansikte, laddar upp texten de vill att det ska stå och får tillbaka en video av vad som ser ut som en riktig person som levererar det manuset till en kamera. Den snabbaste tjänsten använder text-till-tal-mjukvara för att generera syntetiska röster, som synkroniseras med karaktärernas munrörelser och ansiktsuttryck. Hour One erbjuder också en premiumtjänst där ljudet spelas in av professionella röstskådespelare. Dessa röster är återigen anpassade till karaktärens rörelser i videon. Hour One säger att det har mer än 40 kunder, inklusive fastigheter, e-handel, digital hälsa och underhållningsföretag. En stor kund är Berlitz, en internationell språkskola som tillhandahåller lärarledda videokurser för dussintals språk.

Enligt Monbiot ville Berlitz öka antalet videor som de erbjöd men kämpade för att göra det med riktiga mänskliga skådespelare. De var tvungna att ha produktionsteam som skapade samma setup med samma skådespelare om och om igen, säger hon: De fann det verkligen ohållbart. Vi pratar om tusentals videor.

Berlitz arbetar nu med Hour One för att generera hundratals videor på några minuter. Vi byter ut studion, säger Monbiot. En människa behöver inte slösa bort sin tid på att filma.

Relaterad berättelse

Deepfake porr förstör kvinnors liv. Nu kan lagen äntligen förbjuda det.

Efter år av aktivister som kämpat för att skydda offer för bildbaserat sexuellt våld, tvingar deepfakes äntligen lagstiftare att vara uppmärksamma.

Ett annat tidigt exempel på tekniken i aktion är Alice receptionist , ett företag som förser företag med en avatar på en skärm för att hantera besökarnas frågor, och ersätter rollen som mänsklig receptionist på en rad fysiska platser i USA. Hour One arbetar tillsammans med Alice Receptionist för att uppdatera sina videofilmer av mänskliga skådespelare så att de digitala receptionisterna kan fås att säga olika saker på olika språk utan att behöva filma om timmar av video.

Liri, som alla på Hour Ones böcker, får en mikrobetalning varje gång en kund licensierar en video som använder hennes ansikte. Monbiot kommer inte att säga exakt hur stora dessa betalningar är förutom att det är dollar, inte cent. Jag kan inte säga att någon idag försörjer sig på det här, säger hon. Men vi tror att om allt går bra kommer det att vara ett gångbart sätt att tjäna pengar.

Genom att ta bort behovet av filmteam, studiotekniker och – i alla utom några minuter – skådespelare, är Hour Ones teknologi en välsignelse för företag som vill skala upp videoproduktion, även om den erbjuder lite lätta pengar till en handfull av människor som Liri. Men vissa är bekymrade över konsekvenserna för arbetets framtid.

Byta roller

Det här ser ut som ett ganska extremt fall av teknik som minskar människans roll i en viss arbetsprocess, säger Jessie Hammerling vid Center for Labor Research and Education vid University of California, Berkeley, som studerar effekten av ny teknik på arbetet. Automatisering eliminerar inte alltid mänskliga roller helt, men det förändrar dessa roller på ett sätt som påverkar människors förmåga att tjäna en rättvis lön eller göra ett jobb till en långsiktig karriär, säger hon.

Hammerling noterar att om man tillåter företag att återanvända engångsfilmer av skådespelare för flera videoprojekt kommer det att minska tillgängligheten för denna typ av skådespelararbete. Enligt SAG-AFTRA, en fackförening för amerikanska film-, tv- och radioartister, gör många skådespelare reklam- och marknadsföringsarbete för kunder som de som nu arbetar med Hour One.

SAG-AFTRA säger att det är viktigt att personer som hyr ut sin liknelse till företag som Hour One kan behålla kontrollen över hur den liknelsen används.

För många talanger är deras likheter värdefulla tillgångar som garanterar ordentligt skydd och kompensation för deras användning, säger en facklig talesperson. Det finns risk för att de hamnar i innehåll som de kan invända mot eller som kan komma i konflikt med annat arbete.

Hour One verkar ha rätt. Företaget låter inte folk ha något att säga till om hur deras likhet kommer att användas eller vilka ord som kommer att läggas i deras mun, men det har en etikpolicy som anger att det inte kommer att fungera med vissa branscher. Vi är ganska konservativa när det gäller de typer av företag som vi arbetar med, säger Monbiot. Det betyder inget spelande, inget sex och ingen politik.

Liri oroar sig inte för mycket. Hon säger att hon litar på att Hour One inte använder sitt ansikte för något som kan få henne att känna sig obekväm. Hon rekommenderade till och med spelningen till sina vänner. Jag har haft vänner som skickat mig videos de har sett mitt ansikte i, vilket kändes väldigt konstigt, säger hon. Helt plötsligt insåg jag att det här är på riktigt.

Dölj