Att göra deepfake-verktyg behöver inte vara oansvarigt. Här är hur.

Ett exempel som cirkulerat av Facebook på två kvinnor som kokar kaffe: den ena är en deepfake. Facebook

Syntetiska medietekniker – populärt känd som deepfakes – har verklig potential för positiv inverkan. Röstsyntes, till exempel, gör att vi kan tala hundratals språk med vår egen röst. Videosyntes kan hjälpa oss att simulera självkörande bilolyckor för att undvika misstag i framtiden. Och textsyntes kan påskynda vår förmåga att skriva både program och prosa.

Men dessa framsteg kan komma till en gigantisk kostnad om vi inte är försiktiga: samma underliggande teknologier kan också möjliggöra bedrägeri med globala konsekvenser.

Tack och lov kan vi både möjliggöra teknikens löfte och mildra dess risk. Det kommer bara ta lite hårt arbete.

Det jag argumenterar för här är menat att vara en uppmaning till handling för att göra det arbetet – och en guide för att stödja de av oss som skapar sådan teknik, oavsett om vi gör banbrytande forskning, utvecklar nya produkter eller bara öppnar- källsystem för skojs skull. Det här är också för dem som investerar i eller finansierar sådant arbete, journalisterna som kan hjälpa till att se till att teknikskapare tar sin påverkan på allvar, och vännerna eller familjen till dem som skapar denna teknik.

Vi kan längre frånvara oss ansvar genom att säga att det inte finns något vi kan göra om människor missbrukar våra verktyg. För det finns saker vi kan göra; det är bara det att vi ofta inte bryr oss. Ett annat argument, Den här tekniken kommer att göras ändå, är inte helt falskt – men hur och när spelar stor roll och kan förändras som ett resultat av våra val. (För mer om detta, inklusive viss hotmodellering, kolla in vår fullt papper , särskilt avsnitt 2 om vad som leder till skada.) Slutligen kan vi inte gömma oss bakom det banala erkännandet att det alltid har förekommit bedrägeri samtidigt som vi ignorerar de betydande skillnaderna i grad och effekt.

Kostnaderna för deepfake-teknik är inte bara teoretiska. Syntetiska videor med ansiktsbyte trakassera journalister till tystnad ; syntetiska röster används för stora bedrägliga transaktioner , och syntetiska ansikten har påstås ha stött spionage . Allt detta är trots de nuvarande utmaningarna med att använda hackad tillsammans beta-kvalitet programvara. Hindren för att använda syntetiska medier är fortfarande för höga för att tekniken ska vara övertygande för de flesta illvilliga aktörer – men när den går från buggy-betas till miljarder människors händer har vi ett ansvar att undvika värsta fall scenarier genom att göra det så svårt som möjligt att använda deepfakes för ondska. Hur?

Tillvägagångssätt 1: Begränsa vem som kan använda ett verktyg ... och hur

Det finns flera saker vi kan göra som gör skadlig användning mycket mindre sannolikt. En uppenbar, enkel och effektiv metod är att noggrant veterinär de som kan använda ett verktyg. Det här är vad företag gillar Syntes gör – i huvudsak arbetar endast med granskade företagskunder.

Ett alternativ är att begränsa användningen : för att begränsa vad användare kan syntetisera eller manipulera. Det är till exempel möjligt att bygga verktyg för att säkerställa att endast vissa förvalda röster eller ansikten kan manipuleras. Det här är vad Humen , till exempel, gör – tillhandahåller en begränsad uppsättning rörelser som personen i en genererad video kan göra.

Dessa kanske inte är ett alternativ för många system. Så vad mer kan man göra?

Tillvägagångssätt 2: Att motverka skadlig användning

För syntetiska medieverktyg som är generella och som kan göras allmänt tillgängliga, finns det fortfarande många möjliga sätt att minska skadlig användning. Här är några exempel.

• Tydlig avslöjande: Begär att syntetiserade medier tydligt anges som sådana – särskilt material som kan användas för att vilseleda. Verktyg kan kanske stödja detta genom att inkludera tydliga visuella eller hörbara meddelanden i utdatafiler, såsom synliga varningar eller talade avslöjanden. Åtminstone bör metadata ange hur media syntetiserades eller manipulerades.
• Samtyckesskydd: Kräv samtycke från dem som efterliknas. Röstkloningsverktyget Lyrebird kräver att användare talar särskilda fraser för att modellera sin röst. Detta gör det svårare att utge sig för någon utan samtycke, vilket skulle vara mycket möjligt om det helt enkelt genererade röster med hjälp av vilken datauppsättning som helst. Detta är naturligtvis endast tillämpligt för verktyg som möjliggör identitetsstöld.
• Detektionsvänlighet: Se till att det syntetiserade mediet inte är överdrivet svårt att upptäcka; hålla detektorverktyg uppdaterade; samarbeta med dem som arbetar med upptäckt för att hålla dem uppdaterade om nya utvecklingar.
• Dolda vattenstämplar: Bädda in sammanhang om syntes – eller till och med originalmediet – genom robusta vattenstämplar, både med metoder som är tillgängliga för alla med rätt verktyg och genom tillvägagångssätt som är hemliga och svåra att ta bort. (Till exempel, Modulate.ai vattenstämplar ljud som den genererar, medan produkter som Imatag och deras motsvarigheter med öppen källkod möjliggör vattenmärkning för bilder.)
• Användningsloggar: Lagra information om användning och mediautdata på ett sätt som forskare och journalister kan komma åt för att identifiera om till exempel en video troligen har syntetiserats med ett visst verktyg. Detta kan inkludera att lagra tidsstämplar för syntes med en robust hash eller mediainbäddning.
• Användningsbegränsningar: Tillhandahålla och upprätthålla avtalsenliga användningsvillkor som förbjuder och straffar oönskade handlingar, som att försöka ta bort avslöjanden eller vattenstämplar, eller kränka andra människors samtycke. En starkare version av detta tillvägagångssätt innebär att explicit utarbeta tillåtna användningar av tekniken eller resulterande resultat.

Alla dessa strategier är inte tillämpliga på alla system. Vissa kan ha sina risker, och ingen är perfekt – eller tillräcklig på egen hand. De är alla en del av ett försvar på djupet, där mer är mer. Även om vi har kontroll eller begränsningar, gör dessa tillvägagångssätt fortfarande ett system mer robust mot motståndare. Och även om att följa dessa regler kanske fungerar bäst för mjukvara som en tjänst-system, som levereras utan att avslöja någon källkod, kan de fortfarande ge ett visst värde för verktyg och modeller med öppen källkod: många dåliga aktörer kommer inte att ha den tekniska förmågan att få kring dessa skyddsåtgärder. ( Hela papperet utforskar när källkoden ska publiceras i första hand).

Stödja etiska deepfake-verktyg

Att göra extra arbete för att skydda människor från skada kan vara svårt att motivera i dagens konkurrensutsatta affärsmiljö – tills en oåterkallelig katastrof inträffar. Så hur hjälper vi till att säkerställa att dessa tillvägagångssätt implementeras innan det är för sent? Här är fyra saker som finansiärer, regeringar, journalister och allmänheten kan göra nu för att stödja dem som tillverkar etiska syntetiska medieverktyg.

Gör det enkelt att göra rätt

Det betyder att vi måste investera i forskning inom alla dessa områden så att vi har allmänt tillgängliga, välfinansierade verktyg med öppen källkod för att implementera dessa tillvägagångssätt. Historien om informationssäkerhet visar att när lättanvända verktyg med öppen källkod kan användas för att hålla saker och ting säkra, blir mycket fler saker säkra. Samma logik gäller här: åtminstone måste vi skyndsamt göra det enkelt att tillhandahålla standardiserad avslöjande metadata, vattenstämplar och loggning. Vi behöver också forskning för att undersöka om det är möjligt att baka in detekterbarhet i tränade modeller före distribution. Utan den här typen av infrastruktur och forskning kommer vi att se många välmenande nya verktyg användas på fruktansvärda sätt.

Främja expertis för att mildra missbruk

Precis som inom integritet och säkerhet måste vi stödja samhällen som fokuserar på att härda system och ta itu med dåliga aktörer, och företag måste betala människor för att utföra detta arbete, antingen som konsulter eller i egen regi.

Undvik att finansiera, bygga och distribuera oansvariga verktyg

Om ett företag eller verktyg inte åtminstone försöker minska risken för missbruk, bör finansiärer och utvecklare inte stödja det. Verktygstillverkare som inte implementerar de bästa praxis som anges ovan måste ha mycket goda skäl, och appbutiker bör kräva dem som standard.

Skapa normer genom att ställa människor till svars

Om de är försumliga borde vi kalla ut dem – även om de är våra investerade, kollegor, vänner eller familj. Vi kan skapa etiska normer genom att berömma dem som gör det rätta, och pressa dem som inte gör det att göra det bättre.

Organisationer som utvecklar deepfake-teknik, som Nvidia, Adobe, Facebook och Google, borde satsa stort på allt ovanstående. Riskkapitalister och stiftelser bör också göra sin del för att stödja detta arbete och vara försiktiga med vem de stöder.

Detta är bara en del av en mycket bredare uppsättning av insatser som behövs, och i många fall kan de köpa oss bara lite mer tid. Det betyder att det är absolut nödvändigt att se till att plattformar och beslutsfattare använder den tiden på ett klokt sätt för att göra vårt informationsekosystem mer motståndskraftigt.

Vårt förflutna är fyllt av dem som önskade att de hade introducerat sina uppfinningar mer noggrant – och vi har bara en framtid. Låt oss inte förstöra det.

—Aviv Ovadya är grundaren av Genomtänkt teknikprojekt och en icke-resident fellow vid German Marshall Fund's Alliance for Securing Democracy. Se hela artikeln om att mildra negativa effekter av forskning om syntetiska medier, författad med Jess Whittlestone, här .

Dölj