Året deepfakes blev mainstream

Ms Tech

2018, Sam Cole, en reporter på Motherboard, upptäckt ett nytt och oroande hörn av internet. En Reddit-användare vid namn deepfakes postade falska porrfilmer utan samtycke med hjälp av en AI-algoritm för att byta ut kändisars ansikten till riktig porr. Cole slog larm om fenomenet, precis när tekniken höll på att explodera. Ett år senare hade djupfalsk porr spridits långt utanför Reddit, med lätthet tillgängliga appar som skulle kunna ta av alla fotograferade kvinnor kläder.

Sedan dess har deepfakes haft en dålig rap, och det med rätta. De en stor majoritet av dem används fortfarande för falsk pornografi . En kvinnlig undersökande journalist var allvarligt trakasserad och tillfälligt tystad av sådan aktivitet, och på senare tid, en kvinnlig poet och romanförfattare var rädd och skämdes. Det finns också risken att politiska deepfakes genererar övertygande falska nyheter som kan orsaka förödelse i instabila politiska miljöer.

Men i takt med att algoritmerna för att manipulera och syntetisera media har blivit kraftfullare, har de också gett upphov till positiva tillämpningar – såväl som några som är humoristiska eller vardagliga. Här är en sammanfattning av några av våra favoriter i grov kronologisk ordning, och varför vi tror att de är ett tecken på vad som komma skall.

Whistleblower skärmning

DINA MEDIER

I juni, Välkommen till Tjetjenien , en undersökande film om förföljelsen av hbtq-personer i den ryska republiken, blev den första dokumentären som använder deepfakes för att skydda sina undersåtars identiteter. Aktivisterna som bekämpade förföljelsen, som fungerade som huvudpersonerna i berättelsen, levde gömda för att undvika att bli torterade eller dödade. Efter att ha utforskat många metoder för att dölja sina identiteter bestämde sig regissören David France för att ge dem deepfake omslag. Han bad andra hbtq-aktivister från hela världen att låna ut sina ansikten, som sedan ympades på ansiktena på personerna i hans film. Tekniken gjorde det möjligt för Frankrike att bevara integriteten hos hans undersåtars ansiktsuttryck och därmed deras smärta, rädsla och mänsklighet. Totalt skyddade filmen 23 individer, och banade väg för en ny form av whistleblower-skydd.

Revisionistisk historia

PANETTA OCH BURGUNDY

I juli, två MIT-forskare, Francesca Panetta och Halsey Burgund, släppt ett projekt att skapa en alternativ historia av Apollo-månlandningen 1969. Kallad I händelse av månkatastrof , använder den det tal som president Richard Nixon skulle ha hållit om det betydelsefulla tillfället inte hade gått enligt plan. Forskarna samarbetade med två separata företag för deepfake ljud och video och anlitade en skådespelare för att tillhandahålla basprestandan. De körde sedan hans röst och ansikte genom de två typerna av programvara och sydde ihop dem till en sista deepfake Nixon.

Även om det här projektet visar hur djupförfalskningar kan skapa kraftfulla alternativa historier, antyder ett annat hur djupförfalskningar kan ge verklig historia liv. I februari tidningen Time återskapad Martin Luther King Jr.s mars i Washington för virtuell verklighet för att fördjupa tittarna i scenen. Projektet använde inte deepfake-teknik, men den kinesiska teknikjätten Tencent senare citerade det i en vitbok om sina planer för AI, säger att deepfakes kan användas för liknande ändamål i framtiden.

memes

MS TECH | NEURIPS (TRÄNINGSSET); HAO (ARTIGHET)

På sensommaren fick memersphere vantarna på enkla att göra deepfakes och släppte lös resultaten in i det digitala universum. Ett viralt meme i synnerhet, kallat Baka Mitai (bilden ovan), ökade snabbt när människor lärde sig att använda tekniken för att skapa sina egna versioner. Den specifika algoritmen som driver galenskapen kom från en forskningsrapport från 2019 som tillåter en användare att animera ett foto av en persons ansikte med en video av någon annans. Effekten är inte högkvalitativ på något sätt, men det ger säkert kvalitetskul. Fenomenet är inte helt förvånande; lek och parodi har varit en drivande kraft i populariseringen av deepfakes och andra verktyg för mediamanipulation. Det är därför vissa experter betonar behovet av skyddsräcken för att förhindra satir från att suddas ut till missbruk .

Sportannonser

Späckade scheman gör det svårt att få kändissportstjärnor i samma rum vid de bästa tidpunkterna. Mitt i en lockdown är det omöjligt. Så när du behöver filma en reklam i LA med människor i karantänbubblor över hela landet, är det enda alternativet att fejka den. I augusti körde streamingsajten Hulu en annons för att främja sportens återgång till sin tjänst, med NBA-spelaren Damian Lillard, WNBA-spelaren Skylar Diggins-Smith och den kanadensiska hockeyspelaren Sidney Crosby i huvudrollerna. Vi ser dessa stjärnor som ger upp sitt surdegsbakande och återvänder till sina sporter, med basketbollar och hockeyklubbor. Förutom att vi inte gör det: ansiktena på dessa stjärnor överlagrades på kroppsdubbel med hjälp av deepfake-teknik. Algoritmen tränades på bilder av spelarna som fångats över Zoom. Datortrick har använts för att fejka den här typen av saker i flera år, men djupförfalskningar gör det enklare och billigare än någonsin, och detta år med fjärrkontroll har allt gett tekniken ett lyft. Hulu var inte den enda. Andra annonsörer, inklusive ESPN , experimenterade med deepfakes också.

Politiska kampanjer

I september, under upptakten till det amerikanska presidentvalet, släppte den partipolitiska förespråkargruppen RepresentUs ett par deepfake-annonser . De presenterade falska versioner av den ryske presidenten Vladimir Putin och Nordkoreas ledare Kim Jong-un som levererade samma budskap: att ingen av dem behövde blanda sig i amerikanska val, eftersom Amerika skulle förstöra sin demokrati av sig själv. Detta var inte den första användningen av deepfakes under en politisk kampanj. I februari, den indiske politikern Manoj Tiwari använt deepfakes i en kampanjvideo för att få det att se ut som om han pratade haryanvi, den hindi-dialekt som talas av hans målväljare. Men RepresentUs vände särskilt manuset på den typiska berättelsen kring politiska deepfakes. Medan experter ofta oroar sig för teknikens förmåga att skapa förvirring och störa val, försökte gruppen göra raka motsatsen: öka medvetenheten om väljarnas förtryck för att skydda rösträtten och öka valdeltagandet.

Tv program

Om deepfake-reklam och engångsstunt börjar kännas bekant, lita på skaparna av South Park att ta det till ytterligheter. I oktober debuterade Trey Parker och Matt Stone med sin nya skapelse, Sassy rättvisa , den första deepfake tv-programmet . Den veckovisa satiriska showen kretsar kring karaktären Sassy Justice, en lokal nyhetsreporter med ett djupt falskt Trump-ansikte. Sassy intervjuar djupförfalskade figurer som Jared Kushner (med Kushners ansikte ovanpå ett barn) och Al Gore. Med Sassy rättvisa , har deepfakes gått bortom marknadsföringsgimmick eller skadligt bedrägeri för att träffa den kulturella mainstream. Det är inte bara tekniken som används för att skapa karaktärerna, utan det är själva föremålet för satiren. I det första avsnittet undersöker Sassy Trump Justice, som spelar en konsumentförespråkare, sanningen bakom deepfake news.

Dölj