211service.com
Memers gör deepfakes och saker börjar bli konstiga
Nederst till höger: det är jag. Ms Tech | NeurIPS (träningsset); Hao (artighet)
Grace Windheim hade hört talas om deepfakes tidigare. Men hon hade aldrig funderat på hur hon skulle göra en. Det var ett viralt meme med hjälp av tekniken som fick henne att undersöka möjligheten – och upptäckte att det var superenkelt och helt gratis.
Inom ett dygn hade hon skapat en steg-för-steg-tutorial på YouTube att leda andra genom processen. Att göra en av dessa deepfakes och lägga över ljud är inte så komplicerat som man kanske tror, säger hon i videon som publicerades den 4 augusti. Den har sedan dess visats över 360 000 gånger.
Windheim är en del av en ny grupp av onlinekreatörer som leker med deepfakes när tekniken blir allt mer tillgänglig och sipprar in i internetkulturen. Fenomenet är inte förvånande; verktyg för mediamanipulation har ofta fått genomslag lek och parodi . Men det väcker också nya farhågor om dess potential för missbruk.
Deepfakes har redan använts för att trakassera kvinnor genom att utan samtycke byta ut deras ansikten till porrfilmer. Forskare oroar sig också för deras förmåga att störa val. Även om de djupa förfalskningar som skapats för memer fortfarande är uppenbart falska och relativt ofarliga, kanske de inte förblir så länge.
Det finns en fin linje mellan att använda deepfakes för underhållning och memes, och att använda dem för att skada, säger Windheim. I den här handledningen säger jag: 'Så här gör du just den här deepfake.' Men det läskiga med skriptet är att det bara kan användas för att göra vilken typ av deepfake du vill.
Jag har varit en dåre
Windheim, nyutexaminerad, arbetar som innehållsskapare på den San Francisco-baserade startupen Kapwing. Företaget, som började som meme-tillverkare, erbjuder en gratis svit med webbläsarbaserade videoredigeringsverktyg. Som en del av sitt jobb driver Windheim YouTube-kanalen och producerar innehållsmarknadsföringsvideor för att visa upp produkternas kapacitet.
I början av augusti stötte hon på en särskilt viral sökterm på Google Trends. Tre av de fem vanligaste frågorna frågade om en Baka Mitai deepfake meme. Jag ser nästan aldrig en fråga dyka upp så ofta, säger hon.
Memen, som det visar sig, var baserad på en video av en YouTuber som läppsynkar till en japansk tv-spelslåt som heter Baka Mitai (översättning: I've Been a Fool). Olika internetanvändare hade använt videon för att skapa taskiga deepfakes av alla från Barack Obama till Thanos sjunger sången. Trots sin popularitet fann Windheim dock att lite hade skrivits om hur man faktiskt gör det. Hon såg en möjlighet.
Den speciella deepfake-algoritmen som folk använde kommer från en 2019 års forskningsuppsats presenteras på NeurIPS, den största årliga AI-forskningskonferensen. Till skillnad från andra, mer komplexa algoritmer, tillåter det en användare att ta vilken video som helst av en persons ansikte och använda den för att animera ett foto av någon annans ansikte med bara några rader kod.
Windheim hittade öppen källkodsalgoritmen i en YouTube-handledning och portade den till en Google Colab-anteckningsbok, en gratistjänst för att köra kod i molnet. Efter några försök, med hjälp av de färdigheter hon hade fått under en och annan kodningsklass på college, fick hon manuset att spotta ut en deepfake-video. Hon synkroniserade sedan låten till videon med Kapwings verktyg och skapade en ny version av meme.
Sedan hon skrev hennes handledning på Kapwings YouTube-kanal har ett antal andra YouTubers också gjort tutorials med samma kopiera-och-klistrade algoritm. Skillnaden: många av dem lär sin publik hur man gör några typ av deepfake meme. Man lär till och med folk hur man gör dem på mobilen .
Dessa memes dyker nu upp överallt på sociala medier: på Twitter, Instagram och speciellt TikTok. Plattformens korta videor, som ofta innehåller häftig koreografi till medryckande musik, bidrar särskilt till att bli djupförfalskade till fascinerande effekt. #deepfake hashtaggen i appen har redan fått mer än 120 miljoner visningar.
@lemonjezus
@helltaker03
Det finns en avslöjande förvirring i ansiktena i videoklippen som är gjorda med denna algoritm, vilket gör det lätt att känna igen sitt hantverk; det är en del av deepfakes humor. Dessa ofullkomligheter—och surrealistisk kvalitet av memen – kommer att hålla dem från att förväxlas med verkligheten. För närvarande är mer hyperrealistiska deepfakes mycket mer tekniskt utmanande och beräkningsmässigt dyra att skapa.
Men i den takt som tekniken går framåt, är lätttillverkade djupförfalskningar som nästan inte går att skilja från verkligheten troligen runt hörnet. Vissa företag som den kinesiska teknikjätten Tencent, ägare till WeChat, har offentligt tillkännagett sina avsikter att investera mer resurser för att avancera toppmoderna för kommersiella tillämpningar .
Deepfakes är inte dåliga i sig. Tekniken har redan använts av konstnärer, pedagoger och andra som ett kraftfullt nytt verktyg för kreativa uttryck. I februari använde tidningen Time till exempel deepfakes för att återskapa upplevelsen av Martin Luther King Jr. håller sitt I Have a Dream-tal i virtuell verklighet. Tillsynsmyndigheter måste i slutändan definiera vad som är lämplig användning och vad som kan leda till skada.
För tillfället förlitar Windheim sig på sitt eget omdöme för att göra det samtalet. Innan hon publicerade sin video läste hon på om konsekvenserna av deepfakes och hade ett samtal med sina kollegor. Vi har aldrig för avsikt att våra produkter ska hjälpa användare att sprida desinformation, säger hon, så vi ville bara kontrollera oss själva.
Till slut bestämde de sig för några grundregler: de skulle fokusera sina tutorials på att skapa specifika memes, aldrig på att skapa djupförfalskningar utanför det sammanhanget. Så länge det är underhållning och inom memekulturen, säger hon, är vi i den klara zonen.