Facebook har precis släppt en databas med 100 000 deepfakes för att lära AI hur man upptäcker dem

Facebook

Deepfakes⁠ har drabbat både allmänheten och forskare. Det är något unikt störande med dessa AI-genererade bilder av människor som verkar säga eller göra något de inte gjorde.

Med verktyg för att göra deepfakes nu allmänt tillgängliga och relativt lätta att använda, många oroar sig också för att de kommer att användas för att sprida farlig desinformation. Politiker kan till exempel få andras ord i munnen eller få dem att delta i situationer som de inte deltagit i.

Det är rädslan, åtminstone. För ett mänskligt öga är sanningen att deepfakes fortfarande är relativt lätta att upptäcka. Och enligt en rapport från cybersäkerhetsföretaget DeepTrace Labs i oktober 2019, fortfarande den mest omfattande hittills, har de inte använts i någon desinformationskampanj. Ändå fann samma rapport också att antalet deepfakes som lagts upp på nätet växte snabbt, med cirka 15 000 som dykt upp under de föregående sju månaderna. Den siffran kommer att vara mycket större nu.

Sociala medieföretag är oroade över att deepfakes snart kan översvämma deras webbplatser. Men att upptäcka dem automatiskt är svårt. För att ta itu med problemet vill Facebook använda AI för att hjälpa till att slå tillbaka mot AI-genererade förfalskningar. För att träna AI:er att upptäcka manipulerade videor släpper den den största datamängden någonsin med djupförfalskningar⁠—mer än 100 000 klipp producerade med 3 426 skådespelare och en rad befintliga tekniker för ansiktsbyte.

Deepfakes är för närvarande inte ett stort problem, säger Facebooks CTO, Mike Schroepfer. Men den läxa jag lärt mig den hårda vägen under de senaste åren är att inte fångas på plattfot. Jag vill vara riktigt förberedd på en massa dåliga saker som aldrig händer snarare än tvärtom.

Facebook har också meddelat vinnaren av sin Deepfake Detection Challenge , där 2 114 deltagare lämnade in cirka 35 000 modeller utbildade på sin datauppsättning. Den bästa modellen, utvecklad av Selim Seferbekov, en maskinlärande ingenjör på kartföretaget Mapbox, kunde upptäcka om en video var en deepfake med 65 % noggrannhet när den testades på en uppsättning av 10 000 tidigare osynliga klipp, inklusive en blandning av nya videor genererade av Facebook och befintliga tagna från internet.

För att göra det svårare innehåller träningssetet och testsetet videor som ett detekteringssystem kan bli förvirrat av, till exempel personer som ger sminkstudier och videor som har justerats genom att klistra in text och former över högtalarnas ansikten, ändra upplösningen eller orientering och sakta ner dem.

Istället för att lära sig kriminaltekniska tekniker, som att leta efter digitala fingeravtryck i pixlarna i en video som lämnats efter av den djupfalska genereringsprocessen, verkar de fem bästa bidragen ha lärt sig att upptäcka när något såg ut, som en människa kan göra.

För att göra detta använde vinnarna alla en ny typ av konvolutionellt neuralt nätverk (CNN) som utvecklades av Googles forskare förra året, kallat EfficientNets. CNN används ofta för att analysera bilder och är bra på att upptäcka ansikten eller känna igen föremål. Att förbättra deras noggrannhet utöver en viss punkt kan dock kräva ad hoc-finjustering. EfficientNets ger ett mer strukturerat sätt att trimma, vilket gör det lättare att utveckla mer exakta modeller. Men exakt vad det är som får dem att överträffa andra neurala nätverk på denna uppgift är inte klart, säger Seferbekov.

Facebook planerar inte att använda någon av de vinnande modellerna på sin sajt. För det första är 65 % noggrannhet ännu inte tillräckligt bra för att vara användbar. Vissa modeller uppnådde mer än 80 % noggrannhet med träningsdata, men detta minskade när de ställdes mot osynliga klipp. Att generalisera till nya videor, som kan innehålla olika ansikten som byts ut med olika tekniker, är den svåraste delen av utmaningen, säger Seferbekov.

Han tror att ett sätt att förbättra upptäckten skulle vara att fokusera på övergångarna mellan videobilder, spåra dem över tid. Även mycket högkvalitativa deepfakes har en del flimmer mellan ramarna, säger Seferbekov. Människor är bra på att upptäcka dessa inkonsekvenser, särskilt i bilder av ansikten. Men för att fånga dessa kontrollampa defekter automatiskt krävs större och mer varierad träningsdata och mycket mer datorkraft. Seferbekov försökte spåra dessa ramövergångar men kunde inte. CPU var en riktig flaskhals där, säger han.

Facebook föreslår att deepfake-detektering också kan förbättras genom att använda tekniker som går utöver analysen av en bild eller video i sig, som att bedöma dess sammanhang eller härkomst.

Sam Gregory, som leder Witness, ett projekt som stöder människorättsaktivister i deras användning av videoteknik, välkomnar investeringen av sociala medieplattformar i deepfake-detektering. Witness är medlem i Partnership on AI, som gav Facebook råd om sin datamängd. Gregory håller med Schroepfer om att det är värt att förbereda sig på det värsta. Vi har inte haft de deepfake apokalyperna, men dessa verktyg är ett mycket otäckt tillägg till könsbaserat våld och desinformation, säger han. Till exempel fann DeepTrace Labs rapport att 96% av deepfakes var pornografi utan samtycke, där andra människors ansikten klistras över artisters ansikten i porrklipp.

När miljontals människor kan skapa och dela videor är det viktigare än någonsin att lita på det vi ser. Falska nyheter sprids via Facebook som en löpeld, och blotta möjligheten till djupförfalskningar skapar tvivel, vilket gör att vi mer benägna att ifrågasätta äkta film såväl som falska.

Dessutom kan automatisk upptäckt snart vara vårt enda alternativ. I framtiden kommer vi att se deepfakes som inte kan urskiljas av människor, säger Seferbekov.

Dölj