Google har släppt en gigantisk databas med deepfakes för att hjälpa till att bekämpa deepfakes

Kategori: Artificiell intelligens Postad 25 september

Den innehåller 3 000 AI-genererade videor som gjordes med olika allmänt tillgängliga algoritmer.

Sammanhanget: Under det senaste året har generativa algoritmer blivit så bra på att syntetisera media att det de producerar snart kan bli omöjligt att skilja från verkligheten. Experter tävlar nu om att hitta bättre metoder för att upptäcka dessa så kallade deepfakes, särskilt när det amerikanska presidentvalet 2020 närmar sig.

Deepfake drop: På tisdag, Google släppte en öppen källkodsdatabas som innehåller 3 000 manipulerade originalvideor som en del av dess ansträngning att påskynda utvecklingen av verktyg för deepfake-detektering. Det fungerade med 28 skådespelare för att spela in videor där de pratade, gjorde vanliga uttryck och utför vardagliga uppgifter. Den använde sedan allmänt tillgängliga deepfake-algoritmer för att ändra deras ansikten.

Toppmodern: Tidigare denna månad meddelade Facebook att de skulle släppa en liknande databas i slutet av året. I januari skapade ett akademiskt team under ledning av en forskare från Münchens tekniska universitet en som heter FaceForensics++ genom att utföra fyra vanliga ansiktsmanipulationsmetoder på nästan 1 000 sammanställda YouTube-videor. Med var och en av dessa datamängder är tanken densamma: att skapa en stor samling exempel som kan hjälpa till att träna och testa automatiserade detekteringsverktyg.

Katt-och-mus-spel: Men när en detektionsmetod har utvecklats för att utnyttja ett fel i en viss generationsalgoritm, kan algoritmen enkelt uppdateras för att korrigera för det. Som ett resultat försöker vissa experter nu ta reda på detektionsmetoder som förutsätter perfektion av syntetiska bilder. Andra argumentera att begränsning av djupförfalskningar inte kommer att åstadkommas enbart med tekniska medel: istället kommer det också att krävas sociala, politiska och juridiska lösningar för att ändra incitamenten som uppmuntrar deras skapande.

För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.