Facebook, Google, Twitter är inte förberedda på presidentens djupförfalskningar

Kategori: Artificiell intelligens Postad 06 aug

Ingen av de tre stora internetdimhornen – Facebook, Google eller Twitter – verkar ha en tydlig plan för att hantera AI-genererade falska videor, eller deepfakes, inför nästa års presidentval, enligt ordföranden för House Intelligence Committee.

Status uppdatering: Adam Schiff, en demokrat från Kalifornien, sa i fredags att de tre företagen har börjat tänka allvarligt på utmaningarna från maskinmanipulerad media, eller deepfakes, men att det finns mycket mer att göra om de ska vara beredda på det störande. effekten av denna teknik i nästa val.

Få inte panik: Inget behov av att flippa ut. Det finns faktiskt några nya tekniker för att upptäcka videor som har tillverkats med AI.

Face-off: Deepfake-videor använder de senaste framstegen inom maskininlärning för att automatiskt byta ansikten i en video eller utföra andra trick som suddar ut verkligheten. Enkla deepfake-verktyg kan laddas ner från webben, och du kan hitta många surrealistiska exempel på resultaten över internet .

Oron: Bildmanipulation har funnits länge, men AI gör sofistikerad fejk mer tillgänglig. Under ett val skulle en deepfake kanske kunna användas för att påverka väljarna i sista stund. I maj cirkulerade en video av Nancy Pelosi som hade manipulerats för att få det att se ut som om hon sluddrade sitt tal snabbt på sociala medier.

Katt och mus: För närvarande finns det några sätt att upptäcka deepfakes. Oregelbunden blinkning är till exempel ett tecken på att en video har trasslats till. Men upptäckt är något av en kapprustning, eftersom en AI-algoritm vanligtvis kan tränas för att åtgärda ett givet fel.

Fick dig: Denna juni, ett nytt papper från flera digitala kriminaltekniska experter beskrev ett mer idiotsäkert tillvägagångssätt. Den förlitar sig på att träna en detektionsalgoritm för att känna igen ansikts- och huvudrörelserna hos en viss person och därigenom visa när den personens ansikte har klistrats på någon annans huvud och kropp. Tillvägagångssättet fungerar bara när systemet har tränats för att känna igen någon, men det kan åtminstone hålla presidentkandidaterna säkra från attack.

Hålla tyst? Google gav faktiskt lite finansiering för denna nya forskning. Så kanske dessa företag håller sina kort nära bröstet när det kommer till deepfake-detektering. Om du vill ligga steget före fejkarna skulle det verkligen vara ett smart drag.