En indisk politiker använder deepfake-teknik för att vinna nya väljare

Kategori: Artificiell intelligens Postad 19 feb

Nyheterna: En djupförfalskning av presidenten för Indiens styrande Bharatiya Janata Party (BJP), Manoj Tiwari, gick viralt på WhatsApp i landet tidigare denna månad, inför valet till den lagstiftande församlingen i Delhi, enligt Vice . Det är första gången ett politiskt parti någonstans har använt en deepfake i kampanjsyfte. I den ursprungliga videon talar Tiwari på engelska, kritiserar sin politiska motståndare Arvind Kejriwal och uppmuntrar väljarna att rösta på BJP. Den andra videon har manipulerats med deepfake-teknik så hans mun rör sig övertygande när han talar på Haryanvi, den hindi-dialekt som talas av målväljarna för BJP.

Syftet: BJP har samarbetat med det politiska kommunikationsföretaget The Ideaz Factory för att skapa djupa förfalskningar som låter den rikta in sig på väljare över de över 20 olika språk som används i Indien. Partiet berättade för Vice att Tiwari deepfake nådde cirka 15 miljoner människor i 5 800 WhatsApp-grupper.

Orsakar larm: Det här är inte första gången deepfakes dyker upp under en politisk kampanj. Till exempel i december förra året, forskare gjorde en falsk video av de två kandidaterna i Storbritanniens allmänna val stödjer varandra. Det var dock inte meningen att det skulle påverka omröstningen - bara för att öka medvetenheten om deepfake-teknik. Det här fallet i Indien verkar vara första gången deepfakes har använts för en politisk kampanj. Den stora risken är att vi når en punkt där människor inte längre kan lita på vad de ser eller hör. I det scenariot skulle en video inte ens behöva ändras digitalt för att folk ska fördöma den som falsk. Det är inte svårt att föreställa sig den frätande inverkan som skulle ha på ett redan bräckligt politiskt landskap.

Anmäl dig här till vårt dagliga nyhetsbrev The Download för att få din dos av de senaste måste-läsa nyheterna från den nya teknikens värld.