Underskatta inte det billiga fake

Ms Tech | Unsplash

Den 30 november, talesman för kinesiska utrikesministeriet, Lijian Zhao fäste en bild på sin Twitter-profil. I den står en soldat på en australisk flagga och flinar galet när han håller en blodig kniv mot en pojkes strupe. Pojken, vars ansikte är täckt av en halvgenomskinlig slöja, bär på ett lamm. Vid sidan av bilden twittrade Zhao, Chockad av mord på civila afghanska och fångar av australiensiska soldater. Vi fördömer starkt sådana handlingar, &call [sic] för att hålla dem ansvariga.

Tweeten är hänvisar till ett nyligen meddelat av Australian Defense Force, som hittade trovärdig information om att 25 australiska soldater var inblandade i morden på 39 civila afghanska och fångar mellan 2009 och 2013. Bilden utger sig för att visa en australisk soldat som håller på att skära halsen av ett oskyldigt afghanskt barn. Explosiva grejer.

Förutom att bilden är falsk. Vid närmare granskning är det inte ens särskilt övertygande. Det kunde ha satts ihop av en Photoshop-novis. Den här bilden är en så kallad cheapfake, ett stycke media som grovt har manipulerats, redigerats, felmärkt eller felaktigt kontextualiserat för att sprida desinformation.

Den billiga falska är nu i hjärtat av en stor internationell incident. Australiens premiärminister, Scott Morrison, sa att Kina borde skämmas fullständigt och krävde en ursäkt för motbjudande bild . Peking har vägrat, istället anklagat Australien för barbari och för försöker avleda allmänhetens uppmärksamhet från påstådda krigsförbrytelser av dess väpnade styrkor i Afghanistan.

Det finns två viktiga politiska lärdomar att dra av denna händelse. Den första är att Peking sanktionerade användningen av en billig fejk av en av dess toppdiplomater för att aktivt sprida desinformation på västerländska onlineplattformar. Kina har traditionellt utövat försiktighet i sådana frågor, med målsättningen att framställa sig som en godartad och ansvarsfull supermakt. Detta nytt tillvägagångssätt är en betydande avvikelse.

Den billiga falska är nu i hjärtat av en stor internationell incident.

Mer allmänt visar dock denna skärmytsling också den växande betydelsen av visuell desinformation som ett politiskt verktyg. Under det senaste decenniet har spridningen av manipulerade medier omformat den politiska verkligheten. (Tänk till exempel på de billiga förfalskningarna som katalyserade ett folkmord mot rohingyamuslimerna i Burma, eller hjälpte till att spridas covid desinformation. ) Nu när globala supermakter öppet delar billiga förfalskningar på sociala medier, vad hindrar dem (eller någon annan aktör) från att distribuera mer sofistikerad visuell desinformation när den dyker upp?

I åratal har journalister och teknologer varnat för farorna med deepfakes. Brett, deepfake s är en typ av syntetiska medier som har manipulerats eller skapats av artificiell intelligens. De kan också förstås som den överlägsna efterföljaren till cheapfakes.

Teknologiska framsteg förbättrar samtidigt kvaliteten på visuell desinformation och gör det lättare för vem som helst att generera. När det blir möjligt att producera deepfakes genom smartphone-appar, kommer nästan vem som helst att kunna skapa sofistikerad visuell desinformation nästan utan kostnad.

Falskt alarm

Deepfake-varningarna nådde en febernivå inför det amerikanska presidentvalet i år. I månader diskuterade politiker, journalister och akademiker hur man skulle motverka det upplevda hotet. Inför omröstningen, delstatslagstiftande församlingar i Texas och Kalifornien till och med förebyggande förbjudna användningen av deepfakes för att påverka val .

Relaterad berättelse

En deepfake bot används för att klä av minderåriga flickor

En teknik som liknar DeepNude, appen 2019 som stängdes av kort efter lanseringen, sprids nu obehindrat på Telegram.

I efterhand var dessa farhågor överskattat . Förutom några intressanta utvecklingar, inklusive en tongue-in-cheek-skapelse av det ryska statliga TV-bolaget Russia Today (RT) där en besegrad Donald Trump erkänner att han är den ryske presidenten Vladimir Putins bonde, fanns det lite valrelaterat deepfakery att rapportera. Förvisso inträffade inget som objektivt kunde sägas ha påverkat resultatet. Snarare än att användas för att sabotera eller utnyttja politiker, används deepfakes fortfarande oftast för att skapa porr utan samtycke .

Även om deepfakes ännu inte har blivit de massdesinformationsvapen som vissa förutspått, finns det inget utrymme för självbelåtenhet. Den potentiella risken mildras tills vidare av tekniska begränsningar. I takt med att deepfake-skapande teknikerna förbättras kommer dammluckorna att öppnas.

Och redan innan dess, blotta medvetenhet av deepfakes har redan en skadlig effekt. Inom en snar framtid kommer dåliga skådespelare att kunna producera deepfakes om allt, och helt enkelt avfärda all autentisk media som falsk. Denna dubbla bonus för dåliga skådespelare är känd som lögnarens utdelning. Även om termen var myntade i en framstående tidning från 2018 om deepfakes, hänför det sig inte enbart till deepfakes. Konceptet sträcker sig till all desinformation, inklusive billiga förfalskningar.

Billiga förfalskningar överallt

Eftersom den ökända doktorerade videon av parlamentets talman Nancy Pelosi dök upp 2019 har cheapfakes blivit ett vanligt inslag i USA:s politiska liv. I år hjälpte de till att upprätthålla en högprofilerad desinformationsoperation som framförts av presidenten och hans närmaste medarbetare. Det falska påståendet att valet kantades av utbredda väljarfusk förstärktes konsekvent av billiga förfalskningar.

Ett exempel är en viral video av tillträdande president Joe Biden som säger, Vi har sammanställt, tror jag, den mest omfattande och inkluderande väljarbedrägeriorganisationen i amerikansk politiks historia. När de är korrekt kontextualiserade kan Bidens kommentarer förstås som att de beskriver ett program för att skydda väljarna i händelse av grundlösa rättstvister om valresultatet. Ändå delades klippet av både Trump och pressekreterare Kayleigh McEnany och framställs som ett erkännande av bedrägeri.

Även när rösterna fortfarande räknades, autentiska videor av valarbetare transkribera röster och samla in röstsedlar på ett rutinmässigt sätt delades av personer inklusive Trump själv som bevis på röstdumpning och manipulering. Samtidigt visade sig ett viralt billigt fake som visar en man som river upp valsedlar vara ett verk av en TikTok-skojare .

Anklagelserna om utbredda väljarbedrägerier är grundlösa, och domstolar över hela Amerika avfärdar försök från Trumps juridiska team att ifrågasätta valresultatet. Tidigare denna månad, justitieminister Bill Barr (som avgår den 23 december) slutligen erkänd att det amerikanska justitiedepartementet inte har upptäckt några bevis på bedrägeri.

Men billiga förfalskningar verkar ha fått verkliga konsekvenser: i början av december, Gabriel Sterling, Georgiens implementeringschef för röstsystem , citerade fall av hot och dödshot mot valarbetare och vädjade: Allt har gått för långt! Det måste sluta! En valarbetare i Georgien var tvungen att gömma sig efter en 34-sekunders billig fejk anklagade honom felaktigt för att ha kastat bort en frånvaro blev viral.

Tron på berättelsen om det riggade valet faller starkt längs partipolitiska linjer. A Politico/Morning Consult-undersökning som genomfördes efter valet fann att 70 % av de republikanska väljarna sa att de inte trodde att det hade varit fritt och rättvist. Antalet GOP-väljare som uttryckte liknande misstro mot processen före valet var 35 %. Omvänt sa bara hälften av de demokratiska väljarna (52 %) att de trodde att valet skulle vara fritt och rättvist före den 3 november. I undersökningar som gjordes efter Bidens seger, skjuter siffran i höjden till 90 %.

Vad ska man tro?

Den växande förekomsten av visuell desinformation verkar påverka politiken på två olika sätt. För det första matar det spridningen av alla typer av desinformation. Dåliga skådespelare agerar mer ostraffat, övertygade om att de kan undvika granskning och ansvarsskyldighet. I skrivande stund var den billiga falska som delas av Lijian Zhao fortfarande fäst på hans Twitter-profil.

Dagens billiga förfalskningar erbjuder värdefulla lärdomar om framtidens djupa förfalskningar.

För det andra gör den växande förekomsten av visuell desinformation oss mer mottagliga för all desinformation. När allmänheten blir mer medveten om de många sätt på vilka medier kan manipuleras, kommer den att bli mer skeptisk till alla medier, inklusive autentiska medier.

Denna skepsis gör det lättare för dåliga skådespelare att avfärda verkliga händelser som falska. Det kan också leda till allt mer subjektiva och partiska tolkningar av händelser av allmänheten själv. Tänk till exempel på den utbredda uppfattningen bland republikanska väljare att valet i USA 2020 inte var fritt och rättvist. Detta är bevisligen falskt, men som den allmänna opinionen antyder är det inte bara republikanernas väljare som misstror valprocessen. Tills de vann var demokratiska väljare det också skeptisk. Om en republikansk kandidat vinner 2024, kommer den allmänna opinionen att vända på partipolitiska linjer igen?

Även om de mest fruktansvärda förutsägelserna om politiskt motiverade djupförfalskningar inte realiserades 2020, måste vi analysera utvecklingen av dem i samband med billiga förfalskningar och andra former av politisk desinformation. Dagens billiga förfalskningar erbjuder värdefulla lärdomar om framtidens djupa förfalskningar. Frågan borde alltså inte vara När kommer politiska djupa förfalskningar att dyka upp? men hur kan vi mildra de många sätt på vilka visuell desinformation redan omformar vår politiska verklighet?

Nina Schick är författaren till Deepfakes: The Coming Infocalypse.

Dölj