211service.com
Det största hotet med deepfakes är inte själva deepfakes
En bild av Hitler som håller ett tal med ansiktet ersatt av ett frågetecken. Ms. Tech
Det var sent 2018, och folket i Gabon hade inte sett sin president, Ali Bongo, offentligt på flera månader. Vissa började misstänka att han var sjuk, eller till och med död, och regeringen täckte över det. För att stoppa spekulationerna meddelade regeringen att Bongo hade drabbats av en stroke men förblev vid god hälsa. Strax efter det släppt en video av honom som håller sitt sedvanliga nyårstal.
I stället för att dämpa spänningar gjorde videon precis tvärtom. Som avslöjats av den digitala rättighetsorganisationen Internet Without Borders, tänker många Bongo tittade bort i filmen , misstänkte omedelbart att det var en djupförfalskning – ett stycke media som förfalskats eller förändrats med hjälp av AI. Tron underblåste deras misstankar om att regeringen dolde något. En vecka senare lanserade militären en misslyckad kupp och citerade videon som en del av motivationen.
Efterföljande kriminalteknisk analys fann aldrig något förändrat eller manipulerat i videon. Det spelade ingen roll. Bara tanken på deepfakes hade varit tillräckligt för att påskynda upplösningen av en redan prekär situation.
Inför det amerikanska presidentvalet 2020 har alltmer övertygande djupfalsk teknik lett till rädsla för hur sådana falska medier kan påverka den politiska opinionen. Men a ny rapport från Deeptrace Labs, ett cybersäkerhetsföretag fokuserat på att upptäcka detta bedrägeri, hittade inga kända fall där deepfakes faktiskt har använts i desinformationskampanjer. Vad som har haft den mer kraftfulla effekten är vetskapen om att de skulle kunna användas på det sättet.
Deepfakes utgör en risk för politiken när det gäller att falska medier verkar vara verkliga, men just nu är det mer påtagliga hotet hur idén om deepfakes kan åberopas för att få det verkliga att framstå som falskt, säger Henry Ajder, en av författarna till boken. Rapportera. Hypen och den ganska sensationella bevakningen som spekulerar om deepfakes politiska inverkan har överskuggat de verkliga fallen där deepfakes har haft en inverkan.
Dokumentation är inte längre bevis
Människorättsaktivister och desinformationsexperter har slagit larm om dessa separata men sammanflätade hot sedan deepfakes dök upp på platsen. Under de senaste två åren har amerikanska teknikföretag och beslutsfattare nästan uteslutande fokuserat på det första problemet Ajder nämner: den lätthet med vilken tekniken kan få falska saker att se verkliga ut. Men det är den andra som bekymrar experter mer. Även om hindren för att skapa deepfakes kan falla snabbt, kräver det ingen teknik alls att ifrågasätta sanningshalten i något.
Det ger ett annat vapen till de mäktiga: att säga 'Det är ett djupt falskt' om allt som människor som saknar makt försöker använda för att visa korruption.
Redan från början har det varit min största oro i det här utrymmet, säger Aviv Ovadya, en desinformationsexpert som nu driver det ideella Thoughtful Technology Project.
Att undergräva förtroendet för media kan få djupa återverkningar, särskilt i bräckliga politiska miljöer. Sam Gregory, programchef för Witness, en ideell organisation som hjälper människor att dokumentera övergrepp på mänskliga rättigheter, ger ett exempel. I Brasilien, som har drabbats av en historia av polisvåld, oroar sig medborgare och aktivister nu för att varje video de filmar av en officer som dödar en civil person inte längre kommer att vara tillräckliga skäl för utredning. Denna rädsla för att verkliga bevis sannolikt kan avfärdas som falska, säger Gregory, har blivit ett återkommande tema i workshops som han är värd för runt om i världen.
Det är en utveckling av påståendet att något är 'falska nyheter', säger han. Det ger ett annat vapen till de mäktiga: att säga 'Det är en deepfake' om allt som människor som saknar makt försöker använda för att visa korruption, för att visa kränkningar av mänskliga rättigheter.
Att bevisa att det verkliga är verkligt och att det falska är falskt
Att lösa dessa problem kräver förståelse för båda typerna av hot. På hög nivå vill man göra det så enkelt som möjligt att visa att en riktig sak är på riktigt och att en falsk sak är falsk, säger Ovadya.
Under de senaste månaderna har många forskargrupper, och teknikföretag som Facebook och Google, fokuserat på verktyg för att avslöja förfalskningar, såsom databaser för att träna detekteringsalgoritmer och vattenstämplar som kan byggas in i digitala fotofiler för att avslöja om de har manipulerats. Flera startups har också arbetat på sätt att bygga förtroende genom konsumentapplikationer som verifierar foton och videor när de tas, för att bilda en jämförelsegrund om versioner av innehållet cirkuleras senare. Gregory säger att teknikjättar bör integrera båda typerna av kontroller direkt i sina plattformar för att göra dem allmänt tillgängliga.
Men teknikföretag måste också anställa mänskliga innehållsmoderatorer, och medieorganisationer måste utbilda journalister och faktagranskare i både upptäckt och verifiering. Rapportering på plats kan bekräfta om en video speglar verkligheten eller inte och lägga till ett viktigt lager av nyanser. Tekniska modeller kan inte tolka innehållet i den fejkade videon över kulturella sammanhang eller föreställa sig hur den skulle kunna rekontextualiseras ytterligare, säger Britt Paris, expert på informationsstudier som nyligen publicerade en rapport om djupförfalskningar.
Vad [desinformationsaktörer] verkligen vill är inte att du ska ifrågasätta mer, utan att du ifrågasätter allt.
Som ett exempel pekar Paris på ändrade videor av Nancy Pelosi och Jim Acosta som blev virala under det senaste året. Båda var så kallade cheapfakes snarare än deepfakes – deras hastighet hade helt enkelt manipulerats för att vilseleda tittarna. Det skulle inte finnas något sätt att fånga dessa förfalskningar med tekniska metoder för att fånga deepfakes, säger Paris. Istället var journalister tvungna att avfärda dem – vilket innebar att folk var tvungna att lita på journalisterna.
Slutligen är alla experter överens om att allmänheten behöver ökad mediekunskap. Det finns en skillnad mellan att bevisa att en verklig sak är verklig och att faktiskt få allmänheten att tro att den verkliga varan är verklig, säger Ovadya. Han säger att folk måste vara medvetna om att förfalskning av innehåll och att tvivla på innehållets sanning är båda taktik som kan användas för att avsiktligt så förvirring.
Gregory varnar dock för att lägga en för stor börda på nyhetskonsumenter. Forskare, plattformar och journalister bör göra så mycket av arbetet som möjligt för att göra klart vad som är sant och vad som är falskt innan nyheter når allmänheten.
Det yttersta målet, säger Ovadya, är inte att ingjuta övergripande skepsis utan att bygga social, pedagogisk, inokulerande infrastruktur för att neutralisera effekterna av deepfakes. Vad ska vi försöka undvika? han frågar. Det är värdefullt att ifrågasätta bevis. Men vad [desinformationsaktörer] verkligen vill är inte att du ska ifrågasätta mer, utan att du ifrågasätter allt.
Han tillägger, det är motsatsen till vad vi letar efter.
För att få fler berättelser som denna levererade direkt till din inkorg, registrera dig för vårt Webby-nominerade AI-nyhetsbrev The Algorithm. Det är gratis.