211service.com
Deepfakes är lösbara - men glöm inte att grunda förfalskningar redan är genomträngande
Jeremy Portje
Teknikindustrin har en unik möjlighet att ta itu med deepfakes – problemet med falskt ljud och video skapade med artificiell intelligens – innan de blir ett utbrett problem, enligt människorättsförkämpen Sam Gregory.
Men, varnar han, stora företag är fortfarande väldigt långt från att ta itu med den genomgripande och mer skadliga frågan om grovare, ytlig falsk desinformation.
Gregory är programledare på Bevittna , som fokuserar på användningen av video i mänskliga rättigheter – antingen av aktivister och offer för att avslöja övergrepp, eller av auktoritära regimer för att undertrycka oliktänkande. När han talade på måndagen för en publik på EmTech Digital, ett evenemang som anordnades av MIT Technology Review, sa han att de djupa förfalskningar vi för närvarande ser är lugnet före stormen.
Skadliga syntetiska medier är ännu inte utbredda i användning, verktyg har ännu inte blivit mobila – de har inte producerats, sa Gregory. Detta ögonblick, föreslog han, ger en ovanlig möjlighet för deepfakes skapare att etablera sätt att bekämpa dem innan dåliga skådespelare kan distribuera tekniken brett.
Vi kan vara proaktiva och pragmatiska när det gäller att ta itu med detta hot mot den offentliga sfären och vårt informationsekosystem, sa han. Vi kan förbereda oss, inte få panik.
Även om deepfakes kan vara en bit före mainstream, finns det redan en problematisk flod av desinformation som ännu inte har lösts. Falsk information idag använder i allmänhet inte AI eller komplex teknik. Snarare kan enkla knep som att felmärka innehåll för att misskreditera aktivister eller sprida falsk information vara förödande effektiva, ibland till och med resultera i dödligt våld, som hände i Myanmar.
Med dessa 'grunda förfalskningar' menar jag de tiotusentals videor som cirkulerar med skadliga avsikter över hela världen just nu – inte skapade med sofistikerad AI, utan ofta helt enkelt ommärkta och laddade upp igen, och hävdar att en händelse på ett ställe precis har hänt på en annan, sa Gregory .
Till exempel, sa han, har en video av en person som bränns levande återanvänts och tillskrivits skådespelare i Elfenbenskusten, Sydsudan, Kenya och Burma, varje gång som uppviglar till våld.
Ett annat hot var den växande idén att vi inte kan lita på något vi ser, vilket i de flesta fall helt enkelt är osant, sa Gregory. Spridningen av denna idé är en välsignelse för auktoritära och totalitära personer över hela världen.
En alarmistisk berättelse förstärker bara de verkliga farorna vi står inför: rimlig förnekelse och förtroendets kollaps, tillade han.
Mark Latonero, ledare för mänskliga rättigheter vid Data & Samhälle , ett ideellt institut dedikerat till tillämpningar av data, enades om att teknikföretag borde göra mer för att ta itu med sådana problem. Medan Microsoft, Google, Twitter och andra har anställda fokuserade på mänskliga rättigheter, sa han, det fanns så mycket mer de borde göra innan de implementerar teknologier – inte efter.
Nu är det verkligen dags för företag, forskare och andra att bygga dessa mycket starka kopplingar till det civila samhället och de olika landskontoren där dina produkter kan lanseras, sa han. Engagera dig med de människor som är närmast problemen i dessa länder. Bygg dessa allianser nu. När något går fel – och det kommer att göra – kan vi börja ha grunden för samarbete och kunskapsutbyte.