Deepfake-busting-appar kan upptäcka till och med en enda pixel på fel plats

Med tillstånd av Serelay





Att förfalska foton och videor tog förr mycket arbete. Antingen använde du CGI för att skapa fotorealistiska bilder från grunden (både utmanande och dyra) eller så behövde du lite behärskning av Photoshop – och mycket tid – för att på ett övertygande sätt modifiera befintliga bilder.

Nu har tillkomsten av AI-genererade bilder gjort det lättare för vem som helst att justera en bild eller en video med förvirrande realistiska resultat. Tidigare i år, MIT Technology Review Senior AI-redaktör Will Knight använde hyllprogram för att skapa sin egen falska video av USA:s senator Ted Cruz. Videon är lite problematisk, men den kommer inte att dröja länge.

Samma teknik skapar en växande klass av filmer och foton, kallade deepfakes , som har potential att undergräva sanningen, förvirra tittarna och så oenighet i mycket större skala än vi redan har sett med textbaserade falska nyheter.



Det är dessa möjligheter som stör Hany Farid, en professor i datavetenskap vid Dartmouth College som har avslöjat falska bilder i 20 år. Jag tror inte att vi är redo än, varnar han. Men han är hoppfull om att ökad medvetenhet om problemet och ny teknisk utveckling bättre kan förbereda människor att urskilja sanna bilder från manipulerade skapelser.

En originalbild av Oxford Universitys Brasenose College. Artighet av Serelay

Ett exempel på hur originalbilden kunde redigeras för att ta bort HBTQ-regnbågsflaggan på taket. Med tillstånd av Serelay



Det finns två huvudsakliga sätt att hantera utmaningen att verifiera bilder, förklarar Farid. Det första är att leta efter ändringar i en bild. Bildkriminaltekniska experter använder beräkningstekniker för att ta reda på om några pixlar eller metadata verkar förändrade. De kan leta efter skuggor eller reflektioner som inte följer fysikens lagar, till exempel, eller kontrollera hur många gånger en bildfil har komprimerats för att avgöra om den har sparats flera gånger.

Den andra och nyare metoden är att verifiera en bilds integritet i samma ögonblick som den tas. Detta innebär att utföra dussintals kontroller för att se till att fotografen inte försöker förfalska enhetens platsdata och tidsstämpel. Bekräftar kamerans koordinater, tidszon och höjd och närliggande Wi-Fi-nätverk varandra? Bryts ljuset i bilden som det skulle för en tredimensionell scen? Eller tar någon en bild av ett annat tvådimensionellt foto?

Farid tycker att detta andra tillvägagångssätt är särskilt lovande. Med tanke på de två miljarder bilder som laddas upp på webben dagligen, tror han att det kan hjälpa till att verifiera bilder i stor skala.



Serelay tillåter användare att ladda upp misstänkta bilder för att kontrollera om de har blivit manipulerade. Systemet utför en serie kontroller för att fastställa var eventuella ändringar har gjorts. Med tillstånd av Serelay

Två startups, USA-baserade Truepic (som Farid konsulterar för) och Storbritannien-baserade Serelay, arbetar nu för att kommersialisera denna idé. De har tagit liknande tillvägagångssätt: var och en har gratis iOS- och Android-kameraappar som använder proprietära algoritmer för att automatiskt verifiera bilder när de tas. Om en bild blir viral kan den jämföras med originalet för att kontrollera om den har behållit sin integritet.

Medan Truepic laddar upp sina användares bilder och lagrar dem på sina servrar, lagrar Serelay ett slags digitalt fingeravtryck genom att beräkna ett hundratal matematiska värden från varje bild. (Företaget hävdar att dessa värden räcker för att upptäcka ens en pixelredigering och avgöra ungefär vilken del av bilden som ändrades.) Truepic säger att de väljer att lagra hela bilderna i fall användare vill radera känsliga bilder av säkerhetsskäl. (I vissa fall måste Truepic-användare som arbetar i scenarier med höga hot, som en krigszon, ta bort appen omedelbart efter att de har dokumenterat scener.) Serelay, däremot, anser att att inte lagra bilderna ger användarna större integritet.



Serelay kan fånga och markera den saknade flaggan på bilden. Med tillstånd av Serelay

Som ett extra lager av förtroende och skydd lagrar Truepic också alla foton och metadata med hjälp av en blockchain – tekniken bakom Bitcoin som kombinerar kryptografi och distribuerat nätverk för att säkert lagra och spåra information.

Det är inte skottsäkert, medger Farid, och han säger att det finns några nackdelar. Användare måste till exempel använda verifieringsprogrammet istället för kameraappen i sin telefon. Han noterar också att företag som försöker kommersialisera denna typ av teknik kan prioritera intäktsgenerering framför säkerhet. Det finns ett visst förtroende vi sätter för företagen som bygger de här apparna, säger han.

Men det finns också mildrande strategier. Truepic och Serelay erbjuder båda mjukvaruutvecklingskit för att göra sin teknik tillgänglig för tredjepartsplattformar. Deras idé är att en dag göra sin verifieringsteknik till en industristandard för digitalkameror, inklusive Facebooks, Snapchats eller till och med Apples inbyggda kameraapp. I det scenariot kan en oförändrad bild som lagts upp på sociala medier automatiskt få en bock, som ett Twitter-verifieringsmärke, som indikerar att den matchar en bild i deras databas – ett tecken på att Serelay hoppas skulle etablera tillförlitlighet.

Den stora majoriteten av innehållet vi ser online tas med mobila enheter, säger Farid. Det finns i princip en handfull kameror där ute som kan införliva den här typen av teknik i sitt system, och jag tror att du skulle ha en ganska bra lösning.

Varje startup är nu i tidiga samtal med sociala medieföretag för att undersöka möjligheten till ett partnerskap, och Serelay är också en del av ett nytt Facebook-acceleratorprogram som heter LDN_LAB.

Även om tekniken ännu inte är utbredd, uppmuntrar Farid människor att använda den som standard när de dokumenterar scenarier med hög insats, oavsett om det är politiska kampanjtal, kränkningar av mänskliga rättigheter eller bevis på en brottsplats. Truepic har redan sett medborgare använda sin app för att dokumentera kriser i Syrien. Al Jazeera använde sedan de verifierade filmerna för att producera flera videoklipp . Båda bolagen har även marknadsfört sin teknik inom försäkringsbranschen som ett verifierat sätt att dokumentera skador.

Farid säger att det är viktigt för företag som utför detta arbete att vara transparenta om sina processer och arbeta med pålitliga partners. Det kan hjälpa till att behålla användarnas förtroende och hålla dåliga aktörer borta.

Vi har fortfarande en väg att gå för att vara helt förberedda på spridningen av deepfakes, säger han. Men han är hoppfull. Tekniken av Truepic-typ och tekniken av Serelay-typ är i gott skick, säger han. Jag tror att vi gör oss redo.

Dölj