Google har släppt ett verktyg för att upptäcka falska och manipulerade bilder

Kategori: Artificiell intelligens Postad 05 februari

Jigsaw, en teknikinkubator på Google, har släppt en experimentell plattform som heter Assembler för att hjälpa journalister och faktagranskare i frontlinjen att snabbt verifiera bilder.

Hur det fungerar: Assembler kombinerar flera befintliga tekniker i akademin för att upptäcka vanliga manipulationstekniker, inklusive att ändra bildens ljusstyrka och klistra in kopierade pixlar någon annanstans för att dölja något samtidigt som man behåller samma visuella struktur. Den innehåller också en detektor som upptäcker deepfakes av den typ som skapats med StyleGAN, en algoritm som kan generera realistiska imaginära ansikten. Dessa detektionstekniker matas in i en mastermodell som talar om för användarna hur troligt det är att en bild har manipulerats.

Varför det är viktigt: Falska bilder är bland de svårare sakerna att verifiera, särskilt med ökningen av manipulation av artificiell intelligens. Möjlighetsfönstret för journalister och faktagranskare att reagera krymper också snabbt, eftersom desinformation sprids i hastighet och skala.

Inte ett universalmedel: Assembler är ett bra steg i att bekämpa manipulerad media – men den täcker inte många andra befintliga manipulationstekniker, inklusive de som används för video, som teamet kommer att behöva lägga till och uppdatera när ekosystemet fortsätter att utvecklas. Den existerar också fortfarande som en separat plattform från de kanaler där manipulerade bilder vanligtvis distribueras. Experter har rekommenderat att teknikjättar som Facebook och Google införlivar dessa typer av detekteringsfunktioner direkt i sina plattformar. På så sätt kan sådana kontroller utföras i nästan realtid när foton och videor laddas upp och delas.

Det finns andra tillvägagångssätt att överväga också. Vissa nystartade företag eftersträvar till exempel verifieringsteknik , som memorerar pixlarnas positioner i ett foto i ögonblicket för tagningen - men detta kommer också med utmaningar.

Bortom teknik: I slutändan kommer tekniska korrigeringar inte att räcka. En av de svåraste aspekterna av digital fejk är inte själva de falska bilderna. Snarare är det tanken att de existerar, som lätt kan åberopas för att tvivla på riktigheten hos riktiga medier. Det är denna typ av utmaning som också kommer att kräva sociala och politiska lösningar.