211service.com
Tre hot från deepfakes som tekniken inte kommer att lösa
Skärmdump från Putin deepfake video MIT Technology Review
Föreställ dig det här: En perfekt exakt deepfake-detektor finns äntligen. Den lägger omedelbart till en stor röd DEEPFAKE-etikett till varje video som har manipulerats med AI, oavsett hur sömlöst realistisk videon kan se ut.
Det kan låta som precis vad vi behöver för att bekämpa deepfakes, som människor oroar sig för kan ge slutet på sanningen och den demokratins död . Helt riktiga manipulerade videor kan vara här om så lite som sex månader , vilket tyder på att den amerikanska presidentvalskampanjen 2020 skulle kunna bli ett slagfält för falska videor: Donald Trump erkände att han hade korrupta affärer med Ryssland, Elizabeth Warren förespråkade ett totalt förbud mot vapen, Kamala Harris nedvärderade vita människor.
Teknologer har svarat med mer teknik. De USA:s regering har finansierat ett projekt om media forensics. Facebook och Microsoft tillkännagav nyligen en deepfake detektionsutmaning, och Google släppte en gigantisk databas med deepfakes för att bekämpa deepfakes. Men även om tekniken att skapa deepfakes är ny, är mycket av den faktiska skada som de representerar – desinformation och trakasserier – inte, enligt Britt Paris, en informationsforskare vid Rutgers University och medförfattare till en nyligen rapporterad Data & Society på deepfakes. En perfekt exakt deepfake-detektor kan inte ta itu med dessa skador. Det här är varför.
1) Problem: Deepfake-detektorer kan inte berätta för oss vad som bör och inte bör tas ner
Kommer du ihåg den långsamma videon av Nancy Pelosi? Det var inte en deepfake. Det spred fortfarande osanningar och Facebook beslutade att inte ta ner det. En deepfake-detektor skulle inte ha hjälpt med det bedömningssamtalet. Ju mer du går mot automatiserad användning, desto mer sannolikt är det att du får felaktigheter eller censur, säger Kate Klonick, professor vid St. John’s University och expert på plattformsstyrning. Att definiera satir, definiera falska nyheter, definiera fiktion – dessa är alla enorma filosofiska frågor.
Idé: Bättre moderering
Samhället måste arbeta sig igenom dessa problem. Tills dess kan en lösning vara att ge mer makt till dem som kan göra bedömningssamtal: mänskliga innehållsmoderatorer. För detta ändamål kan moderatorer få mer betalt, utbildas bättre och värderas som en viktig del av att upprätthålla ett säkert internet, säger Sarah T. Roberts, informationsforskare vid UCLA. Specialiserade team av granskade moderatorer kan bedöma sammanhanget för en video, faktakontrollera den och bestämma om den ska finnas kvar på en plattform. De kanske inte har det perfekta svaret för den där Pelosi-videon, men de skulle fortfarande ha en känsla av den sociala och politiska effekten av en mängd olika djupförfalskningar och deras mål. Det kunde de berätta parodi på deepfakes av Nicolas Cage mår bra och falsk porr är inte.
Någon annan som kan vara kvalificerad att döma en deepfake? Offret för en. Företag borde göra det lättare att rapportera djupfalska trakasserier, säger Danielle Citron, expert på cyberrätt vid Boston University. Alla användare bör utbildas om sina rättigheter, och stegen för rapportering bör vara uppenbara och tillgängliga, inte begravda i en integritetspolicy.
2) Problem: Deepfake-busting-teknik kanske inte hjälper de människor som behöver skydd mest
Historien har visat att ny teknik används mot marginaliserade grupper – som kvinnor, färgade personer, hbt-personer och aktivister – innan det blir ett mainstreamhot, säger Paris. På 1990-talet, till exempel, fanns det redan grova Photoshoppade bilder av kvinnors huvuden på vuxna filmskådespelerskors kroppar. Människorna vid makten brydde sig inte tillräckligt för att göra något åt det. Om vi hade uppmärksammat problemet med sexuellt utnyttjande av kvinnor utan deras samtycke då, skulle vi ha varit i ett mycket bättre läge att hantera det socialt, juridiskt och kulturellt nu, säger Mary Anne Franks, juridisk forskare vid universitetet från Miami.
Historien upprepar sig. Forskare säger att den största risken för deepfakes inte är att de gör ett val utan det de är vana vid att mobba privata medborgare.
Idé: Bygg inte något utan att rådfråga de mest drabbade
Prata med de människor som är mest sårbara för deepfakes, säger Sam Gregory, programchef på Witness, en ideell organisation som studerar syntetiska medier. Även om målet är att skapa en deepfake-detektor, finns det många sociala frågor inblandade. Kommer det att vara tillgängligt för människor i andra länder? Kommer den att tränas för att upptäcka politiska förfalskningar eller köns- och sexuellt våld? När infrastrukturen väl är klar är det verkligen marginaliserade människor och befolkningar som är exkluderade, eftersom de inte har byrån att ändra den infrastrukturen, säger Gregory.
3) Problem: Deepfake-detektering är för sent för att hjälpa offren
Med deepfakes finns det lite verklig utväg efter att videon eller ljudet är ute, säger Franks, forskare vid University of Miami.
Befintliga lagar är otillräckliga. Lagar som straffar delning av legitim privat information som medicinska journaler gäller inte för falska men skadliga videor. Lagar mot personifiering är konstigt begränsade, säger Franks - de fokuserar på att göra det olagligt att utge sig för att vara en läkare eller myndighetstjänsteman. Ärekränkningslagar tar bara upp falska representationer som skildrar ämnet negativt, men Franks säger att vi bör vara oroliga för djupförfalskningar som också felaktigt skildrar människor i ett positivt ljus.
Idé: Nya lagar
Texas antog nyligen ett lagförslag om att förbjuda deepfakes . TILL Kalifornien deepfake räkning passerade i båda kamrarna och nu väntar guvernör Gavin Newsoms underskrift. Samtidigt introducerade representanten Yvette Clarke, en amerikansk kongressledamot från New York, nyligen federal lagstiftning som kallas DEEPFAKES Accountability Act . Det skulle tvinga sociala medieföretag att bygga in bättre upptäcktsverktyg i sina plattformar och göra det möjligt att straffa eller fängsla personer som lägger upp skadliga deepfakes.
Franks och Citron arbetar för sin del på ett federalt lagförslag för att kriminalisera skadliga deepfakes, som de kallar digitala förfalskningar. Enligt deras uppfattning är en digital förfalskning något som en förnuftig person skulle tro är verkligt. Det måste också vara sannolikt att skada en viss person eller den allmänna ordningen – till exempel om en video falskt visar en muslimsk person som begår ett brott.
För att en sådan lag ska fungera i USA skulle den helst vara på federal nivå, inte på statlig nivå. På grund av en lag som heter Section 230 är plattformsföretag inte juridiskt ansvariga för värd för skadligt tredjepartsinnehåll såvida det inte bryter mot federal strafflagstiftning. Om att lägga upp skadliga videor blev ett brott skulle det inte bara avskräcka människor från att lägga upp dem; plattformar som Facebook skulle behöva arbeta hårdare för att hålla dem borta. Dessa företag skulle inte kunna ta upp Section 230 till försvar, säger Franks. De skulle ha hur många försvar som helst, men just den vägen till dem skulle blockeras.