Varför Facebook gör rätt i att inte ta ner den manipulerade Pelosi-videon

En fotoillustration som visar ett foto av Nancy Pelosi och Facebook tummen upp

En fotoillustration som visar ett foto av Nancy Pelosi och Facebook tummen upp Ms. Tech; AP Photo/J. Scott Applewhite





Kritik fördömer Facebook för att du inte tog ner en video av parlamentets talman Nancy Pelosi saktade för att få henne att verka full . Men vissa experter hävdar att borttagningen av videon kan ha skapat ett prejudikat som faktiskt skulle orsaka mer skada.

Videon får Pelosi att se konstig ut, men det är inte en djupförfalskning – den visar inte felaktigt att hon sa något hon faktiskt inte sa. Det är ett exempel på vad MIT Media Lab forskare Hossein Derakhshan samtal felaktig information , eller i princip sann information som subtilt har manipulerats för att skada någon.

Och medan Derakhshan tycker att det kan ha varit okej att ta ner en falsk video som till exempel visade Pelosi göra ett rasistiskt uttalande, hävdar han att det är för mycket att förvänta sig plattformar för att polisera felaktig information. Vanligtvis när folk gör de här manipulationerna tror jag inte att det är olagligt, säger han. Så det finns ingen anledning att ta bort dem eller begära att de tas bort från dessa plattformar.



Det är lätt att föreställa sig att skapa en regel som Ta bort falska exempel på hatretorik, men mycket svårare att komma på en regel som kräver att man tar ner Pelosi-videon men inte andra former av hån, satir eller oliktänkande .

Politiskt hån använder trots allt ofta information ur sitt sammanhang och kommer med avsikt att skada. En alltför bred regel skulle kunna slå tillbaka i auktoritära länder, enligt Alexios Mantzarlis , en kollega på TED som studerar desinformation, som tidigare hjälpt till att lansera Facebooks partnerskap med faktagranskare.

Min ståndpunkt här är att det här inte verkar orsaka någon skada i verkligheten, och att när vi väl börjar ta ner saker och ting kan prejudikatet vara halt, särskilt [för] politiker, säger han. Det är inte svårt att föreställa sig att Facebook blir pressat att ta ner en video som gör narr av någon som Brasiliens Jair Bolsonaro eller Donald Trump.



Det betyder inte att det aldrig finns en anledning att ta ner videor (Mantzarlis säger att han inte är en absolutist för yttrandefrihet) – bara att det finns nyanser när det kommer till typerna av manipulation, risken för skada och vad plattformar ska göra.

I vilket fall som helst, lämna den eller ta ner den är inte de enda alternativen. Plattformen flaggade videon med varningar från faktakontrollerande organisationer, men Mantzarlis twittrade fyra andra sätt som Facebook kunde ha agerat mer effektivt på.

Videon kunde till exempel ha flaggats snabbare eller mer framträdande – om du inte försöker dela videon ser du bara en subtil varning om att det råder tvivel om dess äkthet. Facebook kan också, föreslår Mantzarlis, bjuda in användare som delat videon att sluta dela eller avstå från att gilla, och sedan dela data med forskare som försöker förstå vad som fungerar för att bekämpa spridningen av manipulerade medier.

Detta är det största verkliga experimentet för att bekämpa digital desinformation i historien, säger han, och så den mängd kunskap som detta skulle kunna generera och ge till forskare och andra utövare som bekämpar desinformation skulle vara riktigt extraordinär.

Derakhshan håller med om att det är viktigt att märka videor som har tillverkats på något sätt, men han föreslår att den bästa lösningen är att främja mediekunskap. När vi sysslar mer och mer med bilder är det viktigt att lära folk att vara skeptiska till videor, på samma sätt som det nu är vanligt att man undrar om en bild har photoshopats. Alla borde alltid tänka på möjligheten att möta tillverkad video, säger han.



Dölj