Människorättsaktivister vill använda AI för att bevisa krigsbrott i domstol

Vframe

År 2015, oroad över ett eskalerande inbördeskrig i Jemen, ledde Saudiarabien en luftkampanj mot landet för att besegra vad det ansåg vara en hotande ökning av shia-makten. Interventionen, som inleddes med åtta andra till stor del sunniarabiska stater, var tänkt att pågå bara några veckor, hade saudiska tjänstemän sagt. Nästan fem år senare har det fortfarande inte slutat.

Enligt vissa uppskattningar har koalitionen sedan dess genomfört över 20 000 flyganfall, av vilka många har dödat jemenitiska civila och förstört deras egendom, påstås i direkt överträdelse av internationell lag. Människorättsorganisationer har sedan dess försökt dokumentera sådana krigsförbrytelser i ett försök att stoppa dem genom juridiska utmaningar. Men guldmyntfoten, verifiering på plats av journalister och aktivister, är ofta för farlig för att vara möjlig. Istället har organisationer i allt större utsträckning vänt sig till mobilfoton och -videor för att förstå konflikten och har börjat lämna in dem till domstol för att komplettera ögonvittnesbevis.

Men i takt med att digital dokumentation av krigsscener har ökat, har tiden det tar att analysera dem exploderat. Det störande bildspråket kan också traumatisera utredarna som måste kamma igenom och titta på filmerna. Nu ett initiativ som snart kommer att bli en utmaning i det brittiska domstolssystemet prövar ett alternativ för maskininlärning. Det skulle kunna modellera ett sätt att göra crowdsourced bevis mer tillgänglig och hjälpa människorättsorganisationer att utnyttja rikare informationskällor.

Initiativet, som leds av Swansea University i Storbritannien tillsammans med ett antal människorättsgrupper, är en del av ett pågående arbete för att övervaka de påstådda krigsförbrytelser som sker i Jemen och skapa större juridiskt ansvar kring dem. 2017 började plattformen Yemeni Archive sammanställas en databas av videor och foton som dokumenterar övergreppen. Innehåll samlades in från tusentals källor – inklusive bidrag från journalister och civila, såväl som videor med öppen källkod från sociala medieplattformar som YouTube och Facebook – och bevarades på en blockchain så att de inte kunde manipuleras oupptäckt.

Tillsammans med Global Legal Action Network (GLAN), en ideell organisation som lagligt utmanar stater och andra mäktiga aktörer för kränkningar av de mänskliga rättigheterna, började utredarna sedan sammanställa bevis för specifika kränkningar av mänskliga rättigheter till en separat databas och uppförande av rättsfall i olika nationella och internationella domstolar. Om saker kommer genom rättssalens ansvarsprocesser räcker det inte att visa att detta hände, säger Yvonne McDermott Rees, professor vid Swansea University och initiativets ledare. Du måste säga, 'Ja, det är därför det är ett krigsbrott.' Det kan vara 'Du har använt ett vapen som är olagligt', eller i fallet med ett flyganfall, 'Detta riktade sig mot civila' eller 'Detta var en oproportionerlig attack.'

En 3D-rendering av en BLU-63.

VFRAME

I det här fallet fokuserar partnerna på en USA-tillverkad klustervapen, BLU-63. Användning och försäljning av klustervapen, explosiva vapen som sprutar ut mindre sprängämnen vid nedslag, är förbjudna av 108 länder, inklusive Storbritannien. Om partnerna kunde bevisa i en brittisk domstol att de verkligen hade använts för att begå krigsförbrytelser, skulle det kunna användas som en del av att samla bevis på att den saudiskledda koalitionen har en meritlista för att bryta mot internationell lag, och föra talan för Storbritannien att sluta sälja vapen till Saudiarabien eller att väcka åtal mot individer som är inblandade i försäljningen.

Så de bestämde sig för att utveckla ett maskininlärningssystem för att upptäcka alla instanser av BLU-63 i databasen. Men bilder av BLU-63 är sällsynta just för att de är olagliga, vilket lämnade teamet med lite verklig data för att träna sitt system. Som ett botemedel skapade teamet en syntetisk datauppsättning genom att rekonstruera 3D-modeller av BLU-63 i en simulering.

Med hjälp av de få tidigare exemplen de hade, inklusive ett foto av ammunitionen som bevarats av Imperial War Museum, arbetade partnerna med Adam Harvey, en forskare om datorseende, för att skapa rekonstruktionerna. Harvey började med en basmodell och lade till fotorealistisk texturering, olika typer av skador och olika dekaler. Han återgav sedan resultaten under olika ljusförhållanden och i olika miljöer för att skapa hundratals stillbilder som efterliknar hur ammunitionen kan hittas i det vilda. Han skapade också syntetiska data om saker som kan förväxlas med ammunition, till exempel en grön baseboll, för att sänka den falska positiva frekvensen.

Medan Harvey fortfarande är mitt uppe i att generera fler träningsexempel – han uppskattar att han kommer att behöva över 2 000 – fungerar det befintliga systemet redan bra: över 90 % av videorna och fotona som det hämtar från databasen har verifierats av mänskliga experter för att innehålla BLU -63s. Han skapar nu en mer realistisk valideringsdatauppsättning genom att 3D-printa och måla modeller av ammunitionen för att se ut som den riktiga varan, och sedan videofilma och fotografera dem för att se hur väl hans detektionssystem fungerar. När systemet är helt testat planerar teamet att köra det genom hela Jemenitiska arkivet, som innehåller 5,9 miljarder videobilder. Enligt Harveys uppskattning skulle en person ta 2 750 dagar 24 timmar om dygnet för att kamma igenom så mycket information. Däremot skulle maskininlärningssystemet ta ungefär 30 dagar på en vanlig dator.

Den verkliga bilden som visas i analysen överst i artikeln.

VFRAME

Mänskliga experter skulle fortfarande behöva verifiera bilderna efter att systemet har filtrerat det, men effektivitetsvinsten förändrar spelet för människorättsorganisationer som vill ställa sig inför utmaningar i domstol. Det är inte ovanligt att dessa organisationer lagrar enorma mängder video från ögonvittnen. Amnesty International har till exempel i storleksordningen 1 terabyte filmmaterial som dokumenterar möjliga kränkningar i Myanmar, säger McDermott Rees. Maskininlärningstekniker kan göra det möjligt för dem att genomsöka dessa arkiv och visa mönstret av kränkningar av mänskliga rättigheter i en tidigare omöjlig skala, vilket gör det mycket svårare för domstolar att förneka bevisningen.

När du till exempel tittar på inriktning på sjukhus är det starkt att ha en video som visar ett sjukhus som är inriktat på; det gör ett fall, säger Jeff Deutch, ledande forskare vid Syrian Archive, en människorättsgrupp som ansvarar för lanseringen av Yemeni Archive. Men om du kan visa hundratals videor av hundratals incidenter med sjukhus som måltavlas, kan du se att detta verkligen är en avsiktlig krigsstrategi. När saker och ting ses som avsiktliga blir det mer möjligt att identifiera avsikter. Och uppsåt kan vara något användbart för rättsfall när det gäller ansvarsskyldighet för krigsförbrytelser.

När de jemeniska kollaboratörerna förbereder sig för att lägga fram sitt fall kommer bevis i denna skala att vara särskilt relevanta. Den saudiskledda luftanfallskoalitionen har redan gjort det förnekat skuld i tidigare anklagelser om krigsförbrytelser, som den brittiska regeringen erkänner som det officiella rekordet. En domstol i Storbritannien också avvisade ett tidigare ärende att en annan organisation lämnade in för att stoppa regeringen från att sälja vapen till Saudiarabien, eftersom den ansåg att videobevisen med öppen källkod inte var tillräckligt övertygande. Även om en annan domstol senare gick tillbaka en del av dessa kritik vid överklagande, hoppas samarbetspartnerna att den större mängden bevis kommer att undvika alla invändningar den här gången. Fall med öppen källkodsvideo i ett syriskt sammanhang har tidigare resulterat i fällande domar, säger McDermott Rees.

Det här initiativet är inte det första som använder maskininlärning för att filtrera bevis i människorättssammanhang. E-lampsystemet från Carnegie Mellon University, en videoanalysverktygslåda för människorättsarbete, utvecklades för att analysera arkiven från Syrienkriget. Harvey har också tidigare arbetat med några av sina nuvarande medarbetare för att identifiera ammunition som används i Syrien. Jemeninsatsen kommer dock att vara en av de första som blir inblandade i ett rättsfall. Det kan skapa ett prejudikat för andra människorättsorganisationer.

Även om detta är ett framväxande område är det en enorm möjlighet, säger Sam Gregory, programchef för human rights nonprofit Witness och cochair för Partnership on AI:s arbetsgrupp för socialt och samhälleligt inflytande. [Det handlar] också om att jämna ut villkoren för tillgång till AI och användning av AI för att vända både ögonvittnesbevis och bilder från gärningsmannen till rättvisa.

Rättelser: BLU-63 tillverkas av USA, inte Storbritannien. Det tidigare målet som avvisades av den brittiska domstolen väcktes också av en annan organisation, inte GLAN. Jeff Deutch hittade inte direkt Yemeni Archive men är ledande forskare vid Syrian Archive, som grundade Yemeni Archive.

Dölj