Hur WeChat censurerar privata konversationer, automatiskt i realtid

Konceptuell illustration av WeChat bildcensurering Ms. Tech

WeChat är ett fönster in i framtiden för internet på många olika sätt.

Baserat i Kina och med över 1,1 miljarder globala användare, är det en av världens mest avancerade och populära appar. Det som är anmärkningsvärt är hur det når så många hörn av en kines liv: det är hur mycket av landet chattar, betalar, spelar, rör sig och mycket mer. När Mark Zuckerberg funderar på Facebooks framtid är det allt mer WeChat han försöker tävla med .

Det finns mer med denna så kallade superapp än meddelanden, mat, bilar och betalningar. WeChats allomfattande ambition inkluderar några av de mest banbrytande, snabbverkande och långtgående censurteknikerna på jorden.

Ny forskning från University of Torontos CitizenLab drar tillbaka ridån för hur WeChats automatiska censur av text och bilder i realtid används för att utöva kontroll över politisk diskussion om ämnen som sträcker sig från internationella frågor som handelskriget med USA till inhemska skandaler som försvinnandet av domstolshandlingar i en tvist 2018 mellan två kinesiska gruvbolag på flera miljarder dollar. All diskussion är ytterst föremål för den kinesiska regeringens godkännande.

WeChats censorer står inför två typer av utmaningar. Stora offentliga inlägg på WeChat Moments, en offentlig funktion som liknar Facebooks tidslinje, granskas och filtreras av algoritmer som ibland kan ta över 10 sekunder att köra – en glaciär takt på sociala medier. Men en-till-en-meddelanden och gruppmeddelanden är ett helt annat problem, eftersom de ofta är intima och omedelbara konversationer. Det kräver censur i realtid.

Text är relativt lätt att söka och censurera. Bildfiltrering är svårare, speciellt när du försöker undersöka och censurera bilderna nästan omedelbart. För att utföra denna uppgift håller WeChat ett massivt och ständigt växande index av MD5-hashar, små kryptografiska datasignaturer som är unika för varje fil. När en censurerad bild skickas kommer den att fångas upp av hashindexet och raderas. Varken avsändaren eller mottagaren kommer sannolikt någonsin att veta att något har censurerats.

Om bilden inte omedelbart censureras skickas den för automatisk analys. Med hjälp av optisk teckenigenkänning undersöks bilden för text (att skicka skärmdumpar av tidningsartiklar var en gång en enkel väg förbi censorer). Bilden kontrolleras sedan för visuell likhet med andra censurerade bilder. Så kallat skadligt innehåll – inklusive allt om internationell eller inrikespolitik som anses oönskat av det kinesiska kommunistpartiet – kommer att nosas upp, tas bort från konversationen och sedan läggas till det ursprungliga hashindexet, som flaggar det för omedelbar censur från det ögonblicket och framåt . Det är ett självförstärkande system som växer för varje bild som skickas. De senare systemen används också på WeChats Moments för att kontrollera och bygga företagets dynamiska svarta lista.

Den kinesiska teknikjätten Tencent, som äger WeChat, är under stor press från Peking att implementera effektiv censurteknik, säger Adam Segal, chef för det digitala och cyberrymdens policyprogram vid Council on Foreign Relations. De kinesiska företagen är alla ansvariga för innehållet, och även om de har förlitat sig på tiotusentals mänskliga censorer, har de också utvecklat nya metoder för [maskininlärning] för att ta ner innehåll. Inuti Kina är det en del av den större trenden under Xi Jinping att skärpa kontrollerna på det kinesiska internet och samhället mer allmänt.

WeChat är så genomgripande i Kina att möjligheten att bli avstängd eller förbjuden kan störa liv. Appen kombinerar funktionerna från Facebook, Uber, GrubHub och mer. Du kan boka läkarbesök, betala elräkningar, prata med professionella kontakter eller anlita statliga tjänster.

Det här har verkligen blivit en megaapp, säger Sarah Cook, senior forskningsanalytiker för Östasien vid den demokratiska forskningsgruppen Freedom House. Det är verkligen svårt att fungera i det moderna kinesiska samhället utan att använda WeChat, så den kylande effekten är verklig.

Under ledning av Peking är Tencents censorer skickligt lyhörda för aktuella angelägenheter. Förutom dödliga historiska händelser som protesterna på Himmelska fridens torg och kulturrevolutionen tillkommer nya händelser snabbt.

Forskare fann att nyhetsvärde händelser som gripandet av en Huawei-chef anklagad för bedrägeri och CRISPR-babyskandalen där en kinesisk vetenskapsman tillkännagav födelsen av flickor med redigerade genom utlöste vågor av censur. Så gjorde en mängd andra frågor, som konflikt med USA och inhemsk korruption eller andra problem.

En händelse utlöste ännu fler censurerade bilder: i december 2018 utbröt en skandal när den kinesiska högsta domstolen medgav att dokument försvann i en miljardtvist mellan gruvbolag. Forskare fann att dussintals bilder relaterade till den påstådda stölden av dokumenten censurerades.

Under de senaste åren har du haft kombinationen av skärpta censurrestriktioner och skärpta kontroller, säger Cook. Det finns mindre officiell tolerans för konversationer, uttryck och nätverk som tidigare tolererats. Du har sett Tencent och WeChat, i synnerhet, drabbas av böter. Så nu försöker de använda nya metoder för att fånga så kallat 'skadligt innehåll' som det kinesiska kommunistpartiet vill stoppa. Det är där automatiserad censur i realtid kommer in.

Dölj