Är Kinas sociala kreditsystem så orwelliskt som det låter?

Kategori: Artificiell intelligens Postad 26 feb

I den västerländska fantasin är Kinas ökända sociala kreditsystem en AI-driven övervakningsregim som kränker mänskliga rättigheter. Vi hör ofta om exempel på dess användning för att hävda politisk kontroll, som förra månaden, när en man fråntogs 950 av 1 000 poäng – efter att ha dockats 10 poäng varje gång han begärde hjälp till regeringen med sin mammas medicinska tvist. Men sällan hör vi om den andra berättelsen, där det är en styrningsmekanism som välkomnas av många medborgare som är trötta på skenande bedrägerier, förfalskade produkter och folkhälsofel.

Detta är den inte så enkla verkligheten som porträtteras av en berättelse från South China Morning Post . (Även om det, för att vara rättvis, finns frågor om just hur oberoende SCMP är .) I byn Jiakuang Majia i staden Rongcheng, en av ett dussin platser som prisats för sin framgång med att pilotera programmet, säger invånarna att upplägget mestadels har varit ett positivt inflytande – om än ett inflytande alls. Det finns faktiskt ingen AI eller annan teknik inblandad. Snarare spåras poäng med papper och manuellt arbete – och många anser att systemet är en perifer byråkrati, långt ifrån en drivkraft i deras dagliga liv.

Kinas sociala kreditsystem är utformat för att stimulera laglighet och integritet. Medborgare kan tjäna poäng för goda gärningar som volontärarbete, donera blod eller locka investeringar till staden; de kan förlora dem på grund av förseelser som att bryta mot trafikregler, undvika skatter eller försumma att ta hand om sina äldre föräldrar. Deras poäng påverkar sedan deras tillgång till samhällets välfärdsprogram: personer med hög poäng får förmåner som gratis medicinska kontroller och rabatter på värmeräkningar; Lågpoängare förlorar statliga subventioner eller blir utestängda från statliga jobb.

Men även om denna sista detalj i västvärlden ofta karakteriseras som ett frihetskränkande maktgrepp av en auktoritär regering, hävdar många forskare att sociala kreditpoäng inte kommer att ha den omfattande kontrollerande effekten som förmodas. De uppgifter som systemet samlar in stämmer faktiskt inte överens med de uppgifter som till exempel en bank behöver för att avgöra om den ska bevilja dig ett lån. Bestämmelser har också varit revideras i fall av intensiv återhämtning: Suining County blev av med sina poängavdrag för otillåtna framställningar, till exempel på grund av utbredd impopularitet. Därför, säger dessa forskare, fungerar systemet mer som ett verktyg för propaganda än ett verktyg för verkställighet. Andra påpeka att det helt enkelt är en förlängning av den kinesiska kulturens långa tradition av att främja gott moraliskt beteende och att kinesiska medborgare har ett helt annat perspektiv på integritet och frihet.

Den här historien dök ursprungligen upp i vårt AI-nyhetsbrev The Algorithm. För att få det direkt levererat till din inkorg, registrera dig här gratis.