Hur demokratier kan ta tillbaka makten i den digitala världen

Ms Tech | Getty

Bör Twitter censurera lögner som twittrats av USA:s president? Ska YouTube ta bort desinformation om covid-19? Borde Facebook göra mer mot hatretorik? Sådana frågor, som dyker upp dagligen i mediabevakningen, kan få det att verka som om den främsta tekniskt drivna risken för demokratier är kuratorn av innehåll av sociala medieföretag. Ändå är dessa kontroverser bara symptom på ett större hot: djupet av privatiserad makt över den digitala världen.

Alla demokratiska länder i världen står inför samma utmaning, men ingen kan oskadliggöra den ensam. Vi behöver en global demokratisk allians för att fastställa normer, regler och riktlinjer för teknikföretag och för att komma överens om protokoll för gränsöverskridande digitala aktiviteter inklusive valinblandning, cyberkrig och onlinehandel. Medborgarna är bättre representerade när en koalition av deras regeringar – snarare än en handfull företagsledare – definierar villkoren för styrning, och när kontroller, balanser och tillsynsmekanismer finns på plats.

Det finns en lång lista över sätt på vilka teknikföretag styr våra liv utan mycket reglering. Inom områden från att bygga kritisk infrastruktur och försvara den – eller till och med producera offensiva cyberverktyg – till att designa artificiell intelligenssystem och statliga databaser, sätter beslut som fattas i företagens intresse normer och standarder för miljarder människor.

Allt oftare tar företag över statliga roller eller utvecklar produkter som påverkar grundläggande rättigheter. Till exempel används ansiktsigenkänningssystem som aldrig var ordentligt reglerade innan de utvecklades och distribuerades nu så flitigt att de berövar människor deras integritet. På liknande sätt samlar företag systematiskt in privata data, ofta utan samtycke – en branschnorm som tillsynsmyndigheter har varit långsamma med att ta itu med.

Relaterad berättelse

Varför kongressen borde titta på Twitter och Facebook Om amerikanska politiker verkligen bryr sig om skadan onlineplattformar kan göra, borde de titta på onlinekonspirationsteorier – och hur de förvärras av utformningen av sociala medier.

Eftersom teknologier utvecklas snabbare än lagar, ökar skillnaderna mellan privat byrå och offentlig tillsyn. Ta till exempel smarta stadsföretag, som lovar att lokala myndigheter kommer att kunna minska trängseln genom att övervaka bilar i realtid och anpassa tidpunkten för trafikljusen. Till skillnad från, säg, en väg byggd av ett byggföretag, är denna digitala infrastruktur inte nödvändigtvis allmän egendom. Företagen som bygger den skaffar sig insikter och värden som kanske inte flödar tillbaka till allmänheten.

Denna skillnad mellan den offentliga och privata sektorn håller på att spiralera utom kontroll. Det finns en informationslucka, en talangklyfta och en beräkningsklyfta. Tillsammans skapar dessa ett makt- och ansvarsgap. Ett helt lager av kontroll över vårt dagliga liv existerar alltså utan demokratisk legitimitet och med liten tillsyn.

Varför ska vi bry oss? Eftersom beslut som företag fattar om digitala system kanske inte följer grundläggande demokratiska principer som valfrihet, rättvis konkurrens, icke-diskriminering, rättvisa och ansvarsskyldighet. Oavsiktliga konsekvenser av tekniska processer, felaktiga beslut eller affärsdrivna konstruktioner kan skapa allvarliga risker för allmän säkerhet och nationell säkerhet. Och makt som inte är föremål för systematiska kontroller och avvägningar strider mot grundprinciperna för de flesta demokratier.

Idag karaktäriseras teknikregleringen ofta som en trevägstävling mellan de statsledda systemen i Kina och Ryssland, det marknadsstyrda i USA och en värderingsbaserad vision i Europa. Verkligheten är dock att det bara finns två dominerande system för teknikstyrning: det privatiserade som beskrivs ovan, som gäller i hela den demokratiska världen, och ett auktoritärt.

För att få världsomspännande teknikföretag att kränga behöver vi något nytt: en global allians som sätter demokratin först.

De demokratiska regeringarnas laissez-faire-strategi, och deras ovilja att tygla privata företag på hemmaplan, spelar också ut på den internationella scenen. Medan demokratiska regeringar till stor del har tillåtit företag att styra, har auktoritära regeringar tagit till sig att forma normer genom internationella forum. Denna olyckliga förändring sammanfaller med en trend av demokratiskt förfall över hela världen, eftersom stora demokratier som Indien, Turkiet och Brasilien har blivit mer auktoritära. Utan avsiktliga och omedelbara ansträngningar från demokratiska regeringar för att vinna tillbaka byråer, kommer företags- och auktoritära styrningsmodeller att urholka demokratin överallt.

Betyder det att demokratiska regeringar borde bygga sina egna plattformar för sociala medier, datacenter och mobiltelefoner istället? Nej. Men de måste snarast återta sin roll i att skapa regler och restriktioner som upprätthåller demokratins kärnprinciper inom tekniksfären. Hittills har dessa regeringar sakta börjat göra det med lagar på nationell nivå eller, i Europas fall, på regional nivå. Men för att få världsomspännande teknikföretag att kränga, behöver vi något nytt: en global allians som sätter demokratin först.

Slår ihop

Globala institutioner födda i efterdyningarna av andra världskriget, som FN, Världshandelsorganisationen och North Atlantic Treaty Organization, skapade en regelbaserad internationell ordning. Men de misslyckas med att ta den digitala världen i full hänsyn i sina mandat och agendor, även om många äntligen börjar fokusera på digitalt samarbete, e-handel och cybersäkerhet. Och medan digital handel (som kräver egna regleringar, såsom regler för e-handel och kriterier för utbyte av data) är av växande betydelse, har WTO-medlemmarna inte kommit överens om globala regler som omfattar tjänster för smart tillverkning, digitala leveranskedjor och andra digitalt aktiverade transaktioner.

Vad vi behöver nu är därför en stor demokratisk koalition som kan erbjuda ett meningsfullt alternativ till de två befintliga modellerna för teknikstyrning, den privatiserade och den auktoritära. Det borde vara en global koalition som välkomnar länder som uppfyller demokratiska kriterier.

Community of Democracies, en koalition av stater som skapades 2000 för att främja demokratin men som aldrig hade någon större inverkan, kunde förnyas och uppgraderas för att inkludera ett ambitiöst mandat för styrning av teknik. Alternativt skulle en D7 eller D20 kunna upprättas – en koalition som liknar G7 eller G20 men som består av de största demokratierna i världen.

En sådan grupp skulle komma överens om bestämmelser och standarder för teknik i linje med grundläggande demokratiska principer. Sedan skulle varje medlemsland implementera dem på sitt sätt, ungefär som EU:s medlemsländer gör idag med EU-direktiv.

Vilka problem skulle en sådan koalition lösa? Koalitionen kan till exempel anta en gemensam definition av Yttrandefrihet för sociala medieföretag att följa. Kanske skulle den definitionen likna det brett delade europeiska synsättet, där uttrycket är fritt men det finns tydliga undantag för hatretorik och uppvigling till våld.

Eller koalitionen kan begränsa utövandet av mikroinriktning politiska annonser på sociala medier: det kan till exempel förbjuda företag att tillåta annonsörer att skräddarsy och rikta annonser på grundval av någons religion, etnicitet, sexuella läggning eller insamlade personuppgifter. Åtminstone skulle koalitionen kunna förespråka mer transparens kring mikrotargeting för att skapa en mer informerad debatt om vilka metoder för datainsamling som bör vara förbjudna.

Den demokratiska koalitionen skulle också kunna anta standarder och metoder för tillsyn för digital drift av val och kampanjer . Detta kan innebära att man kommer överens om säkerhetskrav för röstningsmaskiner, plus anonymitetsstandarder, stresstester och verifieringsmetoder som att kräva en pappersbackup för varje röst. Och hela koalitionen skulle kunna gå med på att införa sanktioner mot vilket land eller icke-statlig aktör som helst som stör ett val eller en folkomröstning i något av medlemsländerna.

Relaterad berättelse

Varför Facebooks förbud mot politiska annonser tar på sig fel problem Ett moratorium för nya politiska annonser strax före valdagen tar sig an en sorts utmaning som orsakas av sociala medier. Det är bara inte den som spelar roll.

En annan uppgift som koalitionen kan ta på sig är att utveckla handelsregler för den digitala ekonomin . Medlemmar kan till exempel komma överens om att aldrig kräva att företag lämnar över källkoden för programvara till statliga myndigheter, som Kina gör. De skulle också kunna komma överens om att anta gemensamma dataskyddsregler för gränsöverskridande transaktioner. Sådana åtgärder skulle tillåta en sorts digital frihandelszon att utvecklas i likasinnade nationer.

Kina har redan något liknande detta i form av eWTP, en handelsplattform som tillåter global tullfri handel för transaktioner under en miljon dollar. Men eWTP, som startades av e-handelsjätten Alibaba, drivs av privata företag baserade i Kina. Den kinesiska regeringen är känd för att ha tillgång till data genom privata företag. Utan ett offentligt, regelbaserat alternativ skulle eWTP kunna bli den de facto globala plattformen för digital handel, utan demokratiskt mandat eller tillsyn.

En annan fråga som denna koalition skulle kunna ta upp skulle vara säkerhet i försörjningskedjor för enheter som telefoner och bärbara datorer. Många länder har förbjudit smartphones och telekomutrustning från Huawei på grund av rädsla för att företagets teknik kan ha inbyggda sårbarheter eller bakdörrar som den kinesiska regeringen kan utnyttja. Att proaktivt utveckla gemensamma standarder för att skydda leveranskedjors och produkters integritet skulle skapa lika villkor mellan koalitionens medlemmar och bygga upp förtroende för företag som går med på att följa dem.

Nästa område som kan vara värt koalitionens uppmärksamhet är cyberkrig och hybridkonflikt (där digital och fysisk aggression kombineras). Under det senaste decenniet har ett växande antal länder identifierat hybridkonflikt som ett hot mot den nationella säkerheten. Varje nation med högutbildade cyberoperationer kan orsaka förödelse för länder som misslyckas med att investera i försvar mot dem. Samtidigt har cyberattacker från icke-statliga aktörer förskjutit maktbalansen mellan stater.

Just nu finns det dock inga internationella kriterier som definierar när en cyberattack räknas som en krigshandling. Detta uppmuntrar dåliga skådespelare att slå till med många små slag. Förutom deras omedelbara ekonomiska eller (geo)politiska effekt, urholkar sådana attacker förtroendet för att rättvisa kommer att skipas.

En demokratisk koalition skulle kunna arbeta för att täppa till denna ansvarighetsklyfta och initiera en oberoende domstol för att utreda sådana attacker, kanske liknande Haags ständiga skiljedomstol, som avgör internationella tvister. Ledarna för den demokratiska alliansen kunde sedan, på grundval av tribunalens beslut, besluta om ekonomiska och politiska sanktioner skulle följa.

Detta är bara några av de sätt på vilka en global demokratisk koalition skulle kunna föra fram regler som i hög grad saknas i den digitala sfären. Koalitionens standarder skulle effektivt kunna bli globala om dess medlemmar representerar en stor del av världens befolkning. EU:s allmänna dataskyddsförordning ger ett exempel på hur detta skulle kunna fungera. Även om GDPR endast gäller Europa, måste globala teknikföretag följa dess regler för sina europeiska användare, och detta gör det svårare att invända eftersom andra jurisdiktioner antar liknande lagar. På samma sätt kan icke-medlemmar i den demokratiska koalitionen sluta följa många av dess regler för att dra nytta av fördelarna.

Om demokratiska regeringar inte tar mer makt i teknikstyrning när auktoritära regeringar blir mer kraftfulla, kommer den digitala världen – som är en del av vår vardag – inte att vara demokratisk. Utan ett system med tydlig legitimitet för dem som styr – utan kontroller, balanser och mekanismer för oberoende tillsyn – är det omöjligt att hålla teknikföretag ansvariga. Endast genom att bygga en global koalition för teknikstyrning kan demokratiska regeringar återigen sätta demokratin först.

Marietje Schaake är internationell policychef vid Stanford Universitys Cyber ​​Policy Center och en internationell policystipendiat vid Stanfords Institute for Human-Centered Artificial Intelligence. Mellan 2009 och 2019 var Marietje ledamot av Europaparlamentet för det holländska liberala demokratiska partiet.

Dölj