211service.com
Kryptografer har ett etiskt problem
Förra veckan besökte jag MITs datavetenskapsavdelning och letade efter en mycket känd kryptograf. När jag tog mig igenom kontorsfältet lade jag märke till en affisch som var tejpad på väggen – en sådan som sattes upp för att informera eller inspirera eleverna. Det var etisk kod av Association for Computing Machinery, världens största professionella sammanslutning av datavetare.
Kodknäckare: En staty av matematikern Alan Turing som arbetar på Enigma Machine.
Koden är en lista med 16 moraliska imperativ. Två föremål hoppade genast ut:
1.3 - Var ärlig och pålitlig.
1.7 - Respektera andras integritet.
Det här fick mig att tänka. Det ser ut som om kodbrytarna på National Security Agency – och möjligen de akademiker som ofta hjälper dem – är i tydliga, dramatiska brott mot sin egen professions uppförandekod.
Till en början kan det här verka som småpotatis. Enligt hemliga dokument som läckt ut av en före detta entreprenör, Edward Snowden, har NSA samlat in register över alla amerikaners kommunikation och har även besegrat allmänt använda krypteringsprotokoll så att de kan läsa dem (se NSA Surveillance Reflects a Broader Interpretation of the Patriot Act ).
Om, som någon avgift , NSA har brutit mot lagar och brutit mot USA:s konstitution, då har den begått kriminella handlingar som är mycket värre än att trampa på en frivillig uppförandekod. Alternativt, om du tycker att NSA:s snokning är motiverat för att försvara landet, vem bryr sig då om ett fromt klingande etikuttalande?
Men det spelar roll. Anledningen är att bygga en atombomb, eller bryta det tuffaste chiffer, är något som bara ett fåtal experter kan klara av. Så experter står inför speciella moraliska dilemman. Hur de löser dem har exakt att göra med en gruppkänsla för etik, den typ som förkroppsligas av uppförandekoder eller credo.
Jag tycker att det här är riktigt intressant, säger Bruce Schneier , en datasäkerhetsexpert som har haft tillgång till några av Snowden-dokumenten och varit kritisk mot regeringen. NSA-anställda och deras samarbetspartners bryter mot den etiska koden.
Moral kompass: En kopia av den etiska koden för Association of Computing Machinery visas på MIT.
Faktum är att många akademiker också är inblandade, om mindre direkt. Det beror på att disciplinen kryptografi redan är starkt militariserad. Idag spenderar den amerikanska regeringen 10,5 miljarder dollar per år på signalunderrättelser och anställer 30 000 personer för att göra det, enligt budgetdokument som läckt ut av Snowden . Universitetsforskare samarbetar ofta. De tar sabbatsår med NSA och får medel från militären för att arbeta med intressanta problem. Många kom igång med statliga projekt.
Inte alla tekniska discipliner möter liknande fallgropar – och vissa har gjort olika val. Några ledande robotexperter har sagt till mig att de är helt emot att hjälpa till att bygga robotar av Terminator-typ (det kan vara anledningen till att vi inte har sett någon ännu). Och i amerikanska biologilaboratorier skulle du vara svår att hitta någon gör forskning som syftar till att skada en annan person, terrorist eller inte. Det är helt enkelt inte på agendan. (En del av anledningen är att president Richard Nixon avslöjade och avslutade det hemliga amerikanska bakteriekrigsprogrammet 1969.)
Eugene Spafford, verkställande direktör för CERIAS-institutet vid Purdue University och en tjänsteman vid ACM, varnade mig för att nå förenklade etiska bedömningar. Han sa att om en person hackar datorer och stjäl meddelanden för att förhindra en terroristattack, så bryter de inte nödvändigtvis mot samhällets kod, som tillåter olika tolkningar.
Faktum är att koden säger att alla etiska principer kan komma i konflikt med andra etiska principer i specifika situationer. Etik är med andra ord relativ. Detta är logiken som säger att en soldat kan döda i krig, även om det är ett brott att göra samma sak i fredstid.
Och det kan vara därför kryptografer ser suddiga etiska gränser. Kodskapande och kodbrytande har alltid hängt samman med krig och diplomati. Till exempel var Alan Turing, den briljante matematikern som ACM:s högsta årliga pris är uppkallad efter, inblandad i att hjälpa till att knäcka det nazistiska gåtchiffret under andra världskriget, vilket gjorde det möjligt för de allierade att läsa tysk kommunikation.
Men något viktigt har förändrats sedan dessa dagar. Tidigare var det bara diplomater och spioner som använde kodade meddelanden. Idag gör vi alla det. Varje Gmail du skickar är krypterad liksom Skype-samtal. Det är därför NSA tydligen har sett till att den kan bryta den sortens kryptografi (se NSA-läckan lämnar krypto-matematiken intakt men framhäver kända lösningar ). Detta bryta eller besegra av offentlig kryptering är en ny moralisk fara som experterna har hamnat i. Eftersom de nu använder teknik för att spionera på oss alla, kan de inte så lätt åberopa nationell säkerhet som ett etiskt trumfkort.
Snowden, NSA-visselblåsaren som flydde till Ryssland (där han är kvar) har förklarat hur han tog sitt eget moraliska beslut att berätta för allmänheten om spioneri som påverkar oss alla. Hans offentligt uttalande är värt att läsa. Snowden säger att han valde att överskrida lydnaden till den amerikanska regeringen för att lyda universella regler för mänskligt beteende.
Jag vet inte exakt vilken etisk kod Snowden följer. ACM vägrade, av respekt för privatlivet, att berätta för mig om han var medlem.