Claude Shannon: Motvillig far till den digitala tidsåldern

Plocka upp en favorit-CD. Släpp den nu på golvet. Smörj in det med dina fingeravtryck. Skjut sedan in den i öppningen på spelaren – och lyssna när musiken kommer fram precis lika kristallklar som den dagen du först öppnade plastfodralet. Innan du går vidare med resten av dagen, tänk efter en stund till mannen vars revolutionära idéer gjorde detta mirakel möjligt: ​​Claude Elwood Shannon.

Shannon, som dog i februari efter en lång tids sjukdom, var en av de största av jättarna som skapade informationsåldern. John von Neumann, Alan Turing och många andra visionärer gav oss datorer som kunde bearbeta information. Men det var Claude Shannon som gav oss det moderna konceptet information - ett intellektuellt språng som ger honom en plats på vilken högteknologisk motsvarighet till Mount Rushmore som en dag etableras.

Den här historien var en del av vårt julinummer 2001

• Se resten av frågan
• Prenumerera

Hela vetenskapen om informationsteori växte fram ur en elektrifierande artikel som Shannon publicerade 1948, när han var en 32-årig forskare vid Bell Laboratories. Shannon visade hur det en gång så vaga begreppet information kunde definieras och kvantifieras med absolut precision. Han demonstrerade den väsentliga enheten i alla informationsmedier och påpekade att text, telefonsignaler, radiovågor, bilder, film och alla andra kommunikationssätt kunde kodas i det universella språket med binära siffror, eller bitar - en term som hans artikel var den första att använda i tryck. Shannon lade fram idén att när information väl blev digital kunde den överföras utan fel. Detta var ett hisnande konceptuellt språng som ledde direkt till så välbekanta och robusta föremål som CD-skivor. Shannon hade skrivit en ritning för den digitala tidsåldern, säger MITs informationsteoretiker Robert Gallager, som fortfarande är imponerad av tidningen från 1948.

Och det räknar inte ens den mastersavhandling Shannon hade skrivit 10 år tidigare – den där han formulerade principerna bakom alla moderna datorer. Claude gjorde så mycket för att möjliggöra modern teknik att det är svårt att veta var man ska börja och sluta, säger Gallager, som arbetade med Shannon på 1960-talet. Han hade denna fantastiska klarhet i synen. Einstein hade det också - den här förmågan att ta sig an ett komplicerat problem och hitta rätt sätt att se på det, så att saker och ting blir väldigt enkla.

Tränar mot imorgon

För Shannon var allt bara ett annat sätt att ha kul. Claude älskade att skratta och att drömma om saker som var oslagbara, säger den pensionerade Bell Labs-matematikern David Slepian, som var en medarbetare till Shannons på 1950-talet. Shannon gick på matte som en scenmagiker som övade på sitt grepp: Han skulle cirkla runt och attackera problemet från ett håll du aldrig skulle ha tänkt på, säger Slepian-only för att förvåna dig med ett svar som hade legat precis framför dig ansikte hela tiden. Men sedan hade Shannon också en stor repertoar av riktiga korttrick. Han lärde sig själv att åka enhjuling och blev känd för att ha åkt på den i Bell Labs korridorer på natten medan han jonglerade. (Han hade varit gymnast på college, så han var bättre på det än man kanske trodde, säger hans fru Betty, som gav honom cykeln i julklapp 1949.)

Hemma tillbringade Shannon sin fritid med att bygga alla möjliga bisarra maskiner. Det fanns Throbac (THrifty ROMan-numerical Backward-looking Computer), en kalkylator som gjorde aritmetik med romerska siffror. Det fanns Theseus, en mekanisk mus i naturlig storlek som kunde hitta sin väg genom en labyrint. Och kanske mest känd, det var Ultimate Machine - en låda med en stor strömbrytare på sidan. Slå på strömbrytaren och locket skulle sakta höjas och avslöja en mekanisk hand som sträckte sig ner, stängde av strömbrytaren och drog sig tillbaka och lämnade lådan precis som den var.

Jag var alltid intresserad av att bygga saker med roliga rörelser, förklarade Shannon i en intervju 1987 med tidningen Omni (en av de få gånger han talade om sitt liv offentligt). I sin hemstad Gaylord i norra Michigan, mindes han, tillbringade han sina första år med att sätta ihop modellflygplan, radiokretsar, en radiostyrd modellbåt och till och med ett telegrafsystem. Och när han började på University of Michigan 1932 tvekade han inte om att studera elektroteknik.

Efter examen 1936 gick Shannon direkt till MIT för att ta en arbetsstudietjänst som han hade sett annonseras ut på ett vykort på en anslagstavla på campus. Han skulle ägna hälften av sin tid åt att ta en magisterexamen i elektroteknik och den andra hälften arbetade som laboratorieassistent för datorpionjären Vannevar Bush, MIT:s vicepresident och dekanus för ingenjörsvetenskap. Bush gav Shannon ansvaret för Differential Analyzer, ett utarbetat system av kugghjul, remskivor och stänger som tog upp det mesta av ett stort rum - och som utan tvekan var den mäktigaste datormaskinen på planeten vid den tiden ( ser Beräkning efter kisel , TR maj/juni 2000 ).

Uttänkt av Bush och hans elever i slutet av 1920-talet, och färdigställd 1931, var Differential Analyzer en analog dator. Det representerade inte matematiska variabler med ettor och nollor, som digitala datorer gör, utan genom ett kontinuerligt värdeintervall: stavarnas fysiska rotation. Shannons jobb var att hjälpa besökande forskare att programmera sina problem på analysatorn genom att omordna de mekaniska länkarna mellan stavarna så att deras rörelser skulle motsvara de lämpliga matematiska ekvationerna.

Shannon kunde inte ha bett om ett jobb som var mer lämpat för hans kärlek till roliga rörelser. Han drogs särskilt till analysatorns underbart komplicerade styrkrets, som bestod av ett hundratal reläbrytare som automatiskt kunde öppnas och stängas av en elektromagnet. Men det som fascinerade honom särskilt var hur mycket reläernas funktion liknade den symboliska logikens funktion, ett ämne han just hade studerat under sitt sista år i Michigan. Varje strömbrytare var antingen stängd eller öppen - ett val som motsvarade
exakt till det binära valet i logik, där ett påstående var antingen sant eller falskt. Dessutom insåg Shannon snabbt att omkopplare kombinerade i kretsar kunde utföra standardoperationer av symbolisk logik. Analogin hade uppenbarligen aldrig erkänts tidigare. Så Shannon gjorde det till föremål för sin magisteravhandling och ägnade större delen av 1937 åt att utröna konsekvenserna. Han berättade senare för en intervjuare att han hade roligare att göra det än något annat i mitt liv.

Sant eller falskt?

Visst är hans avhandling, A Symbolic Analysis of Relay and Switching Circuits, en övertygande läsning, särskilt med tanke på vad som har hänt under de 60-plus åren sedan den skrevs. Som en avslutning mot slutet, till exempel, påpekade Shannon att de logiska värdena sant och falskt lika väl kunde betecknas med de numeriska siffrorna 1 och 0. Denna insikt innebar att reläerna kunde utföra de då svårbegripliga operationerna av binär aritmetik . Således, skrev Shannon, är det möjligt att utföra komplexa matematiska operationer med hjälp av reläkretsar. Som en illustration visade Shannon designen av en krets som kunde addera binära tal.

Ännu viktigare, Shannon insåg att en sådan krets också kunde göra jämförelser. Han såg möjligheten med en anordning som kunde ta alternativa handlingssätt beroende på omständigheterna - som i, om talet X är lika med talet Y, gör då operation A. Shannon gav en enkel illustration av denna möjlighet i sin avhandling genom att visa hur relä omkopplare kunde anordnas för att producera ett lås som öppnades om och endast om en serie knappar trycktes in i rätt ordning.

Konsekvenserna var djupgående: en omkopplingskrets kunde avgöra - en förmåga som en gång hade verkat unik för levande varelser. Under de kommande åren skulle utsikterna till beslutsfattande maskiner inspirera hela området för artificiell intelligens, försöket att modellera mänskligt tänkande via dator. Och kanske av någon slump skulle det fältet fascinera Claude Shannon för resten av hans liv.

Från en mer omedelbar synvinkel var dock en omkopplingskrets förmåga att bestämma vad som skulle göra de digitala datorerna som dök upp efter andra världskriget till något fundamentalt nytt. Det var inte deras matematiska förmågor i sig som samtida tyckte var så uppseendeväckande (även om maskinerna verkligen var väldigt snabba); även på 1940-talet var världen full av elektromekaniska skrivbordsräknare som kunde göra enkla additioner och subtraktioner. Den häpnadsväckande delen var de nya datorernas förmåga att arbeta under kontroll av ett internt program, välja mellan olika alternativ och utföra komplexa sekvenser av kommandon på egen hand.

Allt detta är anledningen till att A Symbolic Analysis of Relay and Switching Circuits, publicerad 1938, har kallats 1900-talets viktigaste masteruppsats. I sitt tidiga 20-tal hade Claude Shannon den insikt som var avgörande för att organisera den interna verksamheten i en modern dator - nästan ett decennium innan sådana datorer ens existerade. Under de mellanliggande åren har växlingstekniken utvecklats från elektromekaniska reläer till mikroskopiska transistorer etsade på kisel. Men än i dag pratar och tänker mikrochipdesigners fortfarande i termer av sina chipss interna logik - ett koncept som till stor del bär på Shannons arbete.

Perfekt information

Med uppmuntran av Vannevar Bush beslutade Shannon att följa upp sin magisterexamen med en doktorsexamen i matematik – en uppgift som han slutförde på bara ett och ett halvt år. Inte långt efter att ha tagit emot denna examen våren 1940, gick han med i Bell Labs. Eftersom USA:s inträde i andra världskriget uppenbarligen bara var en tidsfråga, började Shannon omedelbart arbeta med militära projekt som antiaircraft fire control och kryptografi (kodtillverkning och brytning).

Ändå fann Shannon alltid tid att arbeta med den grundläggande teorin om kommunikation, ett ämne som hade väckt hans intresse flera år tidigare. Av och på, Shannon hade skrivit till Bush i februari 1939, i ett brev som nu finns bevarat i Library of Congress arkiv, jag har arbetat med en analys av några av de grundläggande egenskaperna hos allmänna system för överföring av intelligens, inklusive telefoni, radio, tv, telegrafi, etc. För att göra framsteg mot det målet behövde han ett sätt att specificera vad som sändes under kommunikationen.

Byggande på Bell Labs ingenjör Ralph Hartleys arbete, formulerade Shannon ett rigoröst matematiskt uttryck för begreppet information. Åtminstone i de enklaste fallen, sa Shannon, var informationsinnehållet i ett meddelande antalet binära ettor och nollor som krävs för att koda det. Om du visste i förväg att ett meddelande skulle förmedla ett enkelt val - ja eller nej, sant eller falskt - så skulle en binär siffra räcka: en enda etta eller en enda nolla berättade allt du behövde veta. Meddelandet skulle således definieras att ha en informationsenhet. Ett mer komplicerat meddelande, å andra sidan, skulle kräva fler siffror för att koda, och skulle innehålla så mycket mer information; tänk på de tusentals eller miljoner ettor och nollor som utgör en ordbehandlingsfil.

Som Shannon insåg hade denna definition sina perversa aspekter. Ett meddelande kanske bara innehåller en binär informationsenhet - Ja - men en värld av mening - som i, Ja, jag kommer att gifta mig med dig. Men ingenjörernas jobb var att få data härifrån och dit med ett minimum av förvrängning, oavsett innehållet. Och för det ändamålet var den digitala definitionen av information idealisk, eftersom den möjliggjorde en exakt matematisk analys. Vilka är gränserna för en kommunikationskanals kapacitet? Hur mycket av den kapaciteten kan du använda i praktiken? Vilka är de mest effektiva sätten att koda information för överföring i den oundvikliga närvaron av brus?

Att döma av hans kommentarer många år senare hade Shannon beskrivit sina svar på sådana frågor 1943. Märkligt nog verkar han dock inte ha känt någon brådska att dela med sig av dessa insikter; några av hans närmaste medarbetare vid den tiden svär att de inte hade någon aning om att han arbetade med informationsteori. Han hade inte heller bråttom med att publicera och därmed säkra krediten för arbetet. Jag var mer motiverad av nyfikenhet, förklarade han i sin intervju från 1987 och tillade att processen att skriva för publicering var smärtsam. Till slut övervann Shannon sin motvilja. Resultatet: den banbrytande uppsatsen A Mathematical Theory of Communication, som publicerades i juli- och oktobernumren 1948 av Bell System teknisk tidskrift .

Shannons idéer exploderade med kraften av en bomb. Det var som en blixt ur det blå, minns John Pierce, som var en av Shannons bästa vänner på Bell Labs, och ändå lika förvånad över Shannons tidning som någon annan. Jag känner inte till någon annan teori som kom i en sådan fullständig form, med väldigt få försteg eller historia. Det var faktiskt något med denna föreställning om att kvantifiera information som tände folks fantasi. Det var en uppenbarelse, säger Oliver Selfridge, som då var doktorand vid MIT. Runt MIT var reaktionen, lysande! Varför tänkte jag inte på det?

Mycket av kraften i Shannons idé låg i dess enande av vad som hade varit en mängd olika tekniker. Fram till dess var kommunikation inte en enhetlig vetenskap, säger MIT:s Gallager. Det fanns ett medium för röstöverföring, ett annat medium för radio, ytterligare andra för data. Claude visade att all kommunikation i grunden var densamma - och dessutom att man kunde ta vilken källa som helst och representera den med digitala data.

Enbart den insikten skulle ha gjort Shannons artikel till en av 1900-talets stora analytiska landvinningar. Men det var mer. Anta att du försökte skicka, säg, en födelsedagshälsning längs en telegraflinje, eller via en trådlös länk, eller till och med i amerikansk post. Shannon kunde visa att vilken kommunikationskanal som helst hade en hastighetsgräns, mätt i binära siffror per sekund. De dåliga nyheterna var att över den hastighetsgränsen var perfekt trohet omöjlig: hur smart du än kodade ditt meddelande och komprimerade det, kunde du helt enkelt inte få det att gå snabbare utan att slänga lite information.

De häpnadsväckande goda nyheterna var dock att under denna hastighetsgräns var överföringen potentiellt perfekt. Inte bara mycket bra: perfekt. Shannon gav ett matematiskt bevis på att det måste finnas koder som skulle få dig ända upp till gränsen utan att förlora någon information alls. Dessutom, visade han, perfekt överföring skulle vara möjlig oavsett hur mycket statisk elektricitet och distorsion det kan finnas i kommunikationskanalen, och oavsett hur svag signalen kan vara. Naturligtvis kan du behöva koda varje bokstav eller pixel med ett stort antal bitar för att garantera att tillräckligt många av dem kommer igenom. Och du kanske måste utarbeta alla typer av tjusiga felkorrigeringsscheman så att skadade delar av meddelandet kan rekonstrueras i andra änden. Och ja, i praktiken skulle koderna så småningom bli så långa och kommunikationen så långsam att man måste ge upp och låta bruset vinna. Men i princip kunde man göra felsannolikheten så nära noll som man ville.

Detta grundläggande teorem för informationsteorin, som Shannon kallade det, hade överraskat till och med honom när han upptäckte det. Erövringen av buller tycktes kränka allt sunt förnuft. Men för hans samtida 1948, när han såg teoremet för första gången, var effekten elektrifierande. För att göra risken för fel så liten som du önskar? Ingen hade någonsin tänkt på det, förundrar MIT:s Robert Fano, som själv blev en ledande informationsteoretiker på 1950-talet - och som fortfarande har ett vördnadsfullt fotografi av Shannon hängande på sitt kontor. Hur han fick den insikten, hur han ens kom att tro på något sådant vet jag inte. Men nästan all modern kommunikationsteknik bygger på det arbetet.

Shannons arbete hänger över allt vi gör, instämmer Robert Lucky, företagsdirektör för tillämpad forskning på Telcordia, Bell Labs spinoff som tidigare kallades Bellcore. Sannerligen, noterar han, har Shannons grundläggande teorem fungerat som ett ideal och en utmaning för efterföljande generationer. I 50 år har människor arbetat för att komma till den kanalkapacitet han sa var möjlig. Först nyligen har vi kommit nära. Hans inflytande var djupgående.

Och, tillägger Lucky, Shannons arbete inspirerade utvecklingen av alla våra moderna felkorrigerande koder och datakomprimeringsalgoritmer. Med andra ord: ingen Shannon, ingen Napster.

Shannons teorem förklarar hur vi slentrianmässigt kan slänga runt cd-skivor på ett sätt som ingen skulle ha vågat med långspelande vinylskivor: dessa felkorrigerande koder gör att CD-spelaren praktiskt taget kan eliminera brus på grund av repor och fingeravtryck innan vi någonsin hör det . Shannons teorem förklarar likaså hur datormodem kan överföra komprimerad data med tiotusentals bitar per sekund över vanliga, brusdrabbade telefonlinjer. Det förklarar hur NASA-forskare kunde få bilder av planeten Neptunus tillbaka till jorden över tre miljarder kilometer av interplanetär rymd. Och det räcker långt för att förklara varför ordet digital har blivit synonymt med högsta möjliga standard för datakvalitet.

Stänger av

Utmärkelserna för Shannons arbete kom snabbt. Warren Weaver, chef för Rockefeller Foundations Natural Sciences Division, förklarade att informationsteori omfattar alla de procedurer genom vilka ett sinne kan påverka ett annat, inklusive inte bara skriftligt och muntligt tal, utan också musik, bildkonst, teater, balett , och faktiskt allt mänskligt beteende. Magasinet Fortune kunde knappt hålla tillbaka sin entusiasm och dubbade informationsteorin till en av människans stoltaste och mest sällsynta skapelser, en stor vetenskaplig teori som på djupet och snabbt skulle kunna förändra människans syn på världen. Shannon själv var snart tvungen att avsätta ett helt rum i sitt hem bara för att hålla alla hans citat, plaketter och vittnesmål.

Inom ett eller två år efter publiceringen av hans tidning blev Shannon dock förskräckt över att finna att informationsteorin började bli populär. Folk sa löjliga saker om mängden information som kommer ut från solen, eller till och med informationsinnehållet i buller. Forskare lämnade in bidragsansökningar som hänvisade till informationsteori om deras förslag hade något med det att göra eller inte. Informationsteori höll på att bli ett modeord, ungefär som artificiell intelligens, kaos och komplexitet skulle göra på 1980- och 1990-talen. Och Shannon hatade det. I en tidning från 1956 med titeln The Bandwagon, i tidskriften Transaktioner på informationsteori , förklarade han att informationsteorin var mycket översåld. Det har kanske ökat till en betydelse bortom dess faktiska prestationer, skrev han.

Istället för att fortsätta utkämpa vad han visste var en förlorad strid, hoppade Shannon ut. Även om han under en tid fortsatte sin forskning om informationsteori, tackade han nej till nästan alla ändlösa inbjudningar att föreläsa eller ge tidningsintervjuer; han ville inte bli en kändis. Han slutade också svara på mycket av hans mail. Korrespondens från stora personer inom vetenskap och regering hamnade bortglömd och obesvarad i en arkivmapp som han kallade Brev jag har skjutit upp för länge med. Allt eftersom åren gick började Shannon faktiskt dra sig tillbaka inte bara från allmänhetens ögon utan från forskarsamhället - en attityd som oroade hans kollegor vid MIT, som hade anställt honom från Bell Labs 1958. Han skrev vackra artiklar - när han skrev, säger MIT:s Fano. Och han höll vackra föredrag - när han höll ett föredrag. Men han hatade att göra det.

Då och då fortsatte Shannon att publicera. Ett anmärkningsvärt exempel, innan han blev för förskräckt av sin kändisskap och drog sig tillbaka mer fullständigt, var en framstående artikel från 1950 för Scientific American som beskriver hur en dator kan vara programmerad att spela schack. Men han försvann långsamt från den akademiska scenen, minns Peter Elias, en annan ledare för MIT:s informationsteorigrupp. Claudes vision om undervisning var att hålla en serie föreläsningar om forskning som ingen annan kände till. Men det tempot var mycket krävande; i själva verket kom han med en forskningsartikel varje vecka. I mitten av 1960-talet, minns Elias, hade Shannon slutat undervisa.

Efter sin officiella pensionering 1978, vid 62 års ålder, drog Shannon lyckligt tillbaka till sitt hem i Boston-förorten Winchester, MA. Pengar var inte ett bekymmer; tack vare hans kunskap om de högteknologiska industrier som växer fram runt Bostons Route 128, hade han gjort några smarta investeringar på aktiemarknaden. Inte heller verkade det finnas någon minskning av hans uppfinningsrikedom. Han byggde fortfarande saker! minns Betty Shannon med ett skratt. Den ena var en...figur av W. C. Fields som studsade tre bollar på ett trumskinn. Det gjorde ett jäkla ljud, låt mig berätta!
Ändå kom det en tid runt 1985 då han och Betty började märka vissa förfall. Han skulle ta en biltur och glömma hur han skulle ta sig hem. År 1992, när Institute of Electrical and Electronics Engineers förberedde sig för att publicera hans samlade papper, blev Shannon störd över att inse att han inte kunde minnas att han skrev många av dem. Och i mitten av 1993, när hans tillstånd blev uppenbart för alla, bekräftade familjen vad många hade börjat misstänka: Claude Shannon hade Alzheimers sjukdom. Senare samma år placerade hans familj honom motvilligt på ett vårdhem.

1998, när hans hemstad Gaylord, MI, firade informationsteorins 50-årsjubileum genom att avslöja en byst av dess skapare i en stadspark, tackade Betty Shannon staden i hans ställe. Fysiskt, säger hon, mådde han bra nästan ända till slutet, då allt såg ut att kollapsa på en gång. Men den 24 februari, bara två månader innan Shannons 85-årsdag, kom slutet. Responsen på hans död har varit överväldigande, säger hon. Jag tror att det skulle ha förvånat honom.

Dölj