Claude Shannon, de vader van de informatietheorie

Robin93 > Robin93 Auto Machine Techniek

Claude Elwood Shannon heeft met zijn werk onvoorstelbaar veel gedaan voor de computertechnologie. Hij wordt in de computerwereld gezien als de uitvinder van de informatietheorie, de bedenker van de 'bit' en zelfs van het principe van de zip.file. Zonder het werk van Shannon zou er volgens deskundigen zelfs geen internet bestaan. Toch is zijn naam voor de meesten van ons totaal onbekend. En dat is zeker niet terecht.

Claude Shannon en zijn achtergrond

Shannon werd geboren op 30 april 1916 in Petoskey, Michigan, in de Verenigde Staten. Hij groeide op in Gaylord, Michigan. Tijdens zijn schooljaren bleek hij een sterke aanleg te hebben voor zowel wiskunde als mechanica. Hij sleutelde zelf onder andere een radiografisch bestuurbare boot in elkaar en genoot van de wiskundige puzzels die zijn oudere zus Catherine hem opgaf (zij werd later overigens een professor in wiskunde).

Claude Shannon en de wiskunde van Boole

Begin 1940 studeerde Shannon af aan het Massachusetts Institute of Technology (MIT) met wiskunde en elektrotechniek als hoofdvakken.

Tijdens zijn studie had Shannon een overeenkomst geconstateerd tussen de geformuleerde algebra van de Britse wiskundige George Boole (1815-1864) en de circuits van een telefooncentrale. Boole had een reeks nieuwe vergelijkingen in de wiskunde geïntroduceerd (in de vorm van onder meer: als X of Y niet gelijk zijn aan Z, dan zal Q resulteren in ...), die voor zijn tijd heel bijzonder waren.

Na een verhitte discussie met Amos Joel, een befaamde expert op dit gebied van de Bell Telephone Laboratories, zette Shannon zijn visie op de wiskunde van Boole en elektronische systemen uiteen in zijn afstudeerscriptie. Het werkte naadloos en bleek een doorbraak op het gebied van verdere ontwikkelingen in de telecommunicatie. Shannons scriptie wordt nog steeds als waarschijnlijk de meest belangrijke scriptie van de 20e eeuw gezien. De gevolgen ervan waren groot. Ontwerpen van elektrische circuits konden van nu af aan wiskundig worden getest nog vòòr ze werden gebouwd, in plaats van door het tot dan gebruikelijke eindeloze uittesten en verbeteren van bestaande circuits.

Claude Shannon en de informatietheorie

Eind 1941 werd Shannon aangenomen bij Bell Telephone Laboratories en zou daar 15 jaar blijven.

Tijdens de Tweede Wereldoorlog maakte Shannon deel uit van een groep, die digitale coderingssystemen ontwierp om boodschappen te versleutelen. Eén zo'n systeem werd gebruikt door premier Churchill en president Roosevelt tijdens hun transoceanische conferenties.

Volgens Shannon was het dit werk dat hem leidde tot de ontwikkeling van zijn informatietheorie. Hij realiseerde zich dat digitale codering de informatie niet alleen voor onbevoegden kon verbergen, maar dat het de informatie ook compleet hield en beschermde tegen allerlei vormen van (statische, atmosferische e.d.) storingen zoals die wel voorkwamen in het telefoon- en telegraafverkeer. Shannon ontdekte ook dat de codes de informatie als een pakketje konden verkleinen, waardoor er meer informatie tegelijk kon worden verstuurd (voorloper van de zip.file).

Hierop formuleerde hij in 1948 zijn theorie die niet alleen omschreef hoe informatie veilig en compleet kon worden gecommuniceerd, maar ook hoe dit zo efficiënt mogelijk kon worden gedaan. Shannon had hiermee aangetoond dat informatie een meetbare eenheid kon zijn. De wiskundige theorie van communicatie – de informatietheorie – was het hoogtepunt in Shannons wiskundige carrière en in feite de grootste bijdrage aan de nieuwste wetenschap: de informatietechnologie.

Claude Shannon en de basiseenheid van informatie

Shannon definieerde de basiseenheid van informatie als een binaire eenheid en noemde het vervolgens een 'bit'. Op deze wijze kan een grote hoeveelheid informatie in relatief weinig bits worden gecodeerd/geprogrammeerd. Verder werkend op deze wiskundige basis toonde Shannon vervolgens aan dat elk communicatiekanaal een maximumcapaciteit heeft voor het betrouwbaar verzenden van informatie. Daarbij toonde hij dat - hoewel je door slim programmeren in de buurt van dit maximum kunt komen - je dit toch eigenlijk nooit kan bereiken. Deze maximumcapaciteit staat tegenwoordig bekend als de Shannon-limiet.

Claude Shannon zijn tijd ver vooruit

Toch kon men in 1948 nog niets met Shannons theorie en beschouwde men het niet meer dan dat: een interessante theorie. Pas in de jaren 1970 – toen er snelle geïntegreerde circuits beschikbaar kwamen – begonnen elektronicaspecialisten de theorie op waarde te schatten en toe te passen. Vandaag de dag helpen Shannons gedachten om praktisch alle systemen vorm te geven die informatie in digitale vorm verzenden, bewerken of opslaan – van CD tot supercomputers, van faxmachines tot satellieten. Shannon ontving diverse prestigieuze prijzen voor zijn werk, onder andere de Medal of Honor (1966), de National Medal of Science (1966), de Harvey Prize (1972 en de Kyoto Prize (1985).

Claude Shannon en kunstmatige intelligentie

Zijn liefde voor elektronische gadgets zorgde ervoor dat Shannon gefascineerd raakte door het idee van slimme machines. Hij was één van de eerste wetenschappers die voorstelde om een computer te bouwen die het in schaken kon opnemen met een menselijke opponent. In 1950 schreef hij een artikel voor Scientific American waarin hij uiteenzette hoe men de benodigde informatie kon inbouwen.

Naast een aantal andere 'intelligente gadgets' bouwde Shannon in 1950 een mechanische muis die kon leren hoe het zijn doel in een doolhof kon vinden. Waar je de muis ook in het doolhof zette, het 'onthield' eerdere verkenningen van het doolhof en wist steeds sneller het doel te bereiken. Shannon noemde de muis Theseus naar de mythologische Griekse held die de Minotaurus versloeg en uit diens labyrint wist te ontsnappen. Echter, de intelligentie van de muis zat niet in de muis, maar in een groot aantal circuits onder de vloer van het doolhof. Deze circuits controleerden de bewegingen van een magneet die op zijn beurt de muis controleerde.

Claude Shannon privé

Shannon trouwde in 1949 met Mary Elizabeth Moore, een computerspecialiste bij Bell Telephone Laboratories. Samen kregen zij drie kinderen: Robert (computerspecialist, gestorven in 1998), Andrew (muzikant) en Margarita (geologe).

In religie of politiek was Shannon niet geïnteresseerd. Zijn idool was en bleef Thomas Edison. Zijn favoriete muziek bleef zijn leven lang Dixieland muziek. Hij was dol op jongleren en knutselen. Het knutselwerk waar hij het meest trots op was, was een jonglerende robot die op de vaudeville-acteur W.C. Fields leek.

Claude Shannon trekt zich terug

In de jaren 1960 begon Shannon zich uit het publieke en wetenschappelijk voetlicht terug te trekken. Eén van de redenen was Shannons enorme plankenkoorts waardoor bijvoorbeeld een lezing geven voor hem een ramp was.

Links: Shannon op Ars Electronica Festival in 1980.

Pas in latere jaren – gesteund door zijn vrouw – verscheen Shannon af en toe bij speciale gelegenheden weer in de publiciteit.

Helaas bleek Shannon op oudere leeftijd Alzheimer's te hebben. Zijn laatste jaren sleet hij in een verpleeghuis in Massachusetts; al zijn geniale ideeën, theorieën en uitvindingen waren vergeten. Shannon stierf op 24 februari 2001.

Eerbetoon aan Claude Shannon

Shannon wordt algemeen beschouwd als de aartsvader van het elektronische communicatietijdperk. Zijn theorieën over informatietechnologie legden de basis voor de enorme ontwikkelingen in zowel de computerindustrie als de telecommunicatie. In navolging van het in 2012 gehouden Alan Turing-jaar ter ere van deze eveneens voor de computerwereld bijzondere wetenschapper besloot men 2016 uit te roepen tot Claude Shannon-jaar om vooral zijn grote bijdrage aan de informatietechnologie niet te vergeten. Ter ere van zijn 100e geboortedag op 30 april 1916 maakte Google ook nog een speciale doodle voor Shannon.