grundlæggende begreber af teorien indført i fyrrerne af det tyvende århundrede, Shannon.Information Theory - er studiet af de processer af transmission, lagring og genfinding af data i naturlige, tekniske og sociale systemer.Mange anvendt videnskabelige områder som datalogi, lingvistik, kryptografi, kontrol teori, billedbehandling, genetik, psykologi, økonomi, organisering af produktionsmetoder bruges denne videnskab.
I moderne vilkår teorien af oplysninger er meget tæt knyttet til kodning teori, diskuterer de mest almindelige problemer i korrespondancen mellem signal og budskab og signalbehandlingen teori, som studerer kvantisering og genoprette signaler samt spektrale og korrelationsanalyse heraf.
Information Theory undersøger det grundlæggende begreb "information" for det meste kvantitativt, uden at tage hensyn til dens værdi, og nogle gange fornemme.Med denne tilgang vil tekstside indeholder omtrent samme mængde data bestemmes kun af antallet af tegn og symboler, og ikke afhænger af det faktum, at strengt taget er der udskrives, selv om det er absolut meningsløst og kaotisk sæt af nogle symboler.
Denne fremgangsmåde er berettiget, men kun for simulering af kommunikationssystemer, som de er nødt til korrekt videregive oplysninger via kommunikationskanaler, der kan repræsenteres af ethvert sæt af tegn og symboler.Derefter, når det er nødvendigt at tage højde for værdien og betydningen af data, en kvantitativ tilgang er uacceptabel.Sådanne omstændigheder pålægger væsentlige begrænsninger på områder med eventuel anvendelse af denne teori.
Fundamentals af informationsteori involverer overvejelser om forskellige spørgsmål, herunder dem, direkte relateret til transmission og modtagelse af data.Den grundlæggende ordning for kommunikation, som er set i læren, som følger.Information Teori og varenomenklatursystem mener, at disse er kilden til meddelelser, som er et ord eller et sæt af ord, visse bogstaver i alfabetet skrevet.Kilden af meddelelsen kan være tekst i nogen naturligt eller kunstigt sprog, menneskelig tale, database og nogle matematiske modeller, hvilket skaber en sekvens af bogstaver.Senderen konverterer meddelelsen til et signal, der svarer til den fysiske natur af kommunikationskanalen - et medium til signaltransmission.Under passagen af sådan er udsat for forstyrrelser, der indfører forvridninger i værdien af de oplysninger parametre.Modtageren genopretter den oprindelige meddelelse fra det modtagne forvrænget signal.Meddelelse i en reduceret form kommer til adressaten - nogle person eller tekniske enheder.
Kilde udstationerer en statistisk karakter, dvs. udseendet af hver besked er bestemt af en vis sandsynlighed.Information Theory Shannon mener, at hvis sandsynligheden for, at budskabet er enhed, der er, hans udseende betydeligt, og der er ingen usikkerhed, mener, at det ikke bærer nogen oplysninger.
Et af de vigtige problemer i informationsteori anser koordinering af kommunikationen kanal og egenskaberne af informationskilde beskeder.Gennemløb er defineret i enheden på 1 bit per sekund.
Et problem med kommunikationssystemer er interferens til den ønskede signalvejen.Shannon, desværre, ikke giver os konkrete metoder til håndtering af dem.Den nemmeste metode til at fjerne, hvilket er gentaget mange gange beskeder er ikke meget effektive, fordi tidskrævende at overføre oplysninger.Meget større effektivitet giver mulighed for brug af koder, der giver dig mulighed for at opdage og korrigere transmissionsfejl oplysninger.
