grunnleggende begrepene teorien introdusert i førtiårene av det tjuende århundre, Shannon.Informasjonsteori - er studiet av prosessene i overføring, lagring og gjenfinning av data i naturlige, tekniske og sosiale systemer.Mange anvendt vitenskapelig felt som informatikk, lingvistikk, kryptografi, kontroll teori, bildebehandling, genetikk, psykologi, økonomi, organisering av produksjonsmetodene brukes denne vitenskapen.
I moderne forhold teorien av informasjon er meget tett knyttet til koding teori, diskuterer de vanligste problemene med korrespondansen mellom signalet og meldingen og signalbehandlings teori, som studerer kvantisering og gjenopprette signaler, samt spektral og korrelasjonsanalyse derav.
Information Theory undersøker grunnleggende konseptet av "informasjon" for det meste kvantitativt, uten å ta hensyn til sin verdi, og noen ganger forstand.Med denne fremgangsmåten, vil tekstsiden inneholde omtrent den samme mengde data bestemmes bare av antallet tegn og symboler, og er ikke avhengig av det faktum at, strengt tatt, blir det skrevet ut, selv om den er helt meningsløs og kaotisk sett noen symboler.
Denne tilnærmingen er berettiget, men bare for simulering av kommunikasjonssystemer, som de har til riktig overføre informasjon via kommunikasjonskanaler som kan representeres av et sett med tegn og symboler.Deretter, når det er nødvendig å ta hensyn til verdi og betydningen av data, er en kvantitativ metode uakseptabelt.Slike forhold pålegge vesentlige restriksjoner på områder av mulig anvendelse av denne teori.
Fundamentals informasjonsteori innebærer vurdering av ulike problemstillinger, blant annet de som er direkte relatert til sending og mottak av data.Den grunnleggende ordningen for kommunikasjon, som er sett i læren, som følger.Informasjonsteori og koding mener at dette er kilden til meldinger, som er et ord eller et sett av ord, bestemte bokstaver i alfabetet skrevet.Kilden for meldingen kan være tekst i noen naturlige eller kunstige språk, menneskelig tale, database og noen matematiske modeller, og skaper en sekvens av bokstaver.Senderen omformer meldingen til et signal som svarer til den fysiske natur av kommunikasjonskanalen - et medium for signaloverføring.Under passering av slik det er utsatt for interferens, som introduserer skjevheter i verdien av informasjons parametere.Mottakeren gjenoppretter den opprinnelige meldingen fra den mottatte forvrengt signal.Melding i en redusert form kommer til adressaten - noen person eller tekniske innretninger.
Source poster en statistisk natur, dvs. opptreden av hver melding er bestemt av en bestemt sannsynlighet.Informasjonsteori Shannon mener at dersom sannsynligheten for meldingen er enhet, er at hans utseende betraktelig, og det er ingen usikkerhet, mener at det ikke bærer noen informasjon.
En av de viktigste problemene med informasjonsteori vurderer koordinering av kommunikasjonskanalen, og egenskapene til kilden for informasjonsmeldinger.Gjennomstrømning er definert i enheten av en bit per sekund.
Et problem med kommunikasjonssystemer er forstyrrelser til ønsket signalveien.Shannon, dessverre, ikke gir oss konkrete metoder for å håndtere disse.Den enkleste metode for å eliminere, som er gjentatt mange ganger meldinger er ikke særlig effektiv fordi tidkrevende å overføre informasjon.Mye større effektivitet tillater bruk av koder som gir deg mulighet til å oppdage og korrigere overføringsfeil informasjon.
