grundläggande begrepp inom teorin infördes på fyrtiotalet av det tjugonde århundradet, Shannon.Informationsteori - är studiet av de processer för överföring, lagring och hämtning av data i naturliga, tekniska och sociala system.Många tillämpade vetenskapliga områden såsom datavetenskap, lingvistik, kryptografi, reglerteknik, bildbehandling, genetik, psykologi, ekonomi, organisation av produktionsmetoder används denna vetenskap.
I moderna förhållanden teorin om informationen mycket tätt kopplad till kodningsteori, diskuterar de vanligaste problemen i korrespondensen mellan signalen och meddelandet och signalbehandlingsteori, som studerar kvantisering och återställa signaler, liksom spektral och korrelationsanalys av detta.
Informationsteori undersöker grundläggande begreppet "information" för det mesta kvantitativt, utan att ta hänsyn dess värde, och ibland känner.Med denna metod, kommer textsida innehåller ungefär samma mängd data bestäms endast av antalet tecken och symboler, och beror inte på det faktum att, strängt taget, är det tryckt, även om det är absolut meningslöst och kaotiska uppsättning av vissa symboler.
Denna strategi är motiverad, men bara för simulering av kommunikationssystem, eftersom de måste korrekt överföra information via kommunikationskanaler som kan representeras av en uppsättning av tecken och symboler.Sedan, när det är nödvändigt att ta hänsyn till värdet och betydelsen av de uppgifter, är en kvantitativ metod oacceptabel.Sådana omständigheter innebär betydande restriktioner på områden av eventuell tillämpning av denna teori.
Grunderna i informationsteori innebär hänsyn till olika frågor, bland annat dem som är direkt relaterade till sändning och mottagning av data.Den grundläggande system för kommunikation, som ses i de läror, som följer.Informationsteori och kodning anser att dessa är källan till meddelanden, som är ett ord eller en uppsättning av ord, vissa bokstäver i alfabetet skriven.Källan av meddelandet kan vara text i några naturliga eller konstgjorda språk, mänskligt tal, databas och några matematiska modeller, skapar en sekvens av bokstäver.Sändaren konverterar meddelandet till en signal som motsvarar den fysikaliska naturen hos kommunikationskanalen - ett medium för signalöverföring.Under passagen av sådan är föremål för störningar, som inför en snedvridning i värdet av informationsparametrar.Mottagaren återvinner det ursprungliga meddelandet från den mottagna förvrängda signalen.Meddelande i en reducerad form kommer till adressaten - någon person eller tekniska anordningar.
Källa inlägg statistisk karaktär, det vill säga uppkomsten av varje meddelande bestäms av en viss sannolikhet.Informationsteori Shannon tror att om sannolikheten för att meddelandet är enighet, är att hans utseende avsevärt, och det finns ingen osäkerhet, anser att det inte bär någon information.
Ett av de viktigaste problemen informationsteori anser samordningen av kommunikationskanalen och egenskaperna hos källan till informationsmeddelanden.Genomströmning definieras i enheten av en bit per sekund.
Ett problem med kommunikationssystem är störningar i den önskade signalbanan.Shannon, tyvärr, inte ger oss konkreta metoder för att hantera dem.Det enklaste sättet att eliminera, som upprepas många gånger meddelanden är inte mycket effektivt eftersom tidskrävande att överföra information.Mycket större effektivitet tillåter användning av koder som gör att du kan upptäcka och rätta överföringsfel information.