alapfogalmak bevezetett elmélet a negyvenes években a huszadik század, Shannon.Information Theory - a tanulmány a folyamatok a szállítási, tárolási és az adatok visszanyerését a természeti, műszaki és társadalmi rendszerek.Sok alkalmazott tudományos területeken, például a számítógép-tudomány, a nyelvészet, a kriptográfia, szabályozás elmélet, képfeldolgozás, a genetika, a pszichológia, a közgazdaságtan, a termelési módszerek használják ezt a tudományt.
korszerű körülmények között az elmélet az információ nagyon szorosan kapcsolódik Kódelméleti tárgyalja a leggyakoribb probléma az összefüggés a jel és az üzenet, és a jelfeldolgozó elmélet, amely tanulmányozza a kvantálási és helyreállítani jelek, valamint a spektrális és korrelációs elemzést végez.
Information Theory vizsgálja az alapvető koncepciója az "információ" a legtöbb esetben mennyiségileg, figyelmen kívül hagyva az értékét, és néha érezni.Ezzel a megközelítéssel, a szöveg az oldal tartalmaz körülbelül azonos mennyiségű adatot esetben csak a számát jelek és szimbólumok, és nem függ a tény, hogy szigorúan véve, ott van nyomtatva, akkor is, ha ez teljesen értelmetlen és kaotikus halmaza olyan szimbólumok.
Ez a megközelítés indokolt, de csak a szimuláció a kommunikációs rendszerek, mivel ezek helyes információ továbbítására a kommunikációs csatornák, amelyek képviselik azoknak a karakterek és szimbólumok.Ezután, ha szükséges, hogy figyelembe vegyék a értéke és jelentése az adatokat, a kvantitatív megközelítés elfogadhatatlan.Ilyen körülmények között olyan jelentős korlátozásokat területeken lehetséges alkalmazását ezt az elméletet.
alapjai információelmélet ellenszolgáltatást tartalmaz, a különböző kérdésekről, beleértve azokat is, amelyek közvetlenül kapcsolódnak a küldés és a fogadás az adatokat.A rendszerek alapvető kommunikációs, amely azonban a tanításait, az alábbiak szerint.Information Theory and Coding úgy véli, hogy ezek a forrása üzenetek, amelyek egy szó vagy szavak halmazának, egyes betűket az ábécé írt.Az üzenet forrása lehet szöveg bármely természetes vagy mesterséges nyelv, az emberi beszédet, adatbázis és néhány matematikai modellek, ami egy betűkből.Az adó átalakítja az üzenetet egy megfelelő jelet a fizikai jellege a kommunikációs csatorna - egy közepes jelátvitelre.Áthaladása során, mint ez zavarhat, ami torzítást a értéke az információ paramétereket.A vevő visszanyeri az eredeti üzenetet a beérkezett torz jelet.Üzenet a redukált formában érkezik a címzetthez - valamely személy vagy technikai eszközökkel.
Forrás küld egy statisztikai jellegű, azaz a megjelenése minden egyes üzenet határozza meg egy bizonyos valószínűséggel.Information Theory Shannon úgy véli, hogy ha a valószínűsége az üzenet egysége, vagyis az ő megjelenése jelentősen, és nincs bizonytalanság, úgy, hogy nem végez semmilyen információt.
egyik fontos probléma az információ elmélet az összehangolását a kommunikációs csatorna és a tulajdonságait az információforrás üzeneteket.Átbocsátás a meghatározott egység az 1 bites másodpercenként.
Az egyik probléma a kommunikációs rendszer interferencia a kívánt jel útját.Shannon, sajnos, nem ad nekünk sajátos módszer foglalkozó azokkal.A legegyszerűbb módszer, hogy megszüntesse, ami sokszor megismételt üzeneteket nem túl hatékony, mert időigényes adatot átvinni.Sokkal nagyobb hatékonyságot lehetővé teszi a kódok használatára, amely lehetővé teszi, hogy feltárására és kijavítására átviteli hibákat információkat.
