pamatjēdzieni teorijas ieviesa četrdesmitie no divdesmitā gadsimta, Shannon.Informācijas teorija - ir pētījums par procesu pārvades, uzglabāšanas un izguves datu dabas, tehnisko un sociālo sistēmu.Daudzi Lietišķās zinātnes jomās, piemēram, datorzinātnes, valodniecības, kriptogrāfija, vadības teorija, attēlu apstrāde, ģenētika, psiholoģija, ekonomika, organizējot ražošanas metodes tiek izmantotas šo zinātni.
mūsdienu apstākļos teorija informācija ir ļoti cieši saistīta ar kodēšanas teoriju, apspriež visbiežāk problēmas sarakstes starp signālu un ziņu un signālu apstrādes teorija, kas pēta kvantēšanas un atjaunotu signālus, kā arī spektrālo un korelācijas analīzi.
Informācijas teorija apskata pamata jēdzienu "informācija" par lielāko daļu kvantitātes neņemot vērā savu vērtību, un dažreiz sajūtu.Ar šo pieeju, teksts lapa būs aptuveni tāds pats datu apjoms tiek noteikts tikai pēc skaita zīmēm un simboliem, un nav atkarīga no tā, ka, stingri ņemot, tur tiek drukāts, pat tad, ja tas ir absolūti bezjēdzīga un haotiska kopa dažiem simboliem.
Šī pieeja ir pamatota, taču tikai simulācijas sakaru sistēmām, jo tās ir pareizi pārraidītu informāciju pa sakaru kanāliem, kas var pārstāvēt jebkura rakstzīmju kopu un simbolus.Tad, kad tas ir nepieciešams, lai ņemtu vērā vērtību un nozīmi datu, kvantitatīvs pieeja ir nepieņemama.Šādi apstākļi uzliek būtiskus ierobežojumus attiecībā uz jomām iespēju piemērot šo teoriju.
pamati informācijas teorija ietver atlīdzību par dažādiem jautājumiem, tostarp tiem, kas tieši saistītas ar pārvadi un datu saņemšanu.Pamata shēma komunikācijas, kas ir redzams uz mācībām, šādi.Informācijas teorija un kodēšanas uzskata, ka tie ir avots ziņas, kas ir vārds vai noteikt vārdu, dažu alfabēta burtiem rakstīts.Par ziņu avots var būt teksts vai fizisku vai mākslīgo valodu, cilvēka balss, datu bāzes un daži matemātiskie modeļi, radot burtu kombināciju.Raidītājs pārvērš ziņu par signālu, kas atbilst fizisko raksturu sakaru kanāla - vidēja signālu pārraidei.Pagājušo šāds laikā ir iespējami traucējumi, kas ieviestu traucējumus vērtības informācijas parametriem.Uztvērējs atgūst sākotnējo ziņu no saņemto izkropļota signālu.Message samazinātā formā nonāk pie adresāta - kādai personai vai tehniskām ierīcēm.
Source amatu statistikas raksturs, ti, izskats katra ziņojuma nosaka noteiktu varbūtību.Informācijas teorija Shannon uzskata, ka, ja varbūtība ziņu ir vienotība, tas ir, viņa izskats ievērojami, un nav nenoteiktība, uzskata, ka tā neveic nekādu informāciju.
Viena no svarīgākajām problēmām informācijas teorija uzskata, ka sakaru kanāla koordināciju un rekvizītus informācijas avotu ziņām.Caurlaide ir definēts vienībā 1 bitu sekundē.
Viena problēma ar komunikāciju sistēmu, ir iejaukšanās uz vēlamo signāla ceļu.Shannon, diemžēl, mums nedod īpašas metodes darbā ar tiem.Vieglākais veids, lai novērstu, kas ir vairākkārt atkārtots ziņas ir ne ļoti efektīva, jo laikietilpīga, lai pārsūtītu informāciju.Daudz lielāka efektivitāte ļauj izmantot kodu, kas ļauj atklāt un labot kļūdas pārraides informācija.