concepte de bază ale teoriei introdus în anii patruzeci ai secolului XX, Shannon.Teoria informații - este studiul proceselor de transmitere, stocare și recuperare a datelor în sistemele naturale, tehnice și sociale.Multe domenii științifice aplicate, cum ar fi informatica, lingvistica, criptografie, teoria controlului, de prelucrare a imaginii, genetica, psihologie, economie, organizare de metode de producție sunt folosite această știință.
în condiții moderne teoria informațiilor este foarte strâns legată de teoria de codificare, discută cele mai frecvente probleme ale corespondenței între semnal și mesajul și teoria de procesare a semnalului, care studiază cuantificarea și de a restabili semnale, precum și analiza spectrală și corelarea acestora.
Informații Teoria analizează conceptul de bază de "informații" pentru cea mai mare parte cantitativ, fără a lua în considerare valoarea, și, uneori, simt.Cu această abordare, pagina de text va conține aproximativ aceeași cantitate de date este determinată numai de numărul de semne și simboluri, și nu depinde de faptul că, strict vorbind, nu este tipărit, chiar dacă este absolut set fără sens și haotică a unor simboluri.
Această abordare este justificată, dar numai pentru simularea sistemelor de comunicare, deoarece acestea trebuie să transmită în mod corect informații prin canale de comunicare care pot fi reprezentate prin orice set de caractere și simboluri.Apoi, atunci când este necesar să se țină cont de valoarea și semnificația datelor, o abordare cantitativă este inacceptabilă.Astfel de circumstanțe impun restricții semnificative pe domenii de posibila aplicare a acestei teorii.
Bazele teoriei informații implică luarea în considerare a diferitelor probleme, inclusiv cele direct legate de transmiterea și recepția datelor.Schema de bază a comunicării, care se vede în învățăturile, după cum urmează.Teoria informații și codificare consideră că acestea sunt sursa de mesaje, care este un cuvânt sau un set de cuvinte, anumite litere ale alfabetului scrise.Sursa mesajului poate fi text limbile naturale sau artificiale, vorbirii umane, baze de date și unele modele matematice, creând o secvență de litere.Transmițătorul convertește mesajul într-un semnal care corespunde natura fizică a canalului de comunicare - un mediu de transmitere a semnalului.În timpul trecerii de astfel de aceasta este supusă la interferențe, care introduc distorsiuni în valoarea parametrilor de informare.Receptorul recuperează mesajul original din semnalul distorsionat primit.Mesaj într-o formă redusă vine la destinatar - unele persoane sau dispozitive tehnice.
Sursa posturi cu caracter statistic, adică apariția fiecărui mesaj este determinată de o anumită probabilitate.Informații Teoria Shannon consideră că, dacă probabilitatea de a mesajului este unitatea, care este, în mod semnificativ aspectul său, și nu există nici o incertitudine, consideră că nu duce nici o informație.
Unul dintre cele mai importante probleme ale teoriei informații consideră coordonarea canalul de comunicare și proprietățile sursa mesajelor de informare.Tranzitată este definită în unitatea de 1 bit pe secundă.
O problemă cu sistemele de comunicare sunt interferențe pe calea de semnal dorit.Shannon, din păcate, nu ne da metode specifice pentru a face cu cei.Cea mai simplă metodă pentru a elimina, care se repetă de multe ori mesaje nu sunt foarte eficiente, deoarece consumatoare de timp pentru a transfera informații.Mult mai mare eficiență permite utilizarea codurilor care vă permit să detecta și corecta informare erori de transmisie.
