Teoria informațiilor

Conceptele de bază ale acestei teorii au fost introduse în anii șaizeci ai secolului al XX-lea de către K. Shannon. Teoria informațiilor Este știința proceselor de transmisie, stocare șiachiziționarea de date în sistemele naturale, tehnice și sociale. În multe aplicații de domenii științifice, cum ar fi știința calculatoarelor, lingvistică, criptografie, teoria de control, de procesare a imaginii, genetica, psihologie, economie, organizarea de metode de producție sunt utilizate această știință.

În condițiile moderne, cu teoria informațiilorfoarte strâns legată de o teorie de codificare luând în considerare cele mai frecvente probleme de conformitate între un semnal și un mesaj și teoria procesării semnalului, în care semnalele cuantizare studiate și de recuperare și analiza spectrală și corelarea acestora.

Teoria informațiilor ia în considerare conceptul de bază"Informație", în cea mai mare parte din partea cantitativă, care nu ține cont de valoarea sa, și uneori de semnificație. În această abordare, o pagină de text va conține aproximativ aceeași cantitate de date determinate de o serie de semne și simboluri, și nu depinde de faptul că, strict vorbind, nu este tipărită, chiar dacă este absolut set fără sens și haotică a unor simboluri.

O astfel de abordare este legitimă, dar numai pentrumodelarea sistemelor de comunicare, deoarece acestea trebuie să transmită cu acuratețe informații prin intermediul canalelor de comunicare, care pot fi reprezentate prin orice set de semne și simboluri. În același timp, când este necesar să se ia în considerare valoarea și semnificația datelor, abordarea cantitativă este inacceptabilă. Astfel de circumstanțe impun limitări semnificative asupra ariilor posibile ale aplicării acestei teorii.

Se presupune fundamentarea teoriei informațieiluarea în considerare a diferitelor aspecte, inclusiv cele legate direct de transmiterea și primirea datelor. Schema de bază a comunicării, care este luată în considerare în învățământ, este după cum urmează. Teoria informării și codării consideră că datele sunt create de sursămesaje, care este un cuvânt sau un set de cuvinte scrise în literele unui anumit alfabet. Sursa mesajului poate fi text în orice limbaj natural sau artificial, discurs uman, baze de date și câteva modele matematice care creează o succesiune de litere. Transmițătorul convertește mesajul într-un semnal care corespunde naturii fizice a canalului de comunicații - mediul pentru transmiterea semnalului. În timpul trecerii unei astfel de interferențe, care introduce distorsiuni în valorile parametrilor de informație, poate acționa asupra acesteia. Receptorul restabilește mesajul original conform semnalului recepționat cu distorsiuni. Mesajul din formularul restaurat ajunge la destinatar - o persoană sau un dispozitiv tehnic.

Sursa mesajului este de natură statistică,adică apariția fiecărui mesaj este determinată de o anumită probabilitate. Teoria informațiilor Shannon consideră că, dacă probabilitatea apariției mesajului este egală cu una, adică aspectul său este fiabil și nesigur, nu există informații.

Una dintre problemele importante ale teoriei informației este coordonarea canalului de comunicare și proprietățile informaționale ale sursei de mesaje. Lățimea de bandă este determinată de o unitate de măsură de 1 bit pe secundă.

Una dintre problemele sistemelor de comunicare este interferențacalea unui semnal util. Teorema lui Shannon, din nefericire, nu ne dă o metodă concretă de a trata astfel. Cea mai simplă metodă de eliminare, care constă în repetarea repetată a mesajelor, nu este foarte eficientă, deoarece are nevoie de mult timp pentru a transfera informații. Este mult mai eficientă utilizarea codurilor care pot detecta și corecta erorile în transmiterea informațiilor.