TEORIA TRANSMI T E RI I INFORMAt IEI

transcript

TEORIA TRANSMITERII INFORMAtIEI

~ CURS II ~

S.l. dr. ing. Alexandra Ligia Balan

TEORIA TRANSMITERII INFORMAŢIEI CURS 2

12.10.2012

2http://stud.usv.ro/TTI/CURS/

1. Model matematic de sursă discretă, completă şi fără memorie

definiţie: O sursă de informaţie reprezintă mecanismul prin care din mulţimea mesajelor sursei se alege într-un mod imprevizibil pentru destinatar, un anumit mesaj pentru a fi transmis.

definiţie: experimentul S formează un sistem complet de evenimente, dacă la efectuarea acestuia cu certitudine se realizează unul din evenimente.

12.10.2012

3. Model matematic de sursă discretă, completă, cu memorie

Sursele de informaţie discrete cu memorie sunt cunoscute şi sub denumirea de surse Markov. Acestea sunt caracterizate de faptul că furnizarea unui mesaj este dependentă de unul sau mai multe mesaje furnizate anterior.

definiţie: o sursă are memorie de ordinul m dacă furnizarea unui mesaj este condiţionată de ultimele m mesaje furnizate anterior.

definiţie: se numeşte stare la un moment dat a unei surse cu memorie succesiunea ultimelor m mesaje furnizate anterior momentului cosiderat.

Dacă alfabetul unei surse Markov este format din n mesaje, iar ordinul memoriei sursei este m rezultă că sursa va avea cel mult nm stări distincte, deoarece cele m mesaje care definesc starea pot fi oricare din cele n mesaje care formează alfabetul sursei.Analiza surselor de informaţie discrete se realizează folosind grafurile sau calculul matriceal.

12.10.2012

,22,21,2

,12,11,1

definiţie: Matricea de trecere astfel construită este stochastică (suma elementelor de pe fiecare linie este egală cu unitatea, deoarece cu certitudine dintr-o anumită stare se ajunge în une din stările posibile).

definiţie: o sursă cu memorie se numeşte staţionară dacă probabilităţile de trecere sunt invariante în timp.

12.10.2012

4. Surse cu memorie ergodice

12.10.2012

4. Surse cu memorie ergodice

12.10.2012

5. Entropia surselor cu memorie ergodice

12.10.2012

5. Entropia surselor cu memorie ergodice

12.10.2012

CANALE DISCRETE DE TRASMISIUNI

Din punct de vedere informațional un canal discret de transmisiuni este caracterizat de următoarele mărimi informaționale:

Entropia intrare - ieșire, H(X,Y)

Entropiile condiționate, H(X | Y),

Transinformația, I(X;Y),

Capacitatea canalului, C

12.10.2012

Model matematic de canal discret de transmisiuni

12.10.2012

Definiție: canalul discret de transmisiuni se numește discret dacă cele două mulțimi sunt finite

Definiție: un canal discret se numește fără memorie, dacă recepționarea unui simbol nu depinde de unul sau mai multe simboluri recepționate anterior

Definiție: un canal discret se numește staționar dacă zgomotele sau perturbațiile care apar pe canal sunt invariante în timp

12.10.2012

Entropia intrare-ieşire a unui canal discret de transmisiuni

12.10.2012

Entropii condiţionate

12.10.2012

TransinformaţiaTransinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni.

12.10.2012

Principalele relaţii între mărimile informaţionale

12.10.2012

Principalele relaţii între mărimile informaţionale

TEORIA TRANSMI T E RI I INFORMAt IEI

Documents