32
TEORIA TRANSMITERII INFORMAtIEI ~ CURS II ~ S.l. dr. ing. Alexandra Ligia Balan
TEORIA TRANSMITERII INFORMAtIEI
~ CURS II ~
S.l. dr. ing. Alexandra Ligia Balan
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
2http://stud.usv.ro/TTI/CURS/
1. Model matematic de sursă discretă, completă şi fără memorie
definiţie: O sursă de informaţie reprezintă mecanismul prin care din mulţimea mesajelor sursei se alege într-un mod imprevizibil pentru destinatar, un anumit mesaj pentru a fi transmis.
definiţie: experimentul S formează un sistem complet de evenimente, dacă la efectuarea acestuia cu certitudine se realizează unul din evenimente.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
3http://stud.usv.ro/TTI/CURS/
3. Model matematic de sursă discretă, completă, cu memorie
Sursele de informaţie discrete cu memorie sunt cunoscute şi sub denumirea de surse Markov. Acestea sunt caracterizate de faptul că furnizarea unui mesaj este dependentă de unul sau mai multe mesaje furnizate anterior.
definiţie: o sursă are memorie de ordinul m dacă furnizarea unui mesaj este condiţionată de ultimele m mesaje furnizate anterior.
definiţie: se numeşte stare la un moment dat a unei surse cu memorie succesiunea ultimelor m mesaje furnizate anterior momentului cosiderat.
Dacă alfabetul unei surse Markov este format din n mesaje, iar ordinul memoriei sursei este m rezultă că sursa va avea cel mult nm stări distincte, deoarece cele m mesaje care definesc starea pot fi oricare din cele n mesaje care formează alfabetul sursei.Analiza surselor de informaţie discrete se realizează folosind grafurile sau calculul matriceal.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
4http://stud.usv.ro/TTI/CURS/
3. Model matematic de sursă discretă, completă, cu memorie
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
5http://stud.usv.ro/TTI/CURS/
3. Model matematic de sursă discretă, completă, cu memorie
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
6http://stud.usv.ro/TTI/CURS/
3. Model matematic de sursă discretă, completă, cu memorie
mmmm
m
m
nnnn
n
n
ppp
ppp
ppp
T
,2,1,
,22,21,2
,12,11,1
definiţie: Matricea de trecere astfel construită este stochastică (suma elementelor de pe fiecare linie este egală cu unitatea, deoarece cu certitudine dintr-o anumită stare se ajunge în une din stările posibile).
definiţie: o sursă cu memorie se numeşte staţionară dacă probabilităţile de trecere sunt invariante în timp.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
7http://stud.usv.ro/TTI/CURS/
4. Surse cu memorie ergodice
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
8http://stud.usv.ro/TTI/CURS/
4. Surse cu memorie ergodice
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
9http://stud.usv.ro/TTI/CURS/
5. Entropia surselor cu memorie ergodice
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
10http://stud.usv.ro/TTI/CURS/
5. Entropia surselor cu memorie ergodice
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
11http://stud.usv.ro/TTI/CURS/
CANALE DISCRETE DE TRASMISIUNI
Din punct de vedere informațional un canal discret de transmisiuni este caracterizat de următoarele mărimi informaționale:
Entropia intrare - ieșire, H(X,Y)
Entropiile condiționate, H(X | Y),
Transinformația, I(X;Y),
Capacitatea canalului, C
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
12http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
13http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
Definiție: canalul discret de transmisiuni se numește discret dacă cele două mulțimi sunt finite
Definiție: un canal discret se numește fără memorie, dacă recepționarea unui simbol nu depinde de unul sau mai multe simboluri recepționate anterior
Definiție: un canal discret se numește staționar dacă zgomotele sau perturbațiile care apar pe canal sunt invariante în timp
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
14http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
15http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
16http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
17http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
18http://stud.usv.ro/TTI/CURS/
Model matematic de canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
19http://stud.usv.ro/TTI/CURS/
Entropia intrare-ieşire a unui canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
20http://stud.usv.ro/TTI/CURS/
Entropia intrare-ieşire a unui canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
21http://stud.usv.ro/TTI/CURS/
Entropia intrare-ieşire a unui canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
22http://stud.usv.ro/TTI/CURS/
Entropia intrare-ieşire a unui canal discret de transmisiuni
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
23http://stud.usv.ro/TTI/CURS/
Entropii condiţionate
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
24http://stud.usv.ro/TTI/CURS/
Entropii condiţionate
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
25http://stud.usv.ro/TTI/CURS/
Entropii condiţionate
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
26http://stud.usv.ro/TTI/CURS/
Entropii condiţionate
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
27http://stud.usv.ro/TTI/CURS/
TransinformaţiaTransinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
28http://stud.usv.ro/TTI/CURS/
TransinformaţiaTransinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
29http://stud.usv.ro/TTI/CURS/
TransinformaţiaTransinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
30http://stud.usv.ro/TTI/CURS/
TransinformaţiaTransinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni.
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
31http://stud.usv.ro/TTI/CURS/
Principalele relaţii între mărimile informaţionale
TEORIA TRANSMITERII INFORMAŢIEI CURS 2
12.10.2012
32http://stud.usv.ro/TTI/CURS/
Principalele relaţii între mărimile informaţionale
