Aucun titre de diapositive

1
Théorie de linformation Hugues BENOIT-CATTIN
2
Plan

• 1. Introduction .. D3-7
• 2. Sources discrètes Entropie . D8-16
• 3. Canaux discrets Capacité .. D17-21
• 4. Codage de source . D23-39
• 5. Codage de canal . D41-73
• 6. Cryptographie . D75-D112
• 7. Conclusion .. D113

3
1. Introduction
Vue densemble dun système de communication indép
endante des moyens techniques physiques
4
(No Transcript)
5

• Paradigme de Shannon modèle sys. com.

6

• Modèle détaillé

7
(No Transcript)
8
2. Sources discrètes Entropie
Sources débitant des messages sous forme discrète
!
9
(No Transcript)
10
(No Transcript)
11
Quantité d'information Entropie

• Quantité d'information propre

12
(No Transcript)
13

• Entropie

14

• Ex Source binaire

15

• Propriétés de l entropie

• Redondance

16

• Entropie Débit d information

• Source Qaire

17
3. Canaux discrets Capacité
18

• Probabilités marginales

19

• Entropie réunie ou conjointe

• Canaux très perturbés

• Canaux non perturbés

20
Transinformation capacité

• Information mutuelle

• Transinformation

21

• Capacité dun canal

• Redondance dun canal

• Efficacité dun canal