Composante
ENSEIRB-MATMECA
Code interne
ET6TS115
Description
Ce cours fournit les principes fondamentaux permettant de comprendre les notions de quantification de l'information et de fiabilité des informations à communiquer. A partir de la définition de l'entropie, la redondance d'une source et sa pertinence à travers le théorème de codage de source sont définies. Nous concluons ce cours avec l'étude du théorème de codage dans le cas de la transmission à travers un canal bruité.
Pré-requis obligatoires
MA105 : Probabilités TS108 : Processus aléatoires
Syllabus
* ESTIMATION QUANTITATIVE DE L'INFORMATION
- Etude des sources: Entropie,entropie mutuelle et conditionnée,
- Information mutuelle
- Divergence de Kullback-Leibler
- Cas des sources ergodiques et markoviennes
* CODAGE ENTROPIQUE
- Redondance des symboles et des messages
- Longueur moyenne d'un code, longueur optimale
- Code de Huffman
- Sources étendues
Informations complémentaires
Traitement du signal et de l'image
Bibliographie
Polycopiés de cours et de TD
Modalités de contrôle des connaissances
Évaluation initiale / Session principale - Épreuves
Type d'évaluation | Nature de l'épreuve | Durée (en minutes) | Nombre d'épreuves | Coefficient de l'épreuve | Note éliminatoire de l'épreuve | Remarques |
---|---|---|---|---|---|---|
Epreuve Terminale | Ecrit | 60 | 1 | sans document calculatrice autorisée |