Théorie de l'information et codage
Ref: 3SQ2170
Description
L’objectif de ce cours est d’éclairer les fondements d’une chaine de transmission et de codage de l’information. Après avoir considéré les différents éléments constitutifs d’une chaine de communication numérique, et leurs fonctions, le cours porte sur la théorie de l’information et des principes de codage de source (compression de l’information) et codage canal (protection de l’information)
Période(s) du cours
SM10
Prérequis
Les apprenants doivent être familiarisés avec les concepts de base des probabilités, signaux aléatoires et algèbre linéaire.
Syllabus
• Modèle d’une chaine de communication numérique
• Théorie de l'information (entropie d’une source, capacité d’un canal)
• Codage de source (propriétés des codes, codes déchiffrables, codes instantanés, inégalité de Kraft-McMillan, code de Huffman, performances)
• Codage canal et codes en blocs (stratégies FEC et ARQ, propriété des codes, codes en bloc, codes linéaires binaires, matrices génératrice et de contrôle, décodage algébrique, codes de Hamming, codes raccourcis et étendus, performances)
• Théorie de l'information (entropie d’une source, capacité d’un canal)
• Codage de source (propriétés des codes, codes déchiffrables, codes instantanés, inégalité de Kraft-McMillan, code de Huffman, performances)
• Codage canal et codes en blocs (stratégies FEC et ARQ, propriété des codes, codes en bloc, codes linéaires binaires, matrices génératrice et de contrôle, décodage algébrique, codes de Hamming, codes raccourcis et étendus, performances)
Composition du cours
L'enseignement comprend des cours magistraux, des séances de travaux dirigés, des séances d’expérimentation et de simulation, et un jeu video pédagogique
Ressources
Equipe pédagogique : Lionel Husson, Jacques Antoine
Résultats de l'apprentissage couverts par le cours
A l'issue de ce cours les apprenants seront capables :
• Comprendre et décrire les constituants d’une chaine de communication numérique et leurs fonctions
• Manipuler les mesures d’information, et les limites fondamentales pour la transmission de données
• Construire des codes simples avec des méthodes de codage de source et de canal dans diverses situations, en considérant les contraintes applicatives et évaluer leur performance
• Comprendre et décrire les constituants d’une chaine de communication numérique et leurs fonctions
• Manipuler les mesures d’information, et les limites fondamentales pour la transmission de données
• Construire des codes simples avec des méthodes de codage de source et de canal dans diverses situations, en considérant les contraintes applicatives et évaluer leur performance
Support de cours, bibliographie
J. G. Proakis, "Digital Communications", Fourth Edition, McGraw Hill, 2001.
D. Mac Kay, "Information Theory, Inference and Learning Algorithms", Cambridge University Press, 2005