‫جامعة هواري بومدين للعلوم و التكنولوجية‬

Université des Sciences et de la Technologie Houari Boumédiene

‫لكية الهندسة الكهرابئية‬
Faculté de Génie Electrique

Département de Télécommunications

Licence Télécommunications

Matière

Théorie de l’Information et Codage

Série d'exercices

Chapitre 2

Codage de source

Sections de troisième année A et B : 2021/2022

Page 1 sur 6
Exercice 2.1
Une entreprise de distribution de café souhaite superviser à distance l’état de l’eau
de la machine pour intervenir en cas de panne. Pour cela, trois états sont définis :
Chaud, Tiède et Froid associés aux probabilités : 0.7, 0.2 et 0.1. Les états de l’eau
sont codés respectivement en utilisant le code { }.
1. Calculer l’entropie de la source.
2. Calculer le taux de redondance de la source. Est-il nécessaire de la compresser ?
3. Quels sont les propriétés de ce code ?
4. Calculer la longueur moyenne du code et comparer à l’entropie ?
5. Est-il possible de décoder la séquence 0001000000110000100 ? Justifier votre
réponse ?

Exercice 2.2
On souhaite développer un système de surveillance à distance de l’activité d’un
individu vivant seul à la maison. Pour cela, une caméra scrute en permanence
l’individu pour transmettre l’un des 5 états : Assis, Debout, Marche, Allongé, Plié.
Les probabilités et les codes associés à chaque activité sont reportés dans le
suivant :

Activité Assis Debout Marche Allongé Plié

Index de l’activité 1 2 3 4 5
Probabilité 0.125 0.25 0.025 0.5 0.1
Code 01 111 110 10 00

1. Calculer l’entropie de la source ? Est-elle redondante ?

2. Quels sont les propriétés de ce code ?
3. Coder le message 5312241.
4. Décoder la séquence : 111110100111011110.
5. Donner la longueur moyenne du code. En déduire le taux de redondance de la
source codée. Que peut-on dire ?

Exercice 2.3
On souhaite étudier deux codes différents pour la surveillance à distance d’une
machine de fabrication de plastique. La machine délivre quatre états de
fonctionnement : Normal, Défaut 1, Défaut 2 et Défaut 3. L’objectif de cette étude
est d’évaluer les performances de chaque code. Pour cela, on considère les deux
codes suivants :

 Code 1 :
 Code 2 :
Page 2 sur 6
1. Dans le cas où le code est ambigu, donner une séquence de décodage ambigu.
2. Dans le cas où le code est sans préfixe et non ambigu, dessiner l’arbre de
codage correspondant.

Exercice 2.4
On considère les codes suivants associés aux symboles d'un alphabet :

2 3 3 2 3 4 2 3 2 2

1. Quelle est la taille minimale de l’alphabet pour rendre le code sans préfixe en
gardant les mêmes longueurs ?
2. Pour une taille minimale de l’alphabet de codage, dessiner un arbre de codage
possible.

Exercice 2.5
On souhaite coder les états émotionnels pour une identification automatique par
smartphone. Pour cela, dix états sont définis avec leur index : Tranquillité (1), Joie
(2), Colère (3), Coupure (4), Tristesse (5), Surprise (6), Peur (7), Dégoût (8), Terreur
(9) et Fureur (8). La fréquence d’apparition de chaque état émotionnel est reportée
dans le tableau suivant :

Etat 1 2 3 4 5 6 7 8 9 10
Fréquence 172 160 148 130 120 100 86 28 38 18

1. Calculer l’entropie de la source. Est-il nécessaire de la compresser ?

2. Calculer la longueur du code pour chaque état en utilisant l’information propre ?
En déduire la longueur moyenne ?
3. En déduire l’existence d’un code instantané (sans préfixe) ? Proposer alors dans
ce cas un code instantané ?
4. Déterminer le code en utilisant la méthode Shannon-Fano.
5. Déterminer le code en utilisant la méthode de Huffman.
6. Comparer les taux de redondance avant et après codage. Que peut-on dire de
cette étude ?
7. Quel est le codage le plus efficace ? Justifier votre réponse.

Exercice 2.6
On souhaite concevoir un système de codage pour identifier la qualité de l’eau dans
un barrage. La qualité de l’eau est classée selon une grille de 8 échelles allant de A

Page 3 sur 6
(Eau excellente) jusqu’à H (Eau extrêmement polluée). Les probabilités associées à
chaque qualité de l’eau sont reportées dans le tableau suivant :

Qualité A B C D E F G H
Probabilité 1/4 1/8 1/8 1/16 1/16 1/16 5/32 5/32

1. Calculer l’entropie de la source. Est-elle redondante ?

2. Donner le code binaire sans préfixe avec une longueur de mots de code à 3 bits.
En déduire l’arbre de codage. Est-il complet ?
3. Calculer la longueur du code pour chaque état en utilisant l’information propre ?
En déduire la longueur moyenne ?
4. En déduire l’existence d’un code instantané (sans préfixe) ? Proposer alors dans
ce cas un code instantané ?
5. Déterminer le code en utilisant la méthode Shannon-Fano. En déduire la
longueur moyenne.
6. Déterminer le code en utilisant la méthode de Huffman. En déduire la longueur
moyenne.
7. Comparer les codes. Quel est le code le plus efficace ?
8. Refaire les questions 4 à 8 en utilisant un code ternaire.
9. Que peut-on dire de cette étude ?

Exercice 2.7
On considère une image représentée par une matrice de 88 pixels dont chaque pixel
prend une valeur comprise dans l'intervalle [0,255] où 0 correspond au noir et 255
au blanc. Les valeurs intermédiaires définissent les niveaux de gris. La matrice
image est représentée par les valeurs suivantes :

44 170 95 210 44 128 95 128

95 128 44 95 128 95 95 44

95 95 210 95 95 44 128 95

44 170 44 170 95 44 210 95

95 95 128 44 95 95 170 44

95 44 170 95 128 44 95 128

95 128 95 210 0 95 0 0

44 170 44 95 0 44 128 44

1. Calculer l’entropie. Est-il nécessaire de compresser cette image ? Justifier votre

réponse.
Page 4 sur 6
2. Effectuer un codage binaire de Shannon et calculer son efficacité. Donner dans
ce cas la taille du fichier image. Que peut-on dire ?
3. Effectuer un codage binaire de Shannon-Fano et calculer son efficacité. Donner
dans ce cas la taille du fichier image. Que peut-on conclure ?
4. Comparer les deux méthodes de codage en utilisant le paramètre efficacité.
5. Donner la probabilité d’avoir un 0 ou 1 à la sortie du codeur Shannon-Fano.
Calculer l’entropie à la sortie du codeur.

Exercice 2.8
On souhaite coder les états du cœur d’un patient sur une échelle de 1 (Très bon) à 6
(Très faible). Les probabilités associées à chaque état sont reportées dans le tableau
suivant :

Etat 1 2 3 4 5 6
Probabilité 0.17 0.15 0.16 0.22 0.18 0.12

1. Calculer l’entropie.
2. Proposer un code de Huffman binaire pour cette source. Donner la longueur
moyenne de ce code.
3. Coder la séquence « 6441 ».
4. Proposer un autre codage ternaire de Huffman et donner le code de « 6441 ».

Exercice 2.9
On souhaite mesurer la température d’une serre et la transmettre par onde radio en
utilisant XBee et récupérer le résultat sur carte Raspberry. Pour cela, on considère 5
états de température du maximum (Niveau 5) au minimum (Niveau 1) avec les
probabilités { }.

1. Coder la source par l’algorithme de Shannon-Fano.

2. Calculer la longueur moyenne de ce code et comparer son efficacité à celle d’un
codage binaire simple.

Exercice 2.10
On souhaite concevoir un système de codage pour identifier la qualité du sol d’une
surface agricole. La qualité du sol est mesurée sur une échelle allant de A (Sol
excellent) jusqu’à H (Sol extrêmement pollué). Les probabilités associées à chaque
qualité du sol sont reportées dans le tableau suivant :

Qualité A B C D E F G H I J K

Probabilité 0.22 0.15 0.12 0.11 0.1 0.08 0.07 0.06 0.04 0.03 0.02

1. Donner le code binaire de la source par l’algorithme de Shannon-Fano.

Page 5 sur 6
2. Donner un codage binaire par la méthode de Huffman et décoder la séquence
« 001110101110101100 ».
3. Comparer les deux codes en fonction de la longueur moyenne du code, le taux
de redondance et l’efficacité.

Page 6 sur 6