This document is one of More SageMath Tutorials. You may edit it on github. \(\def\NN{\mathbb{N}}\) \(\def\ZZ{\mathbb{Z}}\) \(\def\QQ{\mathbb{Q}}\) \(\def\RR{\mathbb{R}}\) \(\def\CC{\mathbb{C}}\)
Option Algèbre et Calcul Formel de l’Agrégation de Mathématiques: Codes correcteurs¶
Référence: Wikipedia: Codes correcteurs
Introduction¶
Objectif du codage¶
Un expéditeur \(A\) transmet un message \(m\) à \(B\) sur un canal bruité.
Problématique
- Comment \(B\) peut-il détecter l’existence d’erreurs de transmission
- Comment \(B\) peut-il corriger des erreurs éventuelles
Note
Contrairement à la cryptographie, la problématique n’est pas de se protéger d’un tiers malicieux, mais d’un bruit aléatoire.
Exemples d’applications¶
- NASA/CNES/…: communication avec des sondes et satellites
- CD / DVD
- Transfert de données par Internet (TCP, CRC, MD5 checksum)
- Téléphones portables
Quelles sont les contraintes spécifiques à chacune de ces applications?
Premiers exemples de codes¶
Langages humains!¶
Syntaxe: orthographe, grammaire
Anglais: \(500000\) mots de longueur moyenne \(10\) sur en gros \(26^{10}\), soit une proportion de \(10^{-9}\).
Exemple: pomme, abrucot, poime (pomme, poire, prime, poème)
Sémantique: sens, contexte, …
Codage de parité sur 7 bits¶
Premiers concepts¶
Définitions
Un code \(C\) est un sous-ensemble de mots dans \(M:=A^{n}\), où
- \(A\) est un alphabet, comme \(A:=\mathbb{Z}/q\mathbb{Z}\). Typiquement \(q=2\) (codes binaires).
- \(n\) est un entier, la dimension du code
Codage: on transforme le message envoyé \(m\) en un mot \(c\) du code.
Transmission: en passant à travers le canal, \(c\) devient \(c'\).
Détection d’erreur: on essaye de déterminer si \(c=c'\).
Correction d’erreur: on essaye de retrouver \(c\) à partir de \(c'\).
Décodage: on retrouve le message \(m\) à partir de \(c\).
Todo
Illustration sur un exemple en utilisant les codes de Sage
Définition
Distance de Hamming entre deux mots: nombre de lettres qui diffèrent.
Stratégie:
- Détection d’erreur: est-ce que \(c'\) est dans \(C\)?
- Correction d’erreur par distance minimale: on renvoie le mot de \(C\) le plus proche de \(c'\).
Exercice: Est-ce raisonnable?
On suppose que lors de la transmission chaque lettre a une probabilité \(p\) d’être corrompue, indépendemment des autres.
Calculer la probabilité qu’un mot de longueur \(n\) arrive intact? Avec moins d’une erreur? Avec moins de deux erreurs?
Application numérique:
sage: n = 7; p = 0.1
sage: (1-p)^(n-1)
0.478296900000000
sage: (1-p)^n + n*p*(1-p)^(n-1)
0.850305600000000
sage: (1-p)^n + n*p*(1-p)^(n-1) + binomial(n,2) * p^2*(1-p)^(n-2)
0.974308500000000
sage: n = 7; p = 0.01
sage: (1-p)^(n-1)
0.932065347906990
sage: (1-p)^n + n*p*(1-p)^(n-1)
0.997968958365060
sage: (1-p)^n + n*p*(1-p)^(n-1) + binomial(n,2) * p^2*(1-p)^(n-2)
0.999966037469850
Définitions
- Capacité de détection: \(D(c)\) nombre maximal d’erreurs que l’on est sûr de détecter
- Capacité de correction: \(e(C)\) nombre maximal d’erreurs que l’on est sûr de corriger
- Distance \(d(C)\) du code: distance minimale entre deux points distincts du code
Pour formuler cela formellement, il est pratique d’introduire la notion de boule naturellement associée à une métrique; étant donné \(x\in M\), et un entier \(k\geq 0\), la boule de centre \(x\) et de rayon \(k\) est:
Alors:
Cas dégénérés: lorsque \(|C|\leq 1\), on prendra par convention \(d(C)=+\infty\). Cela peut paraître plus naturel en prenant la définition alternative:
Exercice: En petite dimension:
- Trouver tous les codes de \((\mathbb{Z}/2\mathbb{Z})^{n}\) pour \(n=1\), \(n=2\), \(n=0\).
- Pour chacun d’entre eux,, donner la distance \(D(C)\), la capacité de détection \(D(C)\), la capacité de correction \(e(C)\). Dessiner les boules de centres dans \(C\) et de rayon \(e(C)\).
- Permettent-t’ils de corriger une erreur?
- Donner un code de \((\mathbb{Z}/2\mathbb{Z})^{3}\) permettant de corriger une erreur.
- Peut-on faire mieux?
Proposition
Capacité de détection: \(D(C) = d(C) - 1\).
Capacité de correction: \(e(C) = \llcorner\frac{d(C)-1}2\lrcorner\).
Borne de Hamming, codes parfaits¶
Problème: Kepler discret
On se fixe un alphabet \(A\) avec \(q=|A|\), une longueur \(n\) et une capacité de correction \(e\). Combien de mot peut on coder au maximum?
De manière équivalente: combien de boules non intersectantes de rayon \(e\) peut-on faire rentrer dans \(M\)?
Exemples: visualisation des boules de rayon \(e\) autour de quelques codes binaires
Chargement de quelques fonctions, et configuration des plots 3D:
sage: %run "media/codes_correcteurs.py"
sage: from sage.plot.plot3d.base import SHOW_DEFAULTS
sage: SHOW_DEFAULTS['frame'] = False
sage: SHOW_DEFAULTS['aspect_ratio'] = [1,1,1]
sage: SHOW_DEFAULTS['viewer'] = 'threejs'
Les boules dans \(\ZZ/q\ZZ^3\):
sage: @interact
....: def _(r=slider(0,3,1), q=slider(2,7,1)):
....: K = IntegerModRing(q)
....: V = K^3
....: return dessin_boules([V.zero()], r)
Le code de triple répétition sur \(\ZZ/2\ZZ\):
sage: K = GF(2)
....: V = K^3
....: C = V.subspace([[1,1,1]])
....: dessin_boules(C,1)
et sur \(\ZZ/3\ZZ\):
sage: K = GF(3)
sage: V = K^3
sage: C = V.subspace([[1,1,1]])
sage: dessin_boules(C,1)
Le code de Hamming:
sage: V = K^7
....: C = codes.HammingCode(GF(2),3)
....: dessin_boules(C, 1, projection=projection_7_3)
Todo
- The above example does not work with thebelab because the file is not available for %run; how to fix that?
- Generalize projection_7_3 to projection(n, 3), and make it the default value
Exercice: Borne de Hamming sur \(|C|\).
Soit \(A=\ZZ/q\ZZ\).
- Taille de la boule \(B(x,e):=\{y,\quad d(x,y)\leq e\}\) de \(A^n\) de centre \(x\) et de rayon \(e\)? Indication: commencer par \(q=2\) et \(x=0\cdots0\).
- Taille de \(A^n\)?
- Conclusion?
Solution
Application numérique: \(n=6,q=2,d=3\): \(|C|\leq?\).
Todo
faire un interact pour l’application numérique
Définition: code parfait
Un code \(C\) est parfait si \(|C| |B(x,e(C))| = |A^n|\), i.e.
Exemples
Dans tous les exemples vus jusqu’ici, les seuls codes parfaits sont les codes triviaux, le code de triple répétition sur un alphabet à deux lettres et le code de Hamming.
Problème
Algorithmes de codage? de décodage?
Codes linéaires¶
Principe: on rajoute de la structure pour rendre les algorithmes plus efficaces.
Définition
Un code linéaire est un sous-espace vectoriel de \(A^n\), où \(A\) est un corps fini.
Commençons par un petit échauffement.
Exercice: algèbre linéaire sur \(\mathbb{Z}/2\mathbb{Z}\), à la main
Soit \(H\) la matrice:
sage: A = GF(2); A
Finite Field of size 2
sage: H = matrix(A, [[0,1,1,1, 1,0,0],
....: [1,0,1,1, 0,1,0],
....: [1,1,0,1, 0,0,1]]); H
- Calculer le noyau de \(H\).
- Est-ce que les vecteurs \((1,1,0,0,1,1,0)\) et \((1,0,1,1,1,0,1)\) sont dans le sous-espace vectoriel engendré par les lignes de \(H\)?
- Conclusion?
Exemple: bit de parité
Sept bits plus un huitième bit dit de parité tel que le nombre total de bit à \(1\) est pair.
Exemple: code de Hamming \(H(7,4)\).
Quatre bits \(\left(a_{1},a_{2},a_{3},a_{4}\right)\) plus trois bits de redondance \(\left(a_{5},a_{6},a_{7}\right)\) définis par:
Comment tester si un mot appartient au code?
Avec Sage:
sage: A = GF(2); A
Finite Field of size 2
sage: n = 7
sage: V = A^7; V
Vector space of dimension 7 over Finite Field of size 2
Matrice de contrôle:
sage: H = matrix(A, [[0,1,1,1, 1,0,0],
....: [1,0,1,1, 0,1,0],
....: [1,1,0,1, 0,0,1]])
Test d’appartenance au code:
sage: mot_du_code = V([1,0,1,1,0,1,0]);
sage: H * mot_du_code
(0, 0, 0)
sage: mot_quelconque = V([1,1,0,1,0,1,1]);
sage: H * mot_quelconque
(0, 1, 0)
Refaites le à la main!
Le code lui-même est le noyau de \(H\):
sage: C = H.right_kernel()
Vector space of degree 7 and dimension 4 over Finite Field of size 2
Basis matrix:
[1 0 0 0 0 1 1]
[0 1 0 0 1 0 1]
[0 0 1 0 1 1 0]
[0 0 0 1 1 1 1]
sage: mot_du_code in C
True
sage: mot_quelconque in C
False
Refaites le à la main!
Est-ce que l’on pourrait trouver \(C\) encore plus rapidement?
Oui:
sage: MatrixSpace(A,4,4)(1).augment(H[:,0:4].transpose())
[1 0 0 0 0 1 1]
[0 1 0 0 1 0 1]
[0 0 1 0 1 1 0]
[0 0 0 1 1 1 1]
Combien y-a-t’il de mots dans le code de Hamming \(H(7,4)\)?
Calculer la distance de ce code (indice: se ramener en zéro!)
Quelle est sa capacité de détection? de correction? Est-il parfait?
Solution:
sage: sage: C.cardinality()
16
sage: def poids(c): return len([i for i in c if i])
sage: poids(V([0,1,0,0,0,0,0]))
1
sage: poids(V([1,0,1,1,0,1,0]))
4
sage: min(poids(m) for m in C if m)
3
Comment coder un mot?
Matrice génératrice:
sage: G = C.matrix(); G
[1 0 0 0 0 1 1]
[0 1 0 0 1 0 1]
[0 0 1 0 1 1 0]
[0 0 0 1 1 1 1]
sage: M = A^4
sage: m = M([1,0,1,0])
sage: c = m * G; c
(1, 0, 1, 0, 1, 0, 1)
Décodage par syndrome¶
Exercice
- Partir du mot zéro, le coder, et faire alternativement une erreur sur chacun des bits. Noter le résultat après multiplication par la matrice de contrôle.
- Prendre un mot à 4 bits de votre choix, le coder, faire une erreur sur un des 7 bits, corriger et décoder. Vérifier le résultat.
- Que se passe-t’il s’il y a deux erreurs?
Codes cycliques¶
Principe: encore plus de structure pour être encore plus efficace.
Définition
Un code \(C\) est cyclique s’il est stable par rotation des mots:
Les praticiens ont noté que les codes cycliques avaient de bonnes propriétés.
Donnons une structure d’anneau quotient à \(A^n\) en l’identifiant avec \(A[X]/(X^n-1)\).
Sous cette identification, les mots ci-dessus correspondent à
\[1 + X^2 + X^5, X+X^3+X^6, 1+X^2+X^4\]
Remarque
Dans \(A[X]/(X^n-1)\), décalage = multiplication par \(X\).
Par exemple, pour \(A[X]/(X^7-1)\):
Codes cycliques \(\longleftrightarrow\) idéaux dans \(A[X]/(X^n-1)\).
Soit \(g\) un diviseur de \(X^n-1\), et \(h\) tel que \(gh=X^n-1\).
- Code: idéal engendré par \(g\)
- Codage: \(m\mapsto mg\)
- Détection d’erreur: \(c*h=0\)
- Décodage: division par \(g\) modulo \(X^n-1\) (par ex. par Euclide étendu)
Codes BCH
On peut construire des codes cycliques de capacité de correction déterminée à l’avance. Pour en savoir plus, voir Wikipedia, Codes BCH.
Codage par interpolation (Reed-Solomon)¶
Exercice (secret partagé)
Un vieux pirate est sur son lit de mort. Dans sa jeunesse il a enfoui un Fabuleux Trésor dans la lagune de l’Ile de la Tortue, quelque part à l’est du Grand Cocotier. Il a réuni ses dix lieutenants préférés pour leur transmettre l’information secrète indispensable: la distance entre le Grand Cocotier et le Trésor. Connaissant bien ses lieutenants, et dans un étonnant dernier sursaut de justice, il ne voudrait pas qu’une conjuration de quelques uns d’entre eux assassine les autres pour empocher seuls le trésor. En tenant cependant compte de la mortalité habituelle du milieu, il souhaite donner une information secrète à chacun de ses lieutenants pour que huit quelconques d’entre eux puissent retrouver ensemble le trésor, mais pas moins. Comment peut-il s’y prendre?
Application au codage: CIRC
Todo
Faire la figure
Découpage de l’information en blocs, interprétés comme des polynômes \(P_1,\dots,P_k\) dans \(GF(q)[X]\).
Points d’évaluation \(x_1,\ldots,x_l\).
Premier étage: évaluation et entrelacement.
Deuxième étage: codage de chacun des \(l\) blocs avec un code permettant de détecter les erreurs.
TP: Codage et décodage¶
Exercice préliminaire
- Sage contient de nombreuses fonctionalités autour du codage. Un
point d’entrée est
codes?
ainsi que le tutoriel thématique Coding Theory in Sage. Y jeter un coup d’oeil.
Essayer l’exemple suivant et consulter la documentation de
@interact
:sagenb.notebook.interact.interact()
; voir aussi la documentation de jupyter:sage: @interact ....: def f(x=slider(1,10,1)): ....: return x^2
Choisir à la carte parmi les exercices suivants.
Exercice: illustrer un cours sur le codage
Mettre au point une illustration sur ordinateur d’un point d’un cours sur le codage. On pourra par exemple:
Illustrer visuellement les liens entre distance, capacité de correction et de détection, ainsi que les notions de distance de Hamming, boules, …
Déterminer en quelles (petites) dimensions on peut espérer l’existence de codes parfaits non triviaux?
Indications:
- implanter une fonction pour calculer la borne de Hamming
- utiliser
@interact
pour explorer rapidement les valeurs qu’elle prend en fonction de \(q\), \(n\), \(e\).
Déterminer empiriquement quels paramètres de code (dimension, distance, …) seraient souhaitables pour différentes applications (par ex. transmission satellite depuis Voyager). On pourra par exemple calculer, en fonction de la dimension, de la capacité de correction, et du taux d’erreur, la probabilité qu’un message erroné ne soit pas détecté ou pas corrigé. Puis jouer avec les paramètres jusqu’à trouver des paramètres potentiels plausibles.
Indication: comme ci-dessus
Simuler, avec les outils existant dans Sage une chaîne complète: codage, transmission, détection. Estimer empiriquement la probabilité qu’un message soit transmis incorrectement et non détecté. Comparer avec la théorie.
Implanter toute la chaîne: codage, transmission, détection, correction, décodage.
Implanter des fonctions de calcul de distance et test de perfection.
Pour ces derniers points, on pourra considérer des codes:
- décrits par une liste exhaustive de mots
- linéaires
- cycliques (voir ci-dessous)
- par interpolation
- code à deux étages avec entrelacement, comme le code CIRC utilisé dans les CDs.
Exercice: codes cycliques
On oubliera ici que les codes cycliques sont naturellement représentés par des idéaux dans \(A[X] / X^n-1\), et on ne fera que de l’algèbre linéaire.
Soit \(E\) un espace vectoriel sur un corps fini; typiquement:
sage: F2 = GF(2)
sage: E = F2^7; E
Vector space of dimension 7 over Finite Field of size 2
On considère l’opération cycle(v)
qui prend un vecteur et
décale ses coordonnées d’un cran vers la droite (modulo \(n\)). On
rappelle qu’un code cyclique est un sous-espace vectoriel de \(E\)
qui est stable par l’opération cycle
.
- Implanter l’opération
cycle
. - Implanter une fonction
code_cyclique(v)
qui renvoie une base du plus petit code cyclique \(C\) contenant \(v\). - Implanter une fonction qui renvoie la matrice de contrôle du code \(C\), c’est à dire une matrice \(M\) telle que \(Mv=0\) si et seulement si \(v\) est dans \(C\).
- Implanter le décodage par syndrome pour le code cyclique engendré par \(v\).
Exercice: Le tour de magie
Implanter le tour de prestidigitation du texte Codes Correcteurs d’Erreurs, Agreg 2005.
Un petit exemple d’utilisation des composants visuels interactifs de Sage:
sage: @interact
sage: def magie(step=slider([1..5])):
....: return matrix(4,4,[i for i in srange(0,32) if i.digits(base=2,padto=6)[5-step]])