Geometrie Riemannienne Espaces de Formes

Introduction à la Géométrie Riemannienne
par l’étude des Espaces de Formes
Jean Feydy
Polycopié co-écrit avec les élèves du groupe de lecture éponyme,

en première année au département de mathématiques de l’ENS Ulm :
Basile Coron Arnaud Eteve

Paul Fraux Vadim Lebovici
Robin Lemaire Yohan Mandin-Huble
Nicolas Masson Pascal Millet
Manolis Perrot Eva Philippe
Arthur Touati
2016–2017
Lino Benedetto Raphaël Barboni

Valentin Carlier Louis-Pierre Chaintron
Léo Hahn Lecler Massil Hihat
Emmanuel Kammerer Antoine Le Calvez
Grégoire Macqueron Luc Pointurier
Lucas Rey Maxime Sylvestre
Ivan Yakovlev
2018–2019
2
Résumé
Qu’est-ce qu’une forme ? Comment écrire mathématiquement qu’une baleine ressemble plus
à un merlu qu’à un labrador (quoique...) ? Pour répondre à ces questions, qui sont aujourd’hui
d’un intérêt crucial en vision par ordinateur et en imagerie médicale, une idée féconde consiste
à munir des espaces quotients de courbes ou de surfaces d’une structure métrique convenable,
où deux objets “semblables” seraient proches. Comment y parvenir ? Et quelles seront alors les
propriétés des espaces construits ?
Dans un premier temps, on présentera les concepts élémentaires de géométrie riemannienne
dans un cadre simple : variétés, métriques, connections, géodésiques, distances induites et
courbures. On pourra alors appliquer ces notions à des exemples concrets : les possibilités
sont nombreuses ! Formules explicites et étude poussée dans les espaces de courbes du plan,
problématiques de contrôlabilité dans les espaces de formes “abstraits”, calculs effectifs sur
les nuages de points pour des applications en biologie et en anatomie humaine... Il s’agira de
découvrir un véritable écosystème de travaux, allant des considérations sur les actions par
transport de groupes de difféomorphismes aux outils diagnostiques de demain.
What is a shape ? How can we mathematically write that a dolphin looks much more similar
to a fish than to a dog (although...) ? To answer those questions, now of crucial interest in the
fields of computer vision and medical imaging, a seminal idea is to equip curves or surfaces
quotient spaces of a suitable metric structure : “similar” objects shall be close to each other. How
can we do so ? What would then be the properties of the constructed spaces ?
First, we will introduce the elementary tools of Riemannian geometry in a simple way : ma-
nifolds, metrics, connections, geodesics, induced distances and curvatures. Then, we shall apply
these notions to concrete situations : possibilities are countless ! Explicit formulas and extensive
studies in the spaces of plane curves, controlability problems in “abstract” shapes spaces, effec-
tive computations on points clouds with applications to biology and human anatomy... Walking
through a colourful collection of papers, we shall discover an active field of research, which links
diffeomorphomisms groups actions to the future of diagnosis.
3
4
Informations pratiques
Contact :
— Adresses mail : jean.feydy@ens.fr, jean.feydy@gmail.com (utilisez les deux).
— Bureau : sous les toits du DMA, les lundis et mercredis à coup sûr.
— Page web du cours : www.math.ens.fr/~feydy/Teaching/index.html.
Vous y trouverez la version la plus à jour du poly, mais aussi de petits carnets interactifs
en Matlab/Python qui vous permettront d’expérimenter et de voir nos algorithmes en
action.
Planning hebdomadaire :
— Samedi-Dimanche : comptez un bon week-end de travail...
— Lundi ou Mardi 16h30–17h30 : réunion pour faire le point dans mon bureau, avec un plan
détaillé, une ébauche de chapitre et des questions.
— Mardi soir : envoi d’une version finale du chapitre du polycopié à l’adresse
jean.feydy@gmail.com. Je me charge de l’impression.
— Mercredi après-midi, de 15h à 16h30 en salle R : exposé.
Échéances :
— 26 septembre : Séance d’introduction, Jean Feydy.
. Répartition des rôles pour la première session.
— 3 octobre : Séance 2, Emmanuel et Léo.
— 10 octobre : Séance 3, Massil et Ivan.
— 17 octobre : Séance 4, Luc et Lucas.
— 24 octobre : Séance 5, Raphaël et Antoine.
— 7 novembre : Séance 6, Lino et Valentin.
— 14 novembre : Séance 7, Maxime et Grégoire.
. Répartition des rôles pour la deuxième session.
— 21 novembre : Séance banalisée pour les partiels ?
— 28 novembre : Séance 8, et .
— 5 décembre : Séance 9, et .
— 12 décembre : Séance 10, et .
— 19 décembre : Séance 11, Louis-Pierre et .
— 9 janvier : Séance 12, et .
Table des matières
Bibliographie 9
1 Introduction 11 Séance 1
1.1 Géométries non-euclidiennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 Jean Feydy
1.2 Métriques locales sur un ouvert de Rn . . . . . . . . . . . . . . . . . . . . . . . . 13
1.3 La géométrie Riemannienne : l’exemple du tore . . . . . . . . . . . . . . . . . . . 17
1.4 Applications en vue : l’anatomie computationnelle . . . . . . . . . . . . . . . . . 18
1.5 Variétés : un petit guide de survie . . . . . . . . . . . . . . . . . . . . . . . . . . 22
I Éléments de Géométrie Riemannienne 25

2 Intuitions sur la courbure, Vocabulaire 27 Séance 2
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 [Lee97], Chap. 1-2
2.2 Intuitions sur la courbure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.3 Variétés . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 Arnaud Eteve,
Léo Hahn-Lecler,
2.4 Fibrés Vectoriels . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
Emmanuel
2.5 Tenseurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
Kammerer
2.6 Fibré Tensoriels, Champs de Tenseur . . . . . . . . . . . . . . . . . . . . . . . . . 34 Un peu énumératif
2.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
3 Métriques Riemanniennes 35 Séance 3

3.1 Métriques Riemanniennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 [Lee97], Chap. 3
3.2 Constructions élementaires associées à une métrique Riemannienne . . . . . . . . 40
3.3 Généralisation des métriques Riemanniennes . . . . . . . . . . . . . . . . . . . . . 41 Paul Fraux,
Manolis Perrot,
3.4 Les espaces canoniques de la géométrie Riemannienne . . . . . . . . . . . . . . . 42
Massil Hihat,
4 Connexions et courbes géodésiques 47 Ivan Yakovlev
Séance 4
Sans souci
4.1 Dériver des champs de vecteurs ? . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 [Lee97], Chap. 4
4.2 Connexions affines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
4.3 Dérivation d’un champ de vecteur sur une courbe paramétrée . . . . . . . . . . . 50 Basile Coron,
4.4 Géodésiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51 Yohan Mandin
-Huble, Lucas
4.5 Transport parallèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
Rey, Louis-
Pierre Chaintron
5 Géodésiques Riemanniennes 55 Technique
Séance 5
5.1 Connexion associée à une métrique Riemannienne . . . . . . . . . . . . . . . . . . 55 [Lee97], Chap. 5
5.2 Géodésiques et isométries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
5.3 Carte exponentielle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 Nicolas Masson,
Pascal Millet,
Raphaël Barboni,
5 Antoine Le Calvez
Équilibré
6 Table des matières
5.4 Voisinages normaux et coordonnées normales . . . . . . . . . . . . . . . . . . . . 62

5.5 Géodésiques des espaces classiques . . . . . . . . . . . . . . . . . . . . . . . . . . 64
Séance 6 6 Le plan hyperbolique 67

[CFK+ 97] 6.1 Cas unidimensionnel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
6.2 Cinq modèles en dimension 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
Vadim Lebovici,
6.3 Géodésiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
Robin Lemaire,
Valentin Carlier, 6.4 Propriétés diverses . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
Lino Benedetto 6.5 Le sixième modèle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
Très joli 6.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
Séance 7 7 Distances et géodésiques 83

[Lee97], Chap. 6 7.1 Longueur d’une courbe, distance et topologie induite . . . . . . . . . . . . . . . . 83
7.2 Courbes minimisantes et géodésiques . . . . . . . . . . . . . . . . . . . . . . . . . 85
Eva Philippe,
Arthur Touati,
7.3 Complétude : Le théorème de Hopf-Rinow . . . . . . . . . . . . . . . . . . . . . . 92
Grégoire Macqueron,
Maxime Sylvestre
Équilibré II Application à l’étude des Espaces de Formes 93
Séance 8 8 Un article fondateur : les triangles de Kendall 95
[Ken84] 8.1 Introduction et motivation à l’étude des triangles . . . . . . . . . . . . . . . . . . 95
Basile Coron, 8.2 Un espace de formes : la sphère des triangles . . . . . . . . . . . . . . . . . . . . 96
Paul Fraux,
Massil Hihat,
8.3 Généralisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
Lino Benedetto 8.4 Etude des formes du plan, Σk2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
Élémentaire 8.5 Statistiques sur la sphère . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113
et élégant
Séance 9 9 Étude statistique dans un espace de formes simple 117
[Ken84] 9.1 Généralisation de l’analyse de Kendall à des polygones quelconques . . . . . . . . 117
Grégoire Macqueron, 9.2 Statistiques sur la sphère algorithme d’ACP . . . . . . . . . . . . . . . . . . . . . 120
Maxime Sylvestre
Très visuel
9.3 Application sur les petits vers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
Séance 10 10 Travailler avec des données non-étiquetées 127

[CT13] 10.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
Valentin Carlier, 10.2 Distances sur un espace de formes . . . . . . . . . . . . . . . . . . . . . . . . . . 127
Louis-Pierre
Chaintron
10.3 Normes à noyau . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131
Retour aux 10.4 Application : recaler des formes . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
fondamentaux 10.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136
Séance 11 11 Géodésiques Riemanniennes, équations Hamiltoniennes 137

Antoine Le Calvez 11.1 Métrique riemanienne, distance de chemins . . . . . . . . . . . . . . . . . . . . . 137
Raphaël Barboni 11.2 Application numérique : un code de tir géodésique . . . . . . . . . . . . . . . . . 140
Deux résultats
remarquables
Séance 12 12 Cométriques à noyaux, méthode LDDMM 141
Emmanuel Kammerer 12.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
Léo Hahn-Lecler 12.2 Cométriques à noyaux : l’algorithme . . . . . . . . . . . . . . . . . . . . . . . . . 141
12.3 Comprendre les cométriques à noyaux . . . . . . . . . . . . . . . . . . . . . . . . 143
12.4 conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Table des matières 7
13 Méthodes à noyaux pour l’appariement de nuages de points 149 Bonus

13.1 Objectifs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 [Gla05]
13.2 Difféomorphismes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
13.3 Retour sur le problème d’appariement . . . . . . . . . . . . . . . . . . . . . . . . 153 Vadim Lebovici
13.4 Élargissement du modèle aux déformations rigides . . . . . . . . . . . . . . . . . 154 et Arthur Touati
Fondamental
13.5 Méthodes à noyaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
13.6 Équations Hamiltoniennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158
14 Appariement de courbes et surfaces polygonales 165 Bonus

14.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 [CT13]
14.2 Transport et appariement de mesures . . . . . . . . . . . . . . . . . . . . . . . . . 165
14.3 Courants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175 Arnaud Eteve et
14.4 Varifolds . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176 Yohan Mandin
-Huble
14.5 Retour au problème d’appariement . . . . . . . . . . . . . . . . . . . . . . . . . . 181
Aspects
14.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182 pratiques
15 Construction d’Atlas, étude statistique et aide au diagnostic 185 Bonus
15.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185 [CCT14]
15.2 Ajout d’un terme fonctionnel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185
15.3 Etude de population avec moyenne à estimer . . . . . . . . . . . . . . . . . . . . 190 Eva Philippe
15.4 Limitations et contraintes d’implémentation . . . . . . . . . . . . . . . . . . . . . 194 et Robin Lemaire
Applications
15.5 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196
réelles
III Critiques et perspectives 199

16 Conséquences pratiques du choix des métriques à noyaux 201 Séance 12
16.1 Introduction. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201 [MMM12]
16.2 Le modèle de déformation et son exploitation. . . . . . . . . . . . . . . . . . . . . 201
16.3 Un cas typique pour comprendre la dynamique des landmarks. . . . . . . . . . . 204 Manolis Perrot
16.4 Intuitions sur les géodésiques et comportements problématiques. . . . . . . . . . 206
16.5 Courbure positive et points conjugués. . . . . . . . . . . . . . . . . . . . . . . . . 207
16.6 Courbure négative et comportements chaotiques. . . . . . . . . . . . . . . . . . . 208
17 Remise en question du cadre d’étude riemannien 211 Séance 13

17.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 [LP13], [Ash07]
17.2 Éléments de théorie des groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . 211
17.3 La méthode SVF . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 Nicolas Masson
17.4 Récapitulatif des notions vues dans les théories Riemanniennes et Lie . . . . . . . 218
17.5 Comparaison expérimentale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
17.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
18 Autres utilisations de la géométrie Riemannienne en imagerie médicale 221 Séance 14

18.1 Synthèse sur la géométrie Riemannienne . . . . . . . . . . . . . . . . . . . . . . . 221 [Pen09]
18.2 Quelques méthodes vectorielles utilisées en analyse d’image et leurs analogues
Riemanniennes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225 Pascal Millet
18.3 Application de la géométrie Riemannienne à l’analyse d’images de tenseurs . . . 228
18.4 Pour aller plus loin : conclusion et perspectives . . . . . . . . . . . . . . . . . . . 234
8 Table des matières
Bibliographie
[Arg14] Sylvain Arguillere. Géométrie sous-riemannienne en dimension infinie et applications

à l’analyse mathématique des formes. PhD thesis, Université Pierre et Marie Curie-
Paris VI, 2014.
[Arn66] Vladimir Arnold. Sur la géométrie différentielle des groupes de lie de dimension infinie
et ses applications à l’hydrodynamique des fluides parfaits. In Annales de l’institut
Fourier, volume 16, pages 319–361, 1966.
[Ash07] John Ashburner. A fast diffeomorphic image registration algorithm. Neuroimage,
38(1) :95–113, 2007.
[BBM14] Martin Bauer, Martins Bruveris, and Peter W Michor. Overview of the geometries
of shape spaces and diffeomorphism groups. Journal of Mathematical Imaging and
Vision, 50(1-2) :60–97, 2014.
[CCT14] Benjamin Charlier, Nicolas Charon, and Alain Trouvé. The fshape framework for the
variability analysis of functional shapes. Foundations of Computational Mathematics,
pages 1–71, 2014.
[CFK+ 97] James W Cannon, William J Floyd, Richard Kenyon, Walter R Parry, et al. Hyper-
bolic geometry. Flavors of geometry, 31 :59–115, 1997.
[CT13] Nicolas Charon and Alain Trouvé. The varifold representation of nonoriented shapes
for diffeomorphic registration. SIAM Journal on Imaging Sciences, 6(4) :2547–2580,
2013.
[Gla05] Joan Glaunes. Transport par difféomorphismes de points, de mesures et de courants
pour la comparaison de formes et l’anatomie numérique. These de sciences, Université
Paris, 13, 2005.
[Jan12] Robert T Jantzen. Geodesics on the torus and other surfaces of revolution clarified
using undergraduate physics tricks with bonus : Nonrelativistic and relativistic kepler
problems. arXiv preprint arXiv :1212.6206, 2012.
[Ken84] David G Kendall. Shape manifolds, procrustean metrics, and complex projective
spaces. Bulletin of the London Mathematical Society, 16(2) :81–121, 1984.
[Lee97] John M Lee. Riemannian Manifolds : An Introduction to Curvature, volume 176.
Springer Science & Business Media, 1997.
[LGP+ 14] Herve Lombaert, Leo Grady, Xavier Pennec, Nicholas Ayache, and Farida Cheriet.
Spectral log-demons : diffeomorphic image registration with very large deformations.
International journal of computer vision, 107(3) :254–271, 2014.
[LP13] Marco Lorenzi and Xavier Pennec. Geodesics, parallel transport & one-parameter
subgroups for diffeomorphic image registration. International journal of computer
vision, 105(2) :111–127, 2013.
9
10 Bibliographie
[MM07] Peter W Michor and David Mumford. An overview of the riemannian metrics on
spaces of curves using the hamiltonian approach. Applied and Computational Har-
monic Analysis, 23(1) :74–113, 2007.
[MMM12] Mario Micheli, Peter W Michor, and David Mumford. Sectional curvature in terms
of the cometric, with applications to the riemannian manifolds of landmarks. SIAM
Journal on Imaging Sciences, 5(1) :394–433, 2012.
[MPS+ 11] Tommaso Mansi, Xavier Pennec, Maxime Sermesant, Hervé Delingette, and Nicholas
Ayache. ilogdemons : A demons-based registration algorithm for tracking incompres-
sible elastic biological tissues. International journal of computer vision, 92(1) :92–111,
2011.
[Pen09] Xavier Pennec. Statistical computing on manifolds : from riemannian geometry to
computational anatomy. In Emerging Trends in Visual Computing, pages 347–386.
Springer, 2009.
[T+ 42] Darcy Wentworth Thompson et al. On growth and form. On growth and form., 1942.
Chapitre 1
Introduction Séance 1
Jean Feydy
1.1 Géométries non-euclidiennes

Géométrie riemannienne... En sortant de prépa, on ne connaît bien souvent que “La” géomé-
trie, euclidienne, classique. Du cadre restreint des anciens, on s’est tout de même un petit peu
émancipé : étude de Rn muni du produit scalaire canonique – ou pas –, espaces L2 , espaces de
Hilbert. Sans, jamais, remettre en question les concepts géométriques sous-jacents : droite engen-
drée copie de la droite réelle et structure additive globale. Eh bien, plutôt qu’un long discours,
attaquons ensemble l’entame du chapitre III de La Science et l’Hypothèse, d’Henri Poincaré.
Les géométries non euclidiennes — Toute conclusion suppose

des prémisses ; ces prémisses elles-mêmes ou bien sont évidentes
par elles-mêmes et n’ont pas besoin de démonstration, ou bien
ne peuvent être établies qu’en s’appuyant sur d’autres propo-
sitions, et comme on ne saurait remonter ainsi à l’infini, toute
science déductive, et en particulier la géométrie, doit reposer sur
un certain nombre d’axiomes indémontrables. Tous les traités de
géométrie débutent donc par l’énoncé de ces axiomes. Mais il y
a entre eux une distinction à faire : quelques-uns, comme celui-
ci par exemple : « deux quantités égales à une même troisième
sont égales entre elles », ne sont pas des propositions de géomé-
trie, mais des propositions d’analyse. Je les regarde comme des
jugements analytiques a priori, je ne m’en occuperai pas.
Mais je dois insister sur d’autres axiomes qui sont spéciaux
à la géométrie. La plupart des traités en énoncent trois explici-
tement :
1◦ Par deux points ne peut passer qu’une droite ;
2◦ La ligne droite est le plus court chemin d’un point à un
autre.
3◦ Par un point on ne peut faire passer qu’une parallèle à
une droite donnée.
Bien que l’on se dispense généralement de démontrer le se-
cond de ces axiomes, il serait possible de le déduire des deux
autres et de ceux, beaucoup plus nombreux, que l’on admet im-
plicitement sans les énoncer, ainsi que je l’expliquerai plus loin.
11
Séance 1 12 Chapitre 1. Introduction
Jean Feydy
On a longtemps cherché en vain à démontrer également le

troisième axiome, connu sous le nom de postulatum d’Euclide.
Ce qu’on a dépensé d’efforts dans cet espoir chimérique est vrai-
ment inimaginable. Enfin au commencement du siècle et à peu
près en même temps, deux savants, un Russe et un Hongrois,
Lobatchevsky et Bolyai établirent d’une façon irréfutable que
cette démonstration est impossible ; ils nous ont à peu près dé-
barrassés des inventeurs de géométries sans postulatum ; depuis
lors l’Académie des Sciences ne reçoit plus guère qu’une ou deux
démonstrations nouvelles par an.
La question n’était pas épuisée ; elle ne tarda pas à faire un
grand pas par la publication du célèbre mémoire de Riemann in-
titulé : Ueber die Hypothesen welche der Geometrie zum Grunde
liegen. Cet opuscule a inspiré la plupart des travaux récents dont
je parlerai plus loin et parmi lesquels il convient de citer ceux de
Beltrami et de Helmholtz.
La Géométrie de Lobatchevsky. — S’il était possible de déduire

le postulatum d’Euclide des autres axiomes, il arriverait évi-
demment qu’en niant le postulatum, et en admettant les autres
axiomes, on serait conduit à des conséquences contradictoires ;
il serait donc impossible d’appuyer sur de telles prémisses une
géométrie cohérente.
Or c’est précisément ce qu’a fait Lobatchevsky. Il suppose au
début que :
L’on peut par un point mener plusieurs parallèles à une droite
donnée ;
Et il conserve d’ailleurs tous les autres axiomes d’Euclide. De
ces hypothèses, il déduit une suite de théorèmes entre lesquels il
est impossible de relever aucune contradiction et il construit une
géométrie dont l’impeccable logique ne le cède en rien à celle de
la géométrie euclidienne.
Les théorèmes sont, bien entendu, très différents de ceux aux-
quels nous sommes accoutumés et ils ne laissent pas de décon-
certer un peu d’abord.
Ainsi la somme des angles d’un triangle est toujours plus
petite que deux droits et la différence entre cette somme et deux
droits est proportionnelle à la surface du triangle.
Il est impossible de construire une figure semblable à une
figure donnée mais de dimensions différentes.
Si l’on divise une circonférence en n parties égales, et qu’on
mène des tangentes aux points de division, ces n tangentes for-
meront un polygone si le rayon de la circonférence est assez petit ;
mais si ce rayon est assez grand, elles ne se rencontreront pas.
Il est inutile de multiplier ces exemples ; les propositions de
Lobatchevsky n’ont plus aucun rapport avec celles d’Euclide,
mais elles ne sont pas moins logiquement reliées les unes aux
autres.
1.2. Métriques locales sur un ouvert de Rn 13
1.2 Métriques locales sur un ouvert de Rn

On l’a vu : d’autres géométries, d’autres jeux d’axiomes que celui retenu par Euclide sont
donc cohérents. Mais comment nous représenter ces mondes – on préférera dire : ces espaces
– aux règles inattendues ? Il suffit de pousser la lecture de La Science et l’Hypothèse jusqu’au
chapitre suivant :
Le monde non euclidien. — Si l’espace géométrique était un
cadre imposé à chacune de nos représentations, considérée in-
dividuellement, il serait impossible de se représenter une image
dépouillée de ce cadre, et nous ne pourrions rien changer à notre
géométrie.
Mais il n’en est pas ainsi, la géométrie n’est que le résumé
des lois suivant lesquelles se succèdent ces images. Rien n’em-
pêche alors d’imaginer une série de représentations, de tout point
semblables à nos représentations ordinaires, mais se succédant
d’après des lois différentes de celles auxquelles nous sommes ac-
coutumés.
On conçoit alors que des êtres dont l’éducation se ferait dans
un milieu où ces lois seraient ainsi bouleversées pourraient avoir
une géométrie très différente de la nôtre.
Supposons, par exemple, un monde renfermé dans une grande
sphère et soumis aux lois suivantes :
La température n’y est pas uniforme ; elle est maxima au
centre, et elle diminue à mesure qu’on s’en éloigne, pour se ré-
duire au zéro absolu quand on atteint la sphère où ce monde est
renfermé.
Je précise davantage la loi suivant laquelle varie cette tem-
pérature. Soit R le rayon de la sphère limite ; soit r la distance
du point considéré au centre de cette sphère. La température
absolue sera proportionnelle à R2 − r2 .
Je supposerai de plus que, dans ce monde, tous les corps
aient même coefficient de dilatation, de telle façon que la lon-
gueur d’une règle quelconque soit proportionnelle à sa tempéra-
ture absolue.
Je supposerai enfin qu’un objet transporté d’un point à un
autre, dont la température est différente, se met immédiatement
en équilibre calorifique avec son nouveau milieu.
Rien dans ces hypothèses n’est contradictoire ou inimagi-
nable.
Un objet mobile deviendra alors de plus en plus petit à me-
sure qu’on se rapprochera de la sphère limite.
Observons d’abord que, si ce monde est limité au point de vue
de notre géométrie habituelle, il paraîtra infini à ses habitants.
Quand ceux-ci, en effet, veulent se rapprocher de la sphère
limite, ils se refroidissent et deviennent de plus en plus petits.
Les pas qu’ils font sont donc aussi de plus en plus petits, de sorte
qu’ils ne peuvent jamais atteindre la sphère limite.
Si, pour nous, la géométrie n’est que l’étude des lois suivant
lesquelles se meuvent les solides invariables ; pour ces êtres ima-
Jean Feydy
ginaires, ce sera l’étude des lois suivant lesquelles se meuvent les

solides déformés par ces différences de température dont je viens
de parler.
Sans doute, dans notre monde, les solides naturels éprouvent
également des variations de forme et de volume dues à l’échauffe-
ment ou au refroidissement. Mais nous négligeons ces variations
en jetant les fondements de la géométrie ; car, outre qu’elles sont
très faibles, elles sont irrégulières et nous paraissent par consé-
quent accidentelles.
Dans ce monde hypothétique, il n’en serait plus de même, et
ces variations suivraient des lois régulières et très simples.
D’autre part, les diverses pièces solides dont se composerait le
corps de ses habitants, subiraient les mêmes variations de forme
et volume.
Je ferai encore une autre hypothèse ; je supposerai que la
lumière traverse des milieux diversement réfringents et de telle
sorte que l’indice de réfraction soit inversement proportionnel à
R2 − r2 . Il est aisé de voir que, dans ces conditions, les rayons
lumineux ne seraient pas rectilignes, mais circulaires.
Pour justifier ce qui précède, il me reste à montrer que cer-
tains changements survenus dans la position des objets extérieurs
peuvent être corrigés par des mouvements corrélatifs des êtres
sentants qui habitent ce monde imaginaire ; et cela de façon à
restaurer l’ensemble primitif des impressions subies par ces êtres
sentants.
Supposons en effet qu’un objet se déplace, en se déformant,
non comme un solide invariable, mais comme un solide éprou-
vant des dilatations inégales exactement conformes à la loi de
température que j’ai supposée plus haut. Qu’on me permette
pour abréger le langage, d’appeler un pareil mouvement dépla-
cement non euclidien.
Si un être sentant se trouve dans le voisinage, ses impressions
seront modifiées par le déplacement de l’objet, mais il pourra les
rétablir en se mouvant lui-même d’une manière convenable. Il
suffit que finalement l’ensemble de l’objet et de l’être sentant,
considéré comme formant un seul corps, ait éprouvé un de ces
déplacements particuliers que je viens d’appeler non euclidiens.
Cela est possible si l’on suppose que les membres de ces êtres se
dilatent d’après la même loi que les autres corps du monde qu’ils
habitent.
Bien qu’au point de vue de notre géométrie habituelle les
corps se soient déformés dans ce déplacement et que leurs di-
verses parties ne se retrouvent plus dans la même situation re-
lative, cependant nous allons voir que les impressions de l’être
sentant sont redevenues les mêmes.
En effet, si les distances mutuelles des diverses parties ont pu
varier, néanmoins les parties primitivement en contact sont reve-
nues en contact. Les impressions tactiles n’ont donc pas changé.
D’autre part, en tenant compte de l’hypothèse faite plus haut
1.2. Métriques locales sur un ouvert de Rn 15
Figure 1.1 – Le disque de Poincaré. Pour emprunter le plus court chemin, un habitant de ce
monde réduit aura toujours tendance à passer par le centre du disque, où la température élevée
lui permet de faire des pas de géant. La simplicité de la métrique permet d’expliciter les “droites”
géodésiques : ce sont les arcs de cercle orthogonaux au bord du disque. Par le point P passent
donc une infinité de “droites” n’intersectant pas la droite (AA0 ).
Image modifiée du site de John D. Norton, University of Pittsburgh.
au sujet de la réfraction et de la courbure des rayons lumineux,

les impressions visuelles seront aussi restées les mêmes.
Ces êtres imaginaires seront donc comme nous conduits à
classer les phénomènes dont ils seront témoins et à distinguer
parmi eux, les « changements de position » susceptibles d’être
corrigés par un mouvement volontaire corrélatif.
S’ils fondent une géométrie, ce ne sera pas comme la nôtre,
l’étude des mouvements de nos solides invariables ; ce sera celle
des changements de position qu’ils auront ainsi distingués, et qui
ne sont autres que les « déplacements non euclidiens », ce sera
la géométrie non euclidienne.
Ainsi des êtres comme nous, dont l’éducation se ferait dans
un pareil monde, n’auraient pas la même géométrie que nous.
Pour construire des géométries nouvelles, M. Poincaré propose donc simplement de partir d’un
ouvert de l’espace euclidien – ici, la boule Ω = B(0, R) de R2 –, et de le déformer localement :
Jean Feydy
son champ de températures,

2
K(x) = R2 −kxk , (1.1)
peut être compris comme un champ de dilatation/compression de l’espace.
Afin de s’adresser au sens physique de chacun, M. Poincaré s’encombre de plusieurs notions
a priori indépendantes : température, coefficient de dilatation, indice de réfraction... Puisque
nous avons ici à cœur de faire de la géométrie, seules les courbes, les distances, les volumes nous
intéressent. On se contentera donc, pour caractériser notre espace, de fournir une formule donnant
la longueur infinitésimale ressentie d’un petit segment [x, x + dx] en tout point du disque :
1
d(x → x + dx) = 2 kdxk (1.2)
R2 −kxk
ou, ce qui est plus pratique, sous la forme quadratique
1
d2 (x → x + dx) = 2 2
dx 2
. (1.3)
R2 −kxk
La forme quadratique d2x : dx 7→ d2 (x → x + dx), que l’on appellera métrique Riemannienne

locale au point x, permet alors de définir la longueur d’un chemin γ : [0, 1] → Ω :
Z 1q
`(γ) = d2γ(t) (γ 0 (t))dt. (1.4)
0
On peut par exemple calculer le “rayon” du disque de Poincaré associé au chemin radial γ(t) =
(t, 0). Pour la métrique euclidienne, habituelle, on a tout simplement
Z 1
`eucl (γ) = kγ 0 (t)kγ(t), eucl dt (1.5)
0
Z 1
= k(1, 0)kγ(t), eucl dt (1.6)
0
Z 1 p
= 12 + 02 dt = 1. (1.7)
0
Pour la métrique intrinsèque d2 , on a par contre

Z 1
`poinc (γ) = kγ 0 (t)kγ(t), poinc dt (1.8)
0
Z 1
= k(1, 0)kγ(t), poinc dt (1.9)
0
Z 1 k(1, 0)k
γ(t), eucl
= 2 dt (1.10)
0 1 −kγ(t)k
1
√
12 + 02
Z
= dt (1.11)
0 1 − t2
1
1 1
Z
= · dt = +∞ (1.12)
0 1+t 1−t
Le disque de Poincaré est donc un espace métrique non borné : un univers dans une coquille de
noix. Son étude explicite sera l’objet de notre sixième séance, et nous verrons que le Postulum
d’Euclide n’y est pas vérifié – la figure 1.1 permet de s’en faire une bonne intuition.
1.3. La géométrie Riemannienne : l’exemple du tore 17
1.3 La géométrie Riemannienne : l’exemple du tore
On l’a vu, déformer judicieusement l’espace euclidien permet de construire des modèles aux
théories axiomatiques non-euclidiennes développées par Lobatchevski et Bolyai. L’idée clé de la
géométrie Riemannienne est de généraliser cette procédure à tous les étirements réguliers de
la métrique euclidienne sur Rn : on s’autorisera à considérer tout champ de matrices n × n
symétriques définies positives, g : x ∈ Ω 7→ g(x) ∈ Sn++ , avec g de classe C ∞ et Ω un ouvert
de Rn – ou mieux, une variété de dimension n comme défini section 1.5.
L’idée est féconde : prenons l’exemple du tore. Il existe a priori deux manières de l’étudier : en
tant que surface immergée dans l’espace ambiant R3 , ou comme quotient du plan R2 par l’action
des translations entières – le fameux carré aux bords recollés. Cette dernière représentation est
de loin la plus pratique : plutôt que de travailler avec des points (x, y, z) dont il faut toujours
s’assurer qu’ils ne quittent pas la surface, on utilise des couples (r, θ) sans se poser d’autre
question que celle du “modulo 2π”.
Malheureusement, la structure métrique du carré recollé n’est pas représentative de l’idée
sous-jacente de “bouée” que nous avons tous en tête : avec un parallélépipède, impossible de
rendre le “petit équateur” plus court que le grand – voir figure 1.2. Pour réunir le meilleur des
deux mondes, il faudra en fait déformer le carré par une métrique appropriée, qui accorde d’autant
plus de poids à dθ que le point de base (r, θ) est proche de l’axe de révolution du donut. Vous
pourrez trouvez des précisions à ce sujet sur la page web du cours et dans les excellentes notes
de Robert T. Jantzen [Jan12].
(a) Un tore bouée vu comme surface immergée (b) Le tore carré. Muni de la métrique natu-
dans l’espace ambiant R3 . relle euclidienne, il est plat : petits et grands
parallèles sont de même longueur.
Figure 1.2 – Deux manières de représenter un tore. La géométrie Riemannienne permet d’étu-
dier la structure métrique de la bouée avec le confort pratique offert par une paramétrisation
bidimensionnelle.
Jean Feydy
1.4 Applications en vue : l’anatomie computationnelle

Plutôt que d’étudier de manière fine les polygones, cercles et autres structures algébriques
sur l’espace euclidien, Riemann nous incite donc à nous concentrer sur les seules propriétés
métriques de nos espaces, qui peuvent maintenant être courbes et définis localement. Ce point
de vue a de nombreuses applications, dont la plus célèbre est sans aucun doute la théorie de la
relativité d’Einstein. Au fil de ce cours, nous nous concentrerons plutôt sur un débouché tout à
fait inattendu : l’étude des espaces de formes.
Régression et suivi longitudinal On connaît tous les courbes de croissances présentes sur
nos carnets de santé : dûment remplies, elles permettent de suivre notre évolution, de la comparer
à une population “normale” et de détecter un éventuel retard de croissance – voir Figure 1.3.
Maintenant, serait-il possible de faire la même chose avec, disons, la forme du cœur ? Atten-
tion : il ne s’agit pas ici de remplacer une grandeur scalaire – la taille – par un simple vecteur
“largeur/longueur/volume/que-sais-je”. Ce traitement simpliste éclaterait les cœurs similaires –
mêmes rapports de taille – en une ribambelle de points... Si l’on s’intéresse véritablement à la
forme du cœur, aux atrophies/hypertrophies éventuelles de ses ventricules, il faudra nécessaire-
ment travailler dans un espace quotient – sur lequel la notion de régression n’est a priori pas
définie.
Création d’atlas et analyse statistique Autre axe de recherche, dans la même veine : l’étude
statistique d’une population de formes. On le sait, l’étude approfondie d’un jeu d’indicateurs
scalaires – poids, âge, tension artérielle... – peut nous apprendre beaucoup sur l’état de santé
d’un patient. En comparant celui-ci à un humain moyen, en le replaçant au sein d’une population
connue, on peut le classer dans tel ou tel groupe, détecter l’apparition de certaines pathologies.
Alors, au XXIe siècle, sera-t-il possible de faire la même chose avec des données plus complexes ?
On pense par exemple à des images de colonne vertébrale (scoliose...), de fonds d’œils rétiniens
(glaucome...) ou à la forme de l’hippocampe, corrélée à la présence de démences dégénératives
comme la maladie d’Alzheimer – voir Figures 1.4-1.5.
Matching et transfert de données Enfin, un dernier type de problèmes issu de la neuro-

imagerie : la création de cartes sémantiques sur les surfaces corticales des sujets observés. Pensons
par exemple à une collection de visages. Il est aisé pour un être humain de “découper”, segmenter
celui-ci en régions anatomiques bien définies : nez, yeux, bouches, oreilles... Toutes sont d’ap-
parences, de topologies bien différenciées : il est donc possible d’apprendre à un ordinateur à
reconnaître ces différents point saillants sur une image.
Mais comment procéder lorsque “toutes les régions se ressemblent” ? Sur une simple image
anatomique, difficile en effet de distinguer les circonvolutions du cortex visuel de celles du lobe
frontal... On s’efforcera donc de transférer une carte – dessinée par des experts – d’un cerveau
modèle typique à un cerveau donné, de manière anatomiquement crédible – voir Figure 1.6.
Dans les trois situation précédentes, tout serait simple si l’on disposait d’une structure algé-
brique/vectorielle raisonnable sur nos données – qui sont ici des “formes” – : moyenne, régression
linéaire et analyse de la variance de l’échantillon sont toujours données par des formule pleines
de « + » et de « × »... Malheureusement, une théorie additive des formes a peu de chance de
voir le jour : quel sens pourrait-on donner à la somme de deux cœurs ?
Qu’à cela ne tienne : une notion de distance, une métrique Riemannienne suffira. La moyenne
ne sera plus qu’un point minimisant la somme des distances aux observations et la droite de
régression, une courbe géodésique approchant au mieux les données aux instants d’observations.
1.4. Applications en vue : l’anatomie computationnelle 19
(a) Courbe de croissance. (b) Exemples de malformations cardiaques.

Comment les détecter avant qu’il ne soit trop
tard ?
Figure 1.3 – Le suivi longitudinal et les techniques de régression méritent d’être généralisés aux
formes. (b) est tiré de Vascular endothelial growth factor in heart failure, Taimeh et Al., Nature
Reviews Cardiology 10 (Septembre 2013).
(a) Construction de l’atlas (b) Cœur moyen, avec son mille-feuilles de

fibres musculaires anisotropes.
Figure 1.4 – Estimation d’un cœur moyen à partir de sept cœurs de chiens.
Images tirées de A computational framework for the statistical analysis of cardiac diffusion ten-
sors : application to a small database of canine hearts, Peyrat et Al., IEEE transactions on
medical imaging, 2007.
Jean Feydy
(a) Recalage des données sur la moyenne. (b) Quelques modes de déformation typiques.
(c) Estimation des déformations typiques du template selon la “Body Surface Area”.
Figure 1.5 – Autre estimation d’atlas de données cardiaques – ventricules droits.

Images tirées de A statistical model for quantification and prediction of cardiac remodelling :
Application to tetralogy of fallot, Mansi et Al., IEEE transactions on medical imaging, 2011.
1.4. Applications en vue : l’anatomie computationnelle 21
(a) Exemples de segmentation de régions du cerveau. Deux sujets sont observées, quatre méthodes sont
utilisées pour transporter une carte pré-établie.
Image tirée de Segmentation of brain magnetic resonance images based on multi-atlas likelihood fusion :
testing using data with a broad range of anatomical and photometric profiles, Tang et Al., Frontiers in
Neurosciences, 03 March 2015.
(b) À partir d’un modèle de référence, on peut inférer les mécanismes internes de silhouettes arbitraires :
Le David, Olive, Brutus, un loup-garou... Des débouchés dans les domaine de l’imagerie médicale et de
l’animation sont envisagés.
Image tirée de Anatomy Transfer, Dicko et Al., ACM Transactions on Graphics, 2013.
Figure 1.6 – Deux exemples de transfert de modèle anatomique.

Jean Feydy
On modélisera ici nos formes par des nuages de points, éléments d’un espace de landmarks
Lnp = {(x1 , . . . , xn ) ∈ Rp | ∀i 6= j, xi 6= xj } , (1.13)
que l’on peut voir comme un ouvert de Rnp . (On pourrait bien sûr en considérer le quotient
à numérotation σ ∈ Sn près, à similitude près, ou bien considérer des espaces de courbes, de
surfaces voire de mesures, mais cela nous encombrerait plus qu’autre chose dans ce cours à
l’agenda serré.)
Viendront alors trois questions : Comment construire une métrique locale anatomiquement
pertinente sur Lnp ? Quelles seront alors les propriétés de l’espace métrique induit ? Et surtout,
sera-t-on capable d’implémenter de manière efficace les algorithmes de régression, matching,
création d’atlas que nous demandent les médecins/neurologues/biologistes ? C’est ce que nous
verrons dans la deuxième moitié du semestre.
1.5 Variétés : un petit guide de survie

Dans le cadre de ce groupe de lecture – de niveau licence, rappelons-le –, on se bornera à
travailler sur des ouverts de Rd : nos espaces de landmarks définis Eq. (1.13), qui sont déjà bien
assez riches tout en restant conceptuellement très simples. Malheureusement, ce n’est pas le point
de vue adopté par notre manuel – de niveau master – et les articles de recherche rencontrés dans
la littérature. Le bon cadre n’est en effet pas celui – extrinsèque – des ouverts de Rn , mais plutôt
celui des variétés lisses, qui englobe les surfaces, les espaces courbes, l’espace-temps relativiste...
En fait, tout ce qui ressemble localement à un ouvert de Rn – voire d’un espace de Banach de
dimension infinie.
Mettons donc à plat ce qu’il est nécessaire de savoir sur les variétés pour ne pas être complè-
tement perdu.
Sous-variétés, variétés ? Nous souhaitons travailler avec des espaces qui sont “localement
semblables” à Rd ... Comme souvent en mathématiques, il y a en fait deux manières de définir et
caractériser ces objets : en parler de manière extrinsèque, avec le vocabulaire des sous-variétés
plongées dans Rn ; ou bien le faire de manière intrinsèque – on parlera alors de variété abstraite,
ou, tout simplement, de variété. Le théorème de plongement de Whitney permettra alors d’iden-
tifier les deux notions, en montrant que toute variété abstraite de dimension d peut être plongée
dans l’espace euclidien R2d .
Définition 1.1. Soit M ⊂ Rn . On dit que M est une sous variété de dimension d si et seulement
si en chaque point x0 ∈ M , il existe un voisinage U de x0 , un difféomorphisme ϕ : Rn → Rn tel
que
ϕ(U ∩ M ) = Rd × {0} ∩ ϕ(U ). (1.14)
Suivant le polycopié de géométrie différentielle de M. Viterbo, dont on s’inspirera ici forte-

ment, on supposera ici que tous les difféomorphismes sont de classe C ∞ .
Le difféomorphisme local ϕ, qui permet d’identifier M avec Rd au voisinage de x0 , s’appelle
une carte locale. L’application réciproque ϕ−1
|Rd
: Rd → M s’appelle quand à elle un système de
coordonnées locales.
Bien entendu, les exemples classiques de sous-variété de l’espace sont la sphère, le tore...
Le résultat suivant permet de jongler entre les différentes représentations que l’on pourrait en
donner :
1.5. Variétés : un petit guide de survie 23
Figure 1.7 – Carte pour une sous-variété de dimension 1 du plan.
Proposition 1.1. Soit M ⊂ Rn . Alors M est une sous-variété de dimension d si et seulement

si pour tout point x0 ∈ M , il existe un voisinage U de x0 dans Rn tel que l’une de ces propriétés
soit vérifiée :
Graphe il existe un changement linéaire de coordonnées A : Rn → Rn ,
une application f : Rd → Rn−d qui soit C ∞ telle que
U ∩ M = U ∩ A(z, f (z)) | z ∈ Rd . (1.15)

Équation Il existe une application F : U → Rn−d telle que

dF0 est surjective, et U ∩ M = F −1 (0).
Nappe paramétrée Il existe j : Rd → Rn de classe C ∞ , définie sur un voisinage V de 0,
telle que j(0) = x0 , dj(0) est injective, et que la restriction
j :V →M ∩U (1.16)
soit bijective, continue, d’inverse continue.

Exercice 1.1. Montrer que le cercle unité, la sphère unité, les ouverts de Rn sont des sous-variétés.
Nous terminons cette première leçon avec la définition formelle d’une variété abstraite :
Définition 1.2. Soit M un espace métrisable, réunion dénombrable de compacts. On appelle
structure de variété lisse de dimension d sur M la donnée d’une famille (Uλ , ϕλ )λ∈Λ telle que :
— les Uλ sont des ouverts, et forment un recouvrement de M ,
— les ϕλ : Uλ → Rd sont des homéomorphismes sur l’ouvert ϕj (Uλ ) tels que pour tous α, β
−1
ϕαβ = ϕβ ◦ ϕα : ϕα (Uα ∩ Uβ ) → ϕβ (Uα ∩ Uβ ) (1.17)
est une application C ∞ .

Au lieu de s’encombrer d’un espace ambiant qui passe souvent très mal au quotient, on se
concentre donc sur le seul ressenti “interne” des habitants de l’espace : pensons au tore, souvent
représenté comme une bouée, mais qu’il est plus simple de voir comme un carré aux bords
recollés – Cf. les RPG japonais, Final Fantasy en tête.
Rendez-vous la semaine prochaine pour la fin de cette introduction au vocabulaire de la

géométrie différentielle !
Jean Feydy
Figure 1.8 – Atlas de cartes sur une variété abstraite.

Image tirée de Wikipédia.
Première partie
Éléments de Géométrie
Riemannienne
25
Chapitre 2
Intuitions sur la courbure,

Vocabulaire Séance 2
[Lee97], Chap. 1-2
Arnaud Eteve,
Léo Hahn-Lecler,
2.1 Introduction Emmanuel
Kammerer
La géométrie Riemannienne permet de réintroduire, dans la géométrie différentielle, les Un peu énumératif
concepts géométriques d’angles, de distances, sur des objets courbes. Nous introduirons donc
la notion de courbure et son lien avec la toppologie. Puis nous nous équiperons de l’attirail
nécessaire dans la perspective d’introduire les distances et les angles : tenseurs, variétés, fibrés...
2.2 Intuitions sur la courbure

2.2.1 Dans le plan
Pour étudier d’autres courbes que les cercles et les droites, il peut être utile de mesurer à quel
point une courbe est courbée. On se donne donc γ une courbe C ∞ définie par son paramétrage
de R → R2 . On suppose de plus que kγ̇(t)k = 1.
Définition 2.1 (Courbure). Soit p un point de la courbe. La courbure de γ en p = γ(t) est

κ(t) = ||γ̈(t)||.
Définition 2.2 (Cercle osculateur). Mieux qu’une droite tangente, il existe un unique cercle
C approchant γ à l’ordre 2 en p, qu’on appelle le cercle osculateur à γ en p. C’est le cercle
(paramétré) dont les vecteurs vitesse et accélération coïncident en p avec ceux de la courbe. On
peut facilement montrer que son centre est sur la droite orthogonale à γ̇ en p, et son rayon est
égal à l’inverse de la courbure, R = κ1 .
La courbure ainsi définie ne permet pas de savoir “dans quel sens ça tourne”. On peut pour ce
faire affecter un signe à la courbure en choisissant un champ de vecteurs normaux à la courbe,
noté N , que l’on voit comme une direction canonique. On note alors la courbure signée κN , κN
est positive si N et γ̈ ont le même sens, négative sinon.
2.2.2 Dans l’espace

Soit S une surface lisse – i.e. de classe C ∞ – dans R3 .
27
Séance 2 28 Chapitre 2. Intuitions sur la courbure, Vocabulaire
[Lee97], Chap. 1-2
Arnaud Eteve,
Léo Hahn-Lecler,
Emmanuel
Kammerer
Un peu énumératif
(a) Le cercle osculateur en M à la courbe (b) Courbures principales sur une selle de cheval. Quelle
rouge. De manière générique, la courbe que soit l’orientation choisie, les deux courbures sont de
traverse le cercle osculateur : le terme signe opposé : la selle est une surface de courbure gaus-
d’ordre 3 n’a aucune raison de s’annuler. sienne négative.
Figure 2.1 – Illustrations sur la courbure d’une trajectoire et d’une surface, tirées de Wikipédia.
Définition 2.3 (Courbure Principale). Soit p ∈ S, on note n la normale à S en p. Soit Π un

plan contenant n et p : l’intersection de Π avec S est (localement) une courbe planaire, dont on
note κΠ la courbure en p. Lorsqu’on parcourt tous les plans Π possibles, κΠ atteint un min et
un max, notés κ1 et κ2 , elles sont appelées courbures principales de S en p.
Les courbures principales ne sont pas invariantes par isométries (ici, les isométries sont des
applications préservant la longueur des chemins tracés dans la surface). Cependant, le théorème
suivant nous donne un invariant :
Théorème 2.1 (Theorema Egregium). Le produit κ1 κ2 est intrinsèque (i.e. invariant par iso-
métrie : il ne dépend que de la structure métrique “dans” la surface), on l’appelle la courbure
Gaussienne.
Exemples : le plan et le demi-cylindre ont une courbure gaussienne égale à 0 alors qu’une
sphère de rayon R a une courbure gaussienne égale à R12 .
2.3 Variétés
Introduisons quelques définitions pour généraliser les courbes et les surfaces. Nous renvoyons
le lecteur au guide de survie pour la définition des variétés lisses.
Soit M une variété, x0 ∈ M et U ⊂ M un voisinage de x0 : on identifiera U avec son image
dans Rn , ce qui nous donne des coordonnées locales lisses autour de x0 .
Le plan (vectoriel) tangent à une surface en un point est le plan ayant pour vecteur normal
la normale N à la surface en p. Mais c’est aussi l’ensemble des vecteurs vitesse en p des courbes
dans la surface passant par p. De même, pour une sous-variété M de Rn , l’espace tangent en p
est l’ensemble des vecteurs vitesse en p des courbes à valeurs dans M passant par p.
De manière encore plus générale, on définit :
Définition 2.4 (Espace Tangent, Tangent space). Soit p ∈ M , on considère l’ensemble des
courbes de M qui passent par p quotienté par la relation d’équivalence suivante : γ1 ∼ γ2 ssi ils
2.4. Fibrés Vectoriels 29
ont le même vecteur vitesse en p. Cet espace est un espace vectoriel de même dimension que M
noté Tp M .
Définition 2.5 (Sous Variété, Submanifold). Soit M1 et M2 des variétés, M1 est une sous variété
(régulière) de M2 si on dispose d’une injection i : M1 → M2 et i realise un homéomorphisme de
M1 → i(M1 ).
De cela on obtient des coordonnées locales sur M1 à partir de celles de M2 et on peut voir
Tp M1 comme un sous espace de Tp M2
2.4 Fibrés Vectoriels

La réunion disjointe des espaces tangents peut être considérée en même temps comme une
union d’espaces vectoriels et comme une variété. C’est un exemple de fibré vectoriel.
Définition 2.6 (Fibré Vectoriel, Vector Bundle). Un fibré vectoriel de dimension k est la donnée
d’un couple de variétés lisses, E (l’espace total) et M (la base), ainsi que d’une application
π : E → M (la projection) vérifiant :
— Chaque Ep = π −1 (p) (appelé la fibre de p) a une structure d’espace vectoriel
— Pour tout p ∈ M , il existe un voisinage U de p et un difféomorphisme ϕ : π −1 (U ) → U ×Rk
appelé “trivialisation locale” telle que π = π1 ◦ ϕ où π1 est la projection sur U .
— Les restriction de π à chaque fibre sont des isomorphismes.
a
Exemples : T M (fibré tangent) dont on a parlé plus tôt, T ? M = (Tp M )? , N M =
p∈M
a
(Tp M )⊥ .
p∈M
D’ailleurs, l’espace des phases (x, ẋ) en physique correspond au fibré tangent T R.
Remarque 2.1. La notion de fibré vectoriel est une généralisation de celle de produit cartésien : un
produit cartésien est un fibré vectoriel, et tout fibré vectoriel ressemble localement à un produit
cartésien. Il est par contre possible d’exhiber des fibrés vectoriels qui sont des produits cartésiens
“ensemblistes”, mais dont la structure topologique n’est pas “redressable” : on pense par exemple
aux twists sur le produit S 1 × R, comme le ruban de Moebius.
Remarque 2.2. En introduisant une notion de recollement lisse entre plans tangents voisins,
les fibrés tangents/cotangents permettent d’exprimer simplement les équations différentielles
portant sur le couple (positon, vitesse) (q, v) ∈ T M ou mieux, le couple (position, moment)
(q, p) ∈ T ? M . C’est une notion bien connue en physique : celle de l’espace des phases d’un
problème, qui permet d’exprimer très simplement les équations de la mécanique.
Prenons l’exemple d’une masse ponctuelle m en chute libre dans un champ de gravité uni-
forme g. En repérant la position de la masse par son altitude z, et en appliquant les lois de
Newton, on obtient (avec les bonnes conventions de signe) l’équation du second ordre :
mz̈ = −mg. (2.1)
Pour obtenir existence et unicité des solutions au problème de Cauchy, il est de bon goût de
réécrire notre dynamique sous la forme d’une équation du premier ordre sur l’espace des phases :
˙
z v
= X(z, v) = . (2.2)
v −g
[Lee97], Chap. 1-2
Arnaud Eteve,
Léo Hahn-Lecler,
Emmanuel
Kammerer
Un peu énumératif
Figure 2.2 – Définition intrinsèque et locale de la notion de fibré vectoriel. Image tirée de [Lee97].
(a) Fibres dessinées tangentes au cercle. (b) L’espace de base E = S 1 × R.
Figure 2.3 – Deux manières de voir le fibré tangent au cercle S 1 . Twister la représentation (b)
pour obtenir un ruban de Moebius permet d’obtenir un fibré vectoriel sur le cercle qui n’est pas
équivalent au produit cartésien – exercice !
2.4. Fibrés Vectoriels 31
15 15
10 10
5 5
Moment p
Vitesse v
0 0
−5 −5
−10 −10
−15 −15
−5 0 5 −5 0 5
Altitude z Altitude z
(a) Flot des équations de Newton dans l’espace (b) Flot Hamiltonien dans l’espace des
des phases (z, v). Le champ de vecteur X(z, v) phases (z, p). Les trajectoires restent à énergie
est tangent aux lignes de niveau de l’énergie constante, avec un renseignement supplémen-
mécanique : cette dernière est donc une quan- taire : plus les lignes de niveau du Hamiltonien
tité conservée au cours du mouvement. sont serrées, plus le gradient est fort, et plus
le point courant bouge vite dans l’espace des
phases.
Figure 2.4 – Flot des équations de la mécanique classique dans l’espace des phases (en rouge)
pour la chute libre d’une masse m = 2 dans un champ de gravité uniforme g = 1. Les lignes de
contours correspondent aux iso-énergies.
[Lee97], Chap. 1-2
Arnaud Eteve, L’étude de notre système est donc ramenée à celle du flot du champ de vecteur X sur le produit
Léo Hahn-Lecler, cartésien R × R : c’est, à peu de choses près, ce que les classes prépa nous ont appris sur la
Emmanuel mécanique classique... Mais depuis Newton, les physiciens ont trouvé des manières bien plus
Kammerer élégantes – et donc efficaces – de formuler ce problème. Le formalisme Lagrangien exprime ainsi
Un peu énumératif qu’entre deux états (q0 , v0 ) et (q1 , v1 ), un système physique emprunte une trajectoire qui minimise
l’intégrale au cours du temps de l’action – une grandeur physique ad hoc. Plus pratique encore
le formalisme Hamiltonien propose de substituer au vecteur tangent v un vecteur cotangent p, le
moment, défini de manière appropriée. Dans notre cas, il s’agit simplement du moment inertiel
p = mv ∈ (R)? = R. En les variables (z, p), on réécrit alors le système 2.2 :
(
ż = +p/m
. (2.3)
ṗ = −m g
Le coup de génie est alors de remarquer que, pour le Hamiltonien
1 p2
H(z, p) = Ec + Epp = + mgz, (2.4)
2m
on a
( ˙
ż = + ∂H z
∂p
i.e. = R−90◦ ∇H (2.5)
ṗ = − ∂H p
∂z
Le flot “Hamiltonien” des systèmes physiques n’est donc autre qu’un flot de gradient “tourné d’un
quart de tour”. De cette information, on peut immédiatement déduire que le Hamiltonien – ici,
l’énergie mécanique – est une quantité conservée au cours du mouvement... Et de nombreuses
autres propriétés qui forment l’objet d’étude de la mécanique géométrique et la motivation prin-
cipale de la géométrie symplectique.
L’espace des phases d’une variable (x, y, z) ∈ R3 n’est autre que le produit R3 × R3 des
couples ((x, y, z), (ẋ, ẏ, ż)) – i.e. le fibré tangent T R3 . La généralisation présentée ici permet donc
simplement de parler d’espaces des phases d’une variable q ∈ M quelconque.
C’est un point crucial dans l’élaboration de notre cours : comme le problème des géodésiques
est moralement un problème “Lagrangien”, nous verrons que les courbes géodésiques sont en fait
solutions d’une équation différentielle d’ordre 2 (analogue aux équations de Newton), que l’on
peut exprimer dans l’espace des phases T ? M comme le flot du Hamiltonien H(q, p) = 21 (p, Kq p)
où Kq est la cométrique au point q – tout ceci sera bien sûr précisé en temps voulu. La puissance
du point de vue Hamiltonien – qui capture l’essence de la propriété “être une géodésique” sous
une forme compacte et pratique – sera au cœur des algorithmes que nous développerons dans la
deuxième partie du semestre.
Pour montrer que les exemples précédents sont des fibrés vectoriels sans avoir à construire
une structure de variété lissse sur l’ensemble total, on peut s’appuyer sur le lemmme suivant :
Lemme 2.1. Soit M une variété lisse, E un ensemble et π : E → M une application surjective.
Soit {Uα } un recouvrement ouvert de M , et des applications bijectives ϕα : π −1 (Uα ) → Uα × Rk
satisfaisant π1 ◦ ϕα = π et dès que Uα ∩ Uβ 6= ∅ , l’application ϕα ◦ ϕ−1
β : Uα ∩ Uβ × R →
k
k −1
Uα ∩ Uβ × R est de la forme ϕα ◦ ϕβ (p, V ) = (p, τ (p)V ), où τ est une application lisse τ :
Uα ∩ Uβ → GL(k, R).
Alors E a une unique structure de k-fibré vectoriel lisse sur M pour laquelle les applications
ϕα sont les trivialisations locales. La fonction τ est appelée fonction de transition.
2.5. Tenseurs 33
En d’autres termes, il suffit d’exhiber des trivialisations locales qui se superposent “correcte-
ment”.
Définition 2.7 (Section). Soit π : E → M un fibré vectoriel, une section de E est une application
lisse F : M → E telle que π ◦ F = IdM .
C’est donc la donnée lisse en tout point p d’un “vecteur” F (p) vivant dans la fibre π −1 (p).
2.5 Tenseurs
La géométrie Riemannienne est construite à l’aide de tenseurs. Ces objets sont en quelque
sorte des généralisations des matrices. Ils peuvent représenter en particulier des formes multili-
néraires, des matrices ou des produits scalaires.
Pour alléger les notations, il est d’usage d’utiliser la sommation d’Einstein : dès lors qu’un
indice est hors contexte c’est qu’on le somme sur toutes les valeurs possibles. C’est par exemple
utile pour le calcul de la différentielle d’une composée, ou pour écrire des produits matriciels de
manière compacte.
Définition 2.8 (Tenseur, Cotenseur). Soit V un espace vectoriel de dimension finie, un k-tenseur
est une application k linéraire de V k → R un l-cotenseur est une application l linéaire de V ?l → R

k
un -tenseur est une application multilinéaire de V ?l × V k → R
l
On note respectivement T k (V ), Tl (V ) et Tlk (V ) ces ensembles de tenseurs.
On a en particulier : T 1 (V ) = V ? , T1 (V ) = V et T11 (V ) = End(V ).
Remarque 2.3. On peut voir un tenseur d’ordre 2 comme la décomposition d’une matrice sur
l’espace de base V et son dual V ? : en effet, une matrice M de taille n × n est entièrement
déterminée par la donnée de l’application bilinéaire (Y, X) ∈ (Rn )? × Rn 7→ (Y, M X) = Y t M X.
Remarque 2.4. La terminologie “tensorielle” est plus lourde que celle des matrices, qui nous suffi-
rait pourtant ici – aucun tenseur d’ordre supérieur à 2 n’est nécessaire pour parler de géodésiques.
Elle a néanmoins l’avantage de désambiguïser la confusion qui est souvent faite entre un espace
V et son dual V ? .
On le voit en cours d’analyse fonctionnelle, le dual topologique d’un espace de dimension
infinie est rarement identifiable à l’espace de départ. Mais même dans le cas des espaces de
landmarks, celui des ouverts de Rn , il est important de faire la distinction : c’est que si on a
topologiquement (Rn )? ' Rn , la structure métrique sur ces deux espaces peut elle être complè-
tement chamboulée.
Supposons par exemple Rn muni d’un produit scalaire h·, ·iG donné par une matrice n × n
symétrique définie positive G :
2
∀ v ∈ Rn , kvkG = v | Gv. (2.6)
De même qu’un vecteur est identifié à la matrice colonne de ses coordonnées dans la base
canonique, on représente toujours une forme linéaire p ∈ (Rn )? par la matrice ligne de ses
coordonnées dans la base duale canonique (e?1 , . . . , e?n ) :
p(x) = p1 x1 + p2 x2 + · · · + pn xn = p| x. (2.7)
[Lee97], Chap. 1-2
Arnaud Eteve, La norme d’opérateur d’une forme linéaire p est alors donnée par :
Léo Hahn-Lecler,
Emmanuel kpkG? = max p(v) (2.8)
hv,viG =1
Kammerer
Un peu énumératif = max p| v (2.9)
hv,viG =1
= max
|
p| G−1/2 u (2.10)
u u=1
G−1/2 p
= p| G−1/2 ·
G−1/2 p ,
(2.11)
2
avec le changement de variable u = G1/2 v – racine carrée d’une matrice de Sn+ . Autrement dit,
2
kpkG? = p| G−1 p. (2.12)
À une métrique G sur l’espace primal, il faut donc associer la cométrique K = G−1 sur l’espace
dual. Si l’identification est tentante dans Rn muni du produit scalaire canonique, c’est uniquement
parce que In−1 = In : dans notre cours, il faudra aller plus loin.
2.6 Fibré Tensoriels, Champs de Tenseur

Étant donné un fibré tangent T M , on peut lui associer le fibré vectoriel pour lequel on a
remplacé les Tp M par les Tlk (Tp M ).
Définition 2.9 (Fibré Tensoriel, Tensor Bundle). Soit M une variété, on construit un fibré
vectoriel de la manière
suivante : la fibre associée à p est Tl (Tp M ). On définit ainsi Tl M =
k k
a k
Tlk (Tp M ), le -fibré tensoriel associé a M .
l
p∈M
Définition 2.10 (Champ de tenseur, Tensor Field). Un champ de tenseurs est une section lisse
de Tlk M .
Exemple : un champ qui associe à chaque point p un produit scalaire h|ip .

Dans le cas des espaces de landmarks, qui sont des ouverts de Rnd , l’inclusion donne une carte
globale pour toute la variété : ces notions a priori locales de champs lisses se confondent avec
la notion habituelle d’application à coordonnées lisses. Autrement dit, un champ de tenseur T11
lisse g sur un ouvert Ω de Rn n’est rien d’autre qu’une application g : Ω → Mn,n de classe C ∞ :
 
g1,1 (x) g1,2 (x) · · · g1,n (x)
 g2,1 (x) g2,2 (x) · · · g2,n (x) 
∀ x ∈ Ω, g(x) =  . .. . ..  (2.13)
 
 . . . . . . 
gn,1 (x) gn,2 (x) · · · gn,n (x)
où les coordonnées gi,j : R → R sont infiniment différentiables.
2.7 Conclusion
Si, au début, on a pu appréhender la notion de courbure d’une surface, nous avons ensuite
bien équipé nos variétés de fibrés qui nous permettront de construire ainsi une géométrie.
Chapitre 3
Métriques Riemanniennes Séance 3

[Lee97], Chap. 3
Paul Fraux,
Manolis Perrot,
3.1 Métriques Riemanniennes Massil Hihat,
Ivan Yakovlev
3.1.1 Définitions Sans souci
Définition 3.1 (Métrique). Une métrique Riemannienne sur une variété lisse (smooth manifold)
M est une application continue g de M dans l’ensemble des formes bilinéaires symétriques et
définies positives sur Tp M . Autrement dit, g associe à un p ∈ M un produit scalaire de Tp M .
Notations :
— Pour (X, Y ) ∈ Tp M 2 , on note < X, Y >:= g(p)(X, Y ) = g(X, Y ).
— Un couple variété et métrique Riemannienne est appelé variété Riemannienne.
— S’il n’y a pas de confusion possible, on parlera de métrique et pas de métrique Rieman-
nienne.
— (X, Y ) ∈ Tp M 2 sont dit orthonormaux si < X, Y >= 0.
Définition 3.2 (Normes, angles). On peut alors définir une norme et des angles sur Tp , avec
|X| =< X, X >1/2 (3.1)
et l’angle entre X et Y pour (X, Y ) ∈ Tp comme l’unique réel θ de [0, π] tel que
< X, Y >
cos(θ) = . (3.2)
|X|.|Y |
Définition 3.3 (tiré en arrière, pull-back). Si f est différentiable de M dans N (deux variétés),
et si N est munie d’une métrique g N , alors on peut définir une métrique sur M par :
v, w ∈ Tp M (f ∗ g N )(v, w) = g N (dfp (v), dfp (w)). (3.3)
On voit aisément que cela définie bien une forme bilinéaire symétrique et positive, par contre
elle est définie positive si et seulement si la différentielle dfp est injective.
C’est à partir de cette métrique que d’autres notions clés vont être définies comme celle
d’isométrie entre variétés riemanniennes. Avant de voir ces notions, manipulons cette définition
à travers un exemple.
35
Séance 3 36 Chapitre 3. Métriques Riemanniennes
[Lee97], Chap. 3
Paul Fraux, Exemple 3.1. Regardons l’exemple du tore dans R .

3
Manolis Perrot, On se place dans un repère (Oxyz), avec le θ des coordonnées polaires. On considère alors
Massil Hihat, l’application entre le rectangle [−bπ, bπ] × [−π, π] et le tore dans R3 :
Ivan Yakovlev
Sans souci f (r, θ) = R(r)(cos θ, sin θ, 0) + Z(r)(0, 0, 1) (3.4)
avec R(r) = a + b cos(r/b) (3.5)
Z(r) = b sin(r/b). (3.6)
C’est une paramétrisation du tore, où à θ fixé r décrit le "petit" cercle (section du tube)
représenté ci-dessous, et pour r fixé θ décrit le "grand" cercle (de hauteur z constante).
Figure 3.1 – Le tore vu en coupe : on fait tourner ce cercle autour de Oz pour obtenir le tore.
Notre but est de munir le carré d’une métrique qui est cohérente avec la vision qu’on a du
tore de R3 muni de la métrique euclidienne. Pour cela on peut calculer la métrique pull-back,
qui en revenant à la définition nous demande de calculer la différentielle de f :
cos(θ)R0 (r) − sin(θ)R(r)

   
− cos(θ) sin(r/b) − sin(θ)(a + b cos(r/b))
Df (r, θ) =  sin(θ)R0 (r) cos(θ)R(r)  =  − sin(θ) sin(r/b) cos(θ)(a + bcos(r/b)) 
0
Z (r) 0 cos(r/b) 0

1 0
ainsi g(r,θ) = est la matrice de la métrique dans la base canonique.
0 R(r)2
et (er̂ , eθ̂ ) = ( 10 , 1/R(r)
0
) est une base orthonormée du plan tangent au point (r, θ).

3.1. Métriques Riemanniennes 37
Figure 3.2 – Représentation des ellipses de la métrique pull-back sur le rectangle
Définition 3.4 (Isométries). Soit (M, g) et (M

f, ge) deux variétés Riemanniennes. Un difféomor-
phisme ϕ : M → M est appelé une isométrie si
f
ϕ∗ ge = g. (3.7)
On dit que (M, g) et (M̃ , g̃) sont isométriques s’il existe une isométrie entre les deux.
Remarque 3.1. Si on se place dans l’ensemble des isométries entre une même variété. Il est facile
de vérifier que la composition de deux isométries et que l’inverse d’une isométrie restent des
isométries, celles-ci forment donc un groupe pour la composition.
[Lee97], Chap. 3
Paul Fraux, Remarque 3.2. La relation être isométrique étant une relation d’équivalence sur la classe des
Manolis Perrot, variétés Riemanniennes, la géométrie Riemannienne s’intéresse principalement aux propriétés
Massil Hihat, conservés par isométries.
Ivan Yakovlev
Sans souci
Exemple 3.2. Si on considère une application linéaire A de Rn dans Rn qui est une isométrie
dans le sens ci-dessus : on a A∗ geucl = geucl , ce qui est bien équivalent au fait que A.AT = I2 .
Coordonnées locales : Soit (E1 , ..., En ) une base locale 1 de TM , et (ϕ1 , ..., , ϕn ) sa base
duale. Alors une métrique Riemannienne peut s’écrire localement comme :
X
g = gij ϕi ⊗ ϕj = gij ϕi ⊗ ϕj
i,j
où l’on a que ϕi ⊗ ϕj (X, Y ) = ϕi (X)ϕj (Y ) (produit tensoriel).

Les coefficients de la matrice (gi,j )i,j = (< Ei , Ej >)i,j sont symétriques en i et j et dépendent
de manière lisse de p.
3.1.2 Exemples
Un premier exemple est Rn muni de la métrique euclidienne g, qui est le simple produit
scalaire (x, y) 7→ x| y avec l’identification Tx Rn = Rn . La matrice de g dans la base canonique
est alors In = (δi,j ).
D’autres exemples de métrique Riemannienne arrivent naturellement quand on considère des
sous-variétés, des produits ou des quotients de variétés.
Définition 3.5 (Métrique sur une sous-variété). Soit (M f, ge) une variété Riemannienne. Soit M
une sous variété de M̃ . Alors la restriction de g̃ aux vecteurs tangents de M est une métrique
Riemannienne car la restriction d’un produit scalaire à un sous espace vectoriel est encore un
produit scalaire.
C’est ainsi qu’on a précédemment définit une métrique sur le tore, et c’est aussi de cette
manière qu’on définit la métrique de S n ⊂ Rn+1 .
Dans la pratique, on supposera souvent M̃ ⊂ Rm et la donnée d’un paramétrage local, i.e. un
plongement 2 d’un ouvert U ⊂ Rn dans M̃ dont l’image est un ouvert de M ). En se donnant un
tel paramétrage X : U → Rm d’une sous variété M ⊂ Rm avec la métrique induite, on dispose
de la formule ci-dessous pour calculer cette métrique dans la base canonique de U :
n
m X
X ∂X i 2
g= duj .
i=1 j=1
∂uj
où dui .duj est le produit tensoriel symétrisé, c.-à-d. :
1
dui .duj = dui ⊗ duj + duj ⊗ dui .

2
Exercice 3.1. Retrouver directement à partir de cette formule la métrique induite sur le tore
définie dans l’exemple 3.1.
1. i.e ((E1 (p), ..., En (p))) est une base de Tp M pour p ∈ U

2. en anglais embedding : application injective dont les différentielles sont injectives
3.1. Métriques Riemanniennes 39
Figure 3.3 – Une surface de révoultion
Exercice 3.2. Soit γ(t) = (a(t), b(t)), t ∈ I (un intervalle ouvert) une courbe lisse injective dans
le plan xz. On suppose que ∀t ∈ I, a(t) > 0 et γ̇(t) 6= 0
Soit M R3 la surface obtenue par révolution de γ autour de l’axe des z
— Montrer que M est une sous variété de R3 , et que M est un plongement si γ en est un.
— Montrer que ϕ(θ, t) = (a(t)cos(θ), a(t)sin(θ), b(t)) est un paramétrage local de M au
voisinage de tout point.
— Calculer l’expression de la métrique induite sur M sur le point de coordonnée (θ, t).
— appliquer ce calcul au cas du tore donné par (a(t), b(t)) = (2 + cos(t), sin(t)).
Produit cartésien de variétés : Soit (M1 , g1 ) et (M2 , g2 ) deux variétés Riemanniennes. Le

produit M1 × M2 a une structure naturelle d’espace métrique g = g1 ⊕ g2 appelée métrique
produit et définie par :
g(X1 + X2 , Y1 + Y2 ) = g1 (X1 , Y1 ) + g2 (X2 , Y2 ), (Xi , Yi ) ∈ Tpi Mi
avec l’identification Tp1 ,p2 M1 × M2 = Tp1 M1 ⊕ Tp2 M2

Alors, toutes coordonnées locales (x1 , ...xn ) pour M1 et (xn+1 , ...xn+m ) pour M2 donne les co-
ordonnées (x1 , ...xn+m ) pour M1 × M2 . Donc la matrice de (gij ) vérifie

(g1 )ij 0
(gij ) = .
0 (g2 )i,j
[Lee97], Chap. 3
Paul Fraux, Quotient de variétés : Soit π : M̃ → M un revêtement 3 (covering map) lisse.

Manolis Perrot, On appelle transformation couvrante (covering transformation) une application lisse ϕ : M̃ → M̃
Massil Hihat, telle que π = π ◦ ϕ.
Ivan Yakovlev Si g est une métrique Riemannienne sur M, alors g̃ := g ◦ π est une métrique Riemannienne sur
Sans souci M̃ invariante par transformation couvrante.
Dans ce cas, on appelle g̃ la métrique couvrante (covering metric) et π un recouvrement Rieman-
nien (a Riemannian covering).
3.2 Constructions élementaires associées à une métrique

Riemannienne
3.2.1 Monter ou baisser des indices
Une proprieté élémentaire mais très importante d’une métrique Riemannienne est qu’elle
permet de convertir des vecteurs en covecteurs et vice versa.
Soit g une métrique sur M, on définit l’application (dit ”flat” ou ”bémol”) de T M dans
T ∗ M comme suit : pour le vecteur X ∈ Tp M on définit le covecteur X [ ∈ Tp∗ M par
X [ (Y ) := g(X, Y )
On dit que X [ est obtenu de X en baissant un indice. En coordonnées :
X [ = g(X i ∂i , ·) = gij X i dxj
Donc la matrice de flat dans une base et sa base duale est celle de g. Cette matrice est inversible,
ainsi cette opération est aussi inversible. Donc on peut définir l’operateur inverse (dit ”dièse” ou
”sharp”) ω → ω ] . En coordonnées, ω ] a les composantes :
ω i := g ij ωj ,
où, par définition, g ij sont les composantes de la matrice inverse (gi j)−1 .
L’application la plus importante de l’opérateur dièse est de permettre d’étendre la notion

de gradient aux variétés Riemanniennes. Sans la métrique riemannienne (i.e. le produit scalaire
sur chaque espace tangent), on n’a pas de façon naturelle (indépendant de la base) d’identifier
Tp M avec Tp∗ M .
Soit f une fonction lisse à valeurs réelles sur la variété Riemannienne (M, g), on définit le champ
de vecteur grad(f ) := df ] . On a alors en remontant les définitions que :
∀Y ∈ T M, df (Y ) = hgrad(f ), Y i.
3.2.2 Élément de volume et integration

Proposition : Sur toute variété Riemannienne (M, g), il existe une unique n-forme (c’est à
dire un (n, 0)-tenseur alterné) dV satisfaisant la propriété que dV (E1 , . . . , EN ) = 1 chaque fois
que (E1 , . . . , EN ) est une base orthonormée pour quelque espace tangent Tp M .
3. application continue et surjective telle que ∀p ∈ M, ∃U ouvert de M : π −1 (U ) =

F
Vi et Vi est un ouvert
de M̃ homéomorphe à U
3.3. Généralisation des métriques Riemanniennes 41
Cette n-forme (noté aussi dVg ) est appelé l’élément de volume. L’importance de l’élément
de volume est qu’il permet d’intégrer des applications. Si f est une fonction lisse Ravec le
support compact, alors f dV est une n-form avec le support compact. Alors l’integral M f dV
est
R bien défini et est appelé l’integral de f sur M . De même, le volume de M est défini comme
.
R
M
dV = M
1dV
3.3 Généralisation des métriques Riemanniennes

Il y a autres méthodes de mesurer les ”longueurs” des vecteurs tangents. On obtient d’autres
métriques en retirant des hypothèses dans la définition de la métrique Riemannienne.
3.3.1 Métriques pseudo-Riemanniennes

C’est un champ g de 2-tenseur symmetrique et non-dégénéré, c’est-à-dire que le seul vecteur
orthogonal à tout l’espace est le vecteur nul : g(X, Y ) = 0 pour tout Y ∈ Tp M si et seulement
si X = 0. Mais elle n’est pas nécessairement positive.
Un exemple notable d’une telle métrique est la métrique de Minkowski dans R4 : c’est
un invariant fondamental dans la théorie de la relativité restreinte d’Einstein. On peut l’expri-
mer succinctement en disant qu’en l’absence de gravité, les lois de la physique sont les mêmes
dans tout système de coordonnées, dans lequel la métrique a une expression dx21 +dx22 +dx23 −dt2 .
La théorie de la relativité générale inclut les effets gravitationnels en permettant la métrique de
varier point à point.
3.3.2 Métrique de Finsler

Dans ce cas, sur chaque espace tangent on a une norme pas nécessairement engendrée par le
produit scalaire. L’intérêt pour ces métriques est motivé par des applications dans la théorie de
plusieurs variables complexes.
3.3.3 Métrique sous-Riemannienne

Une métrique sous-riemannienne (également appelée métrique riammanienne singulière) est
une métrique sur S — un champ de k-plan ou un sous-fibre de TM). Cela signifie que les longueurs
ne sont définies que pour les vecteurs de S, et que les courbes dont on peut mesurer les longueurs
sont celles dont les vecteurs tangents sont tous en S.
L’une des motivations pour étudier les métriques sous-riemanniennes vient de la théorie du
contrôle. Dans ce sujet, on a une variété avec un champ de vecteur dépendant de paramètres
appelés les contrôles. L’objectif est de faire varier les contrôles pour obtenir une courbe de
solution avec les propriétés souhaitées. Un bon exemple de restrictions infinitésimales est un
problème de parking : la voiture a trois degrés de liberté, mais ne peut en contrôler que deux
(roues et déplacement avant-arrière).
[Lee97], Chap. 3
Paul Fraux, 3.4 Les espaces canoniques de la géométrie Riemannienne

Manolis Perrot,
Massil Hihat, 3.4.1 L’espace Euclidien
Ivan Yakovlev
Sans souci L’espace Euclidien Rn est l’exemple le plus simple de variété Riemannienne. On prend alors
comme métrique g̃ le produit scalaire usuel sur Tp Rn (que l’on identifie à Rn pour tout p de
l’espace). Plus généralement, si V est un espace vectoriel de dimension n doté d’un produit
scalaire, on peut y définir la métrique Riemannienne g(X, Y ) =< X, Y > sur Tp V = V . En
choisissant une base orthonormée (E1 , ..., En ) de V , l’application qui à (x1 , ..., xn ) ∈ Rn associe
X = xi Ei ∈ V définit une isométrie de (Rn , g̃) dans (V, g).
3.4.2 La sphère
La sphère SR n
de Rn+1 , munie de la métrique g 0 induite par celle sur Rn+1 , est une autre
variété Riemannienne canonique. La première propriété qui nous vient à l’esprit est la grande
symétrie de la sphère.
On dit que la variété Riemannienne M est homogène, s’il existe un groupe de Lie opè-
rant de manière lisse et transitivement par isométries sur M . Donc, pour chaque couple de
points de M on peut trouver une isométrie qui envoie l’un sur l’autre.
Si p ∈ M , on dit que M est isotrope dans p s’il existe un groupe de Lie opèrant par isométries
transitivement sur l’ensemble des vecteurs unitaires de Tp M .
Plus simplement, une variété homogène a les mêmes propriétés géométriques à chaque point, et
une variété isotrope a les mêmes propriétés à chaque direction.
La sphère est homogène et isotrope à chaque point. On peut le voir facilement : l’action
du groupe orthogonal O(n + 1) sur Rn+1 préserve la sphère, la métrique euclidien, et opère
transitivement sur les bases orthonormées sur la sphère.
Outre sa grande symmétrie, la sphère est localement équivalente de manière conforme à
l’espace euclidien.
Définition : deux métriques g et g 0 sur une variété M sont dites conformes l’une avec l’autre
s’il existe une fonction positive f ∈ C ∞ (M ) telle que g = f g 0 . Deux variétés Riemmanniennes
(M, g) et (M 0 , g 0 ) sont dites équivalentes de manière conforme s’il existe un difféomorphisme
ϕ : M −→ M 0 tel que g 0 ◦ ϕ soit conforme à g.
En fait, deux métriques sont conformes si et seulement si elles définissent les mêmes angles mais
pas nécessairement les mêmes longueurs.
L’équivalence de manière conforme entre Rn et la sphère SR n

⊂ Rn+1 privée d’un point
est donnée par la projection stéréographique depuis le pôle Nord, ou par la projection Mercator.
La projection stéréographique :
C’est l’application σ : SR
n
− {N } → Rn qui au point P = (ξ 1 , ..., ξ n , τ ) ∈ SR
n
− {N } associe
u dans R où U = (u , ..., u , O) ∈ R
n 1 n n+1
est le point d’intersection entre la droite (NP) et
l’hyperplan {τ = 0}.
Donc U est caractérisé par la relation N~U = λN~P pour un λ non nul. On note N = (0, R),
U = (u, 0) et P = (ξ, τ ) ∈ Rn+1 = Rn × R.
On obtient que :
Rξ
σ(ξ, τ ) = .
R−τ
3.4. Les espaces canoniques de la géométrie Riemannienne 43
Figure 3.4 – Projection stéréographique depuis le pôle Nord : B = σ(A)

[Lee97], Chap. 3
Paul Fraux, On vérifie que σ est inversible, d’inverse :

Manolis Perrot, 2R2 u
Massil Hihat, |u|2 − R2
σ −1 (u) = , R
Ivan Yakovlev |u|2 + R2 |u|2 + R2
Sans souci
On peut montrer que cette projection rendent bien équivalents la sphère et le plan. En
fait, on peut interpréter cette propriété par le fait que la projection stéréographique conserve les
angles entre des vecteurs tangents à la sphère et leurs images par σ.
De plus, les méridiens sont des droites passant par l’image du pôle Sud, et les parallèles sont des
cercles.
Quelques belles propriétés de la projection stéréographique En fait, la projection

stéréographique est la restriction de l’inversion de pôle N et de rayon approprié. Il est connu que
l’inversion préserve les cercles (sphères, hypersphères). Donc les cercles sur la sphère projetent
vers cercles. Notez que les droites sont les cercles de rayon infini. Alors, quelques exercices à ce
sujet.
Exercice. Soit P un polyèdre qui est équivalent combinatoirement à un cube (c’est à dire
il a 8 sommets, 6 faces quadrangulaire, à chaque sommet il y a trois faces). Montrer que si 7 de
sommets se trouvent sur une sphère, le dernier sommet aussi y se trouve.
Exercice Montrer qu’il est impossible de construire le centre du cercle en utilisant uniquement
la règle. (Indication : il existe une projection de le plan sur un autre plan, qui projete le cercle
vers le cercle, mais ne projete pas le centre vers le centre).
La projection de Mercator La projection de Mercator consiste à enrouler un cylindre autour

de la sphère, projeter les points de la sphère depuis le centre, puis dérouler le cylindre.
Comme pour le tore, on peut expliciter le mapping en coordonnées polaires :
M : R × [−π, π] → R3 ,
(3.8)
(Z, θ) 7→ R(Z)(cos θ, sin θ, 0) + h(Z)(0, 0, 1)
avec R(Z) = arccos(arctan(Z/a)) (3.9)

h(Z) = arcsin(arctan(Z/a)) (3.10)
puis calculer la métrique pull-back associée à M −1 sur la carte Mercator. Cette projection est
souvent employée par les marins, et pour les planisphères usuels. Elle ne conserve pas les distances
(comparer la taille du Groenland et de l’Afrique), mais on peut se faire une idée de la déformation
avec la figure suivante. Faites attention aux cercles à chaque point - ils ne sont pas déformés.
3.4.3 Plan hyperbolique

Un autre cadre canonique est le plan hyperbolique et ses généralisations. Son étude fera l’objet
de la séance 6.
3.4. Les espaces canoniques de la géométrie Riemannienne 45
(a) Projection Mercator : C = M (S) (b) Les cercles bleus sont de rayons constant
pour la métrique pull-back (M −1 )? geucl,S 2 .
Figure 3.5 – Projection de Mercator et déformations induites

[Lee97], Chap. 3
Paul Fraux,
Manolis Perrot,
Massil Hihat,
Ivan Yakovlev
Sans souci
Chapitre 4
Connexions et courbes géodésiques Séance 4

[Lee97], Chap. 4
Basile Coron,
Yohan Mandin
4.1 Dériver des champs de vecteurs ? -Huble, Lucas
Rey, Louis-
Intuitivement, une géodésique correspond à une courbe de M aussi droite que possible. Dans Pierre Chaintron
l’espace euclidien usuel Rn , les géodésiques sont précisément les droites, qui se caractérisent Technique
comme les courbes d’accélération nulle. Considérons une variété plongée dans un espace euclidien :
on pourrait de même envisager de calculer l’accélération d’une courbe γ(t) par dérivation double,
puis projeter orthogonalement ce vecteur sur l’espace tangent à M en γ(t). Dans une variété
quelconque, cela ne marche pas : dériver dans un système de coordonnées quelconque donne un
vecteur vitesse indépendant de ce système, mais il n’en va pas de même pour l’accélération.
Exemple 4.1. Considérons le cercle dans le plan. Il peut être paramétré par γ : t 7→ (cos(t), sin(t)).
Le champ des vecteurs vitesse obtenu est alors γ̇ : t 7→ (− sin(t), cos(t)) et en dérivant une fois
de plus, on obtient γ̈ : t 7→ (− cos(t), − sin(t)).
En coordonnées polaires, on peut utiliser le paramétrage t 7→ (1, t), qui donne le champ de vec-
teurs vitesse t 7→ (0, 1) : on retrouve bien ce qui précède. Néanmoins cela ne fonctionne plus pour
l’accélération : dériver deux fois donne le vecteur nul.
Il manque donc une définition intrinsèque de l’accélération. Les vecteurs vitesses évoluant dans
des fibres tangentes a priori très différentes, on ne peut définir l’accélération comme on l’a fait
pour la vitesse (les positions appartenaient toutes au même espace). La première étape consiste
à introduire un nouvel opérateur, la connexion, qui va permettre de relier les espaces tangents.
Elle permet de définir la notion de dérivée covariante d’un champ de vecteurs selon une courbe,
pour enfin arriver aux géodésiques et au transport parallèle.
4.2 Connexions affines

Définition 4.1. Soit M une variété différentielle. On note T (M ) l’ensemble des champs de
vecteurs tangents à M , i.e. des applications lisses X : M → T M telles que
∀ q ∈ M, X(q) ∈ Tq M. (4.1)
Pour q dans M , X ∈ T (M ) et f ∈ C ∞ (M, R), la dérivée directionnelle de f en q selon X est

donnée par :
d d
(Xf )(q) = “ f (q + tX(q))” = f (γ(t)), avec γ(0) = q, γ̇(0) = X(q) (4.2)
dt t=0 dt t=0
47
Séance 4 48 Chapitre 4. Connexions et courbes géodésiques
[Lee97], Chap. 4
Basile Coron, qui est une expression bien définie si X(q) est un vecteur de l’espace tangent. Une connexion
Yohan Mandin affine sur M est une application ∇ : T (M ) × T (M ) → T (M ) qui vérifie les propriétés suivantes :
-Huble, Lucas Linéarité à gauche Pour f, g ∈ C ∞ (M, R), ∇f X1 +gX2 Y = f ∇X1 Y + g∇X2 Y
Rey, Louis- R-linéarité à droite Pour a, b ∈ R, ∇X (aY1 + bY2 ) = a∇X Y1 + b∇X Y2
Pierre Chaintron Leibnitz-linéarité à droite Pour f ∈ C ∞ (M, R), ∇X (f Y ) = f ∇X Y + (Xf )Y
Technique
Remarque 4.1. A priori, le comportement de ∇X (Y ) en p dépend de celui de X et Y sur toute
la variété, et pas seulement en p. C’est pourquoi la propriété de linéarité à gauche est globale et
distincte d’une simple R-linéarité.
Exemple 4.2. Sur Rn (ou plus généralement sur tout ouvert U de Rn , la connexion naturelle,
appelée connexion euclidienne, est :
n
X
∇X Y = (XY i )∂i = (XY i )∂i (4.3)
i=1
en utilisant la notation sommatoire d’Einstein, ce qu’on fera toujours par la suite. Définie à partir
d’un système de coordonnées locales arbitraire, ∂i est l’application qui à p ∈ M associe le i-ème
vecteur d’une base de Tp M convenue. Dans Rn , c’est l’application constante donnant le i-ième
vecteur de la base canonique. Le cas euclidien permet de voir un champ de vecteurs comme une
application f ∈ C ∞ (U, Rn ). On a alors plus simplement
∇X Y (p) = dY (p)(X(p)) (4.4)
Remarque 4.2. On a vu au chapitre précédent qu’une structure métrique était en gros la don-
née d’une base orthonormée (e1 (q), e2 (q), . . . , en (q)) en chaque point q d’une carte. Il est donc
raisonnable de penser que, pour comprendre les courbes géodésiques, il faille décrire la manière
dont évolue un champs de bases (ou, ce qui est équivalent, n champs de vecteurs e1 (·), . . . , en (·))
avec le point courant q.
De même qu’une métrique riemannienne est la notion infinitésimale qui correspond à la
longueur d’une courbe, une connexion doit être vue comme la différentielle par rapport au point
de base q du transport d’un vecteur Y le long d’un déplacement Xdt :
« (∇X Y )dt quantifie la manière dont Y varie le long de Xdt » (4.5)
Cette interprétation qualitative correspond intuitivement à l’expression 4.4 pour la connexion

euclidienne : on s’intéresse à la façon dont varie un champ de vecteurs relativement à un autre.
La linéarité en la première variable est donc tout naturelle : aller deux fois plus loin (X → 2X),
c’est donner à Y deux fois plus d’espace pour varier. La “Leibniz-linéarité” en la seconde variable
est alors une simple conséquence de la formule de dérivation d’un produit.
Dans notre manuel, l’étude des variations d’une base orthonormale avec la position est dé-
coupée en deux temps : les exemples explicites, les liens avec les propriétés géométriques ne
seront abordées qu’à partir du chapitre suivant. Pour aujourd’hui, nous nous contenterons d’une
approche axiomatique, proche de celle adoptée par un cours d’analyse fonctionnelle ou d’EDP
mathématique : en nous contentant des axiomes de linéarité/Leibniz-linéarité ci-dessus, valables
au premier ordre, nous montrerons des résultats forts sur la résolution d’équations différentielles
liées aux géodésiques et aux problèmes de transport.
Les lemmes suivants montrent que l’opérateur ∇ est local : sa valeur en un point ne dépend que
du comportement de X et Y dans un voisinage arbitrairement petit de ce pont. Cela s’apercevait
dans l’exemple de la connexion euclidienne.
4.2. Connexions affines 49
Lemme 4.1. Soit ∇ une connexion affine sur M , p ∈ M ainsi que X1 , X2 , Y1 , Y2 ∈ T (M ). Si

X1 = X2 et Y1 = Y2 au voisinage de p, alors ∇X1 Y1 (p) = ∇X2 Y2 (p)
Démonstration. On va prouver le résultat pour Y , le cas de X étant analogue. Par linéarité de

∇ en Y , on peut se ramener à Y nulle sur un voisinage U de p. Montrons alors que ∇X Y (p) = 0.
On prend ϕ ∈ C ∞ (M, R) à support dans U et valant 1 en p. ϕY est alors identiquement nulle
sur M , ce qui permet d’utiliser la linéarité en la seconde variable, car on s’est ramené à une
propriété globale :
∇X (ϕY ) = ∇X (0.ϕY ) = 0.∇X (ϕY ) = 0
Par Leibnitz-linéarité,
0 = ∇X (ϕY ) = ϕ∇X (Y )(p) + (Xϕ)Y
Évaluant chaque membre en p, on a bien ∇X (Y )(p) = 0.
Lemme 4.2. ∇X Y (p) ne dépend que de X(p), et du comportement de Y au voisinage de p.
Démonstration. Par linéarité, il suffit de montrer que X(p) = 0 entraine ∇X Y (p) = 0. Consi-
dérons un voisinage U de p sur lequel on dispose d’un système de coordonnées permettant la
décomposition X = X i ∂i . Le lemme précédent assure que la valeur de ∇X Y en p ne dépend que
du comportement de X et Y , ce qui permet d’utiliser localement les propriétés de la connexion :
∇X Y (p) = ∇X i ∂i Y (p) = X i (p)∇∂i Y (p) = 0 (4.6)
Soit maintenant U un ouvert de M muni d’un système de coordonnées locales. Chaque ∇∂i ∂j se
décompose dans la base (∂k ), d’où n3 fonctions Γkij ∈ C ∞ (M, R) telles que :
∇∂i ∂j = Γkij ∂k (4.7)
Ces fonctions sont appelés symboles de Christoffel de la connexion ∇.

Remarque 4.3. L’espace tangent en tout point de Rn est Rn lui-même : on utilise systématique
la base canonique. Par conséquent les application ∂i sont constantes, donc de différentielle nulle :
la connexion euclidienne a tous ses symboles de Christoffel nuls. Le lemme suivant montre que
l’action de ∇ sur U est entièrement déterminée par ses symboles de Christoffel.
Lemme 4.3. Soit ∇ une connexion affine sur M, U un ouvert de M, X = X i ∂i , Y = Y i ∂i dans

le système de coordonnées locales associé à U . On a :
∇X Y = (XY k + X i Y j Γkij )∂k (4.8)
Démonstration. C’est un simple développement :
∇X Y = ∇X (Y j ∂j ) par décomposition dans la base canonique, (4.9)

j j
= (XY )∂j + Y ∇X i ∂i ∂j par Leibniz-linéarité en Y , (4.10)
j i
= (XY )∂j + X Y ∇∂i ∂jj
par linéarité en X, (4.11)
j
= (XY )∂j + X Y i j
Γkij ∂k par définition des Γkij . (4.12)
[Lee97], Chap. 4
Basile Coron, Ce résultat est du type « opérateur algébrique déterminé par des paramètres scalaires ». C’est
Yohan Mandin l’analogue pour les connexions (i.e. les applications linéaires à gauche, Leibniz-linéaires à droite)
-Huble, Lucas du célèbre résultat de prépa : « une application linéaire est entièrement déterminée par l’image
Rey, Louis- de la base canonique ». Les symboles de Christoffel sont donc moralement les « coefficients » de
Pierre Chaintron la connexion : nous verrons au chapitre suivant comment on peut les relier aux coefficients de
Technique la métrique g. Nous allons maintenant voir comment construire des connexions sur une variété.
Sans surprise, il suffira de donner explicitement les « coordonnées dans la base canonique »,
les fameux symboles de Christoffel : le lemme suivant montre comment construire toutes les
connexions affines sur une variété couverte par un seul système de coordonnées (un ouvert de Rn
par exemple).
Lemme 4.4. Soit M une telle variété différentielle. La donnée d’une connexion affine sur M
revient exactement à la donnée de n3 fonctions Γkij ∈ C ∞ (M, R) par la formule :
∇X Y = (XY k + X i Y j Γkij )∂k (4.13)
Démonstration. À une connexion sur M on associe n3 telles fonctions, qui sont entièrement
déterminées par la connexion. Réciproquement, avec n3 fonctions Γkij ∈ C ∞ (M, R) un calcul
montre que la formule ci-dessus défini bien une connexion ayant pour coefficients de Christoffel
les Γkij .
En recollant les connexions affines obtenues sur les ouverts d’un revêtement de M , on obtient
alors le résultat suivant :
Propriété 4.1. Sur toute variété il existe une connexion affine.
Démonstration. On recouvre M par des ouverts (Uα ) : sur chacun d’eux on a une connexion ∇α .
On se donne une partition de l’unité
P (ϕα ), i.e. une famille de fonctions lisses
Ptelle que ϕα soit à
support dans Uα pour tout α, et α ϕα = 1 sur M . Alors ∇ : (X, Y ) → α ϕα ∇α X Y est une
connexion sur M .
Remarque 4.4. Une combinaison linéaire de connexions n’en est pas nécessairement une, à cause
de la Leibniz-dérivation. ∇ et ∇0 étant deux connexions, ni 12 ∇ ni
P∇ + ∇ n’en sont en général.
0
Ce qui précède fonctionne grâce à la condition de normalisation ϕα = 1.
4.3 Dérivation d’un champ de vecteur sur une courbe para-

métrée
Soit γ une courbe dans M paramétrée par un intervalle I de R.
Définition 4.2. Un champ de vecteurs le long de la courbe γ est une application V de classe C ∞
de I dans T M , telle que V (t) ∈ Tγ(t) M pour tout t dans I . On note T(γ) l’espace des champs
de vecteurs le long de γ.
Usuellement, un champ de vecteurs tangents est simplement une application V : M → T M . Un

tel champ peut être « restreint » en un champ de vecteurs le long de γ par t 7→ Vγ(t) . On dit
qu’un champ de vecteur le long d’une courbe est extensible s’il est la restriction d’un champ de
vecteurs tangents.
Exemple 4.3. Les cas suivants seront utiles par la suite :
• t 7→ γ̇(t) est un champ de vecteurs le long de γ.
4.4. Géodésiques 51
• Les applications ∂i : I 7→ T M qui associent à t le i-ème vecteur d’une base fixée de

Tγ(t) M sont des champs de vecteurs le long de γ extensibles, car restriction des champs
∂i habituels.
• S’il existe t0 et t1 distincts tels que γ(t0 ) = γ(t1 ), un champ de vecteurs f le long de γ tel
que f (t0 ) 6= f (t1 ) n’est pas extensible, car un champ V : M → T M ne peut envoyer un
même point sur deux vecteurs tangents distincts.
Une connexion affine va alors permettre de définir une notion voisine de la « dérivation » le long
d’une courbe.
Lemme 4.5. Pour toute courbe γ, une connexion affine ∇ détermine un unique opérateur :
Dt : T(γ) → T(γ) (4.14)
vérifiant
R-linéarité Dt est linéaire.
Leibnitz-linéarité Pour toute f ∈ C ∞ (I), Dt (f V ) = f˙V + f Dt V
Compatibilité avec ∇ Pour V extensible d’extension Ve , ∀t0 ∈ I, Dt V (t0 ) = ∇γ̇(t0 ) (Ve ◦ γ)(t0 ).
Un tel opérateur dépend seulement localement des valeurs de γ. γ̇ n’étant pas un élément de
T (M ), i.e. un champ de vecteurs tangents défini sur M , la notation ∇γ̇(t0 ) peut paraitre abusive.
Néanmoins ∇X (Y )(p) ne dépend que de X(p), et du comportement de Y au voisinage de p : la
décomposition de ∇ par les symboles de Christoffel assure que tout ceci à un sens. Si l’espace
tangent Tγ̇(t0 ) M est identifié à M , on peut aussi voir γ̇(t0 ) comme un champ constant de M
dans T M .
Démonstration. Fixons t0 dans I ainsi qu’un voisinage de γ(t0 ) pour lequel on dispose d’une base
locale de l’espace tangent en chaque point : {Ei } de sections associées {∂i }. Dans cette base un
champ de vecteurs V étendu en Ve s’écrit :
X
Ve = Ve j ∂j = Ve j ∂j (4.15)
j
En utilisant (4.8), on montre l’unicité en calculant que
Dt V = ∇γ̇ (Ve ◦ γ) = ∇γ̇ (Ve ◦ γ)i ∂i (4.16)

= γ̇ (Ve ◦ γ)k + γ̇ i (Ve ◦ γ)k Γkij ∂k (4.17)

= V̇ k + V j γ̇ i (Γkij ◦ γ) ∂k (4.18)
Pour l’existence, on vérifie que l’opérateur défini par cette formule a les propriétés souhaitées.
4.4 Géodésiques
Ayant construit une dérivation formelle sur les courbes, on peut revenir à notre objet initial :
l’étude des géodésiques.
Définition 4.3. On appelle géodésique toute courbe γ telle que Dt γ̇ est nul, ce que l’on note
souvent 1 :
∇γ̇ γ̇ = 0 (4.19)
1. Il s’agit d’un abus, dans la mesure où γ̇ n’est pas un champ M → T M
[Lee97], Chap. 4
Basile Coron, Théorème 4.1 (Existence et Unicité des géodésiques). Soient p ∈ M , X ∈ Tp M , t0 ∈ R, il

Yohan Mandin existe un intervalle ouvert I de R contenant t0 et une géodésique γ : I → M telle que γ̇(t0 ) = X.
-Huble, Lucas De plus deux telles géodésiques définies respectivement sur des intervalles I et I 0 contenant t0 sont
Rey, Louis- égales sur leur domaine de définition commun (I ∩ I 0 ). On peut alors considérer une géodésique
Pierre Chaintron définie sur le plus grand intervalle possible, et parler de la géodésique passant par p et de vitesse
Technique initiale X
Démonstration. Localement on dispose de la formule 4.18 pour un champ de vecteurs quelconque

V . En remplaçant V par γ̇ la condition Dt γ̇ = 0 donne l’équation différentielle d’ordre 2 en
γ(t) = (γ 1 (t), ..., γ n (t)) : XX
∀ k, γ̈ k + γ̇ i γ̇ j Γkij γ(t) = 0. (4.20)

i j
Le théorème de Cauchy-Lipschitz donne immédiatement l’existence. Pour l’unicité, on prend

deux géodésiques comme dans l’énoncé du théorème, définies sur I et I 0 contenant tous deux t0 .
Par la partie unicité du théorème de Cauchy-Lipschitz elles sont égales sur un certain voisinage
I 00 inclus dans (I ∩ I 0 ). On peut donc prendre β le sup des b tels que les deux solutions soient
égales sur [t0 , β]. Si β n’est pas au bord de I ou I 0 , l’application de la partie unicité du théorème
de Cauchy-Lipschitz en β contredit la maximalité de β.
Remarque 4.5. Dans le cas de la connexion euclidienne, tous les symboles de Christoffel sont
nuls et l’équation des géodésiques devient γ̈ = 0 : les géodésiques sont des droites, parcourues à
vitesse constante (unitaire si on prend un paramétrage normal
Remarque 4.6. L’équation (4.20) peut être vue comme une équation de contrôle d’ordre 2 sur le
point courant γ(t) : la commande de vitesse γ̇ est ajustée en temps réel pour rester “constante”
au sens de ∇,
(4.21)

γ̇(t + dt) = γ̇(t) + dt · Bγ(t) γ̇(t) , γ̇(t)
où Bγ(t) est une forme bilinéaire. Le “problème” est ici que ce contrôle quadratique peut exploser
en temps fini : j’en veux pour preuve le cas classique de l’équation différentielle réelle
ẏ = 1 + y 2 , (4.22)
dont les solutions t 7→ tan(t − t0 ) ne peuvent être définies sur des intervalles de longueurs
supérieures à π, ou de l’équation
ẏ = y 2 , (4.23)
dont les solutions t 7→ − t−t
1
0
divergent en temps fini dans une direction et s’écrasent dans l’autre.
Remarque 4.7. Le théorème de Cauchy-Lipschitz ne permet donc pas a priori de disposer de
géodésiques définies pour tout temps. En anticipant sur les chapitres suivants et le lien entre
géodésiques “au sens des connexions” et géodésiques “qui minimisent la longueur”, il n’est pas
difficile de produire des contre-exemples explicites.
Ainsi, sur la bande − 1, +1 × R munie de la métrique euclidienne canonique geucl , on pourra

√ √ √ √
montrer que la courbe γ : t ∈ − 2, + 2 7→ t/ 2, t/ 2 est une géodésique (au sens de
la connexion métrique associée) de vitesse unitaire qui ne peut être prolongée : les bords du
domaine sont atteints !
Si l’on veut des géodésiques qui vont à l’infini “pour de vrai” (ce qui n’est pas un notion
intrinsèque), il suffit de considérer le changement de coordonnées

ϕ: R×R → − 1, +1 × R
(4.24)
(x, y) 7→ (2 arctan(x)/π , y)
4.5. Transport parallèle 53
√ √
et de munir R × R de la métrique pull-back ϕ? geucl . La courbe ϕ−1 ◦ γ : − 2, + 2 → R × R
est alors une géodésique pour la connexion associée, qui explose à l’infini aux deux bornes de
l’intervalle de définition – on sait en effet que ϕ est une isométrie entre R × R , ϕ? geucl et
] − 1, +1[ × R , geucl .

4.5 Transport parallèle

On a vu que les connexions sont des opérateurs locaux au sens où l’on ne considère le transport
d’un champ de vecteurs que selon des déplacements infinitésimaux (représentés par les vecteurs
tangents “X”). On peut tout à fait voir les choses de manière globale en considérant des dépla-
cements selon non plus un vecteur mais une courbe tout entière : c’est la notion de transport
parallèle. Soit M une variété munie d’une connexion ∇.
Définition 4.4 (Champ de vecteurs parallèle). On dit d’un champ de vecteurs le long d’une
courbe γ qu’il est parallèle le long de γ si Dt V = 0.
On a alors le résultat suivant :
Théorème 4.2 (Transport parallèle). Soit γ : I → M , t0 ∈ I, X ∈ Tγ (t0 )M . Il existe un unique
champ de vecteurs V le long de γ parallèle le long de γ tel que V (t0 ) = X.
Démonstration. En reprenant la formule 4.18, la condition de parallélisme de V s’écrit :

XX
∀k, V̇ k (t) + V j (t)γ̇ i (t)Γkij γ(t) = 0. (4.25)

i j
Il s’agit maintenant d’une équation différentielle d’ordre 1 linéaire : le théorème de Cauchy-

Lipschitz permet de conclure.
Remarque 4.8. La linéarité de l’équation est cruciale pour obtenir l’existence du champ parallèle
sur toute la courbe γ. On a en effet remplacé l’équation de contrôle quadratique (4.21) par le
contrôle linéaire
(4.26)

V (t + dt) = V (t) + dt · Bγ(t) γ̇(t) , V (t)
où q 7→ Bq (·, ·) est une application continue de M dans l’espace des formes bilinéaires muni de
la norme d’opérateur – nous travaillons en dimension finie. Si kBq k était uniformément borné, le
très utile lemme de Grönwall permettrait alors d’assurer un résultat intuitivement crédible :
kV (t)k 6 kV (0)k ekBq k∞ t , (4.27)
et donc, par complétude de R, la bonne définition de solutions sur R tout entier – Cf. un grand
classique de spé, le “théorème des bouts”.
Notez qu’en toute généralité, kBq k n’est pas uniformément bornée... Mais comme elle est
continue et que l’image par γ de tout intervalle [0, T ] est compacte, on peut toujours prolonger
“raisonnablement” l’intervalle de définition d’une solution de l’équation (4.25) et donc, en utilisant
les arguments habituels, obtenir des prolongement à R tout entier des solutions.
Soient alors γ une courbe dans M définie sur un intervalle I et t0 , t1 deux réels de I. On peut
définir une fonction Pt0 t1 : Tγ(t0 ) M → Tγ(t1 ) M qui à un vecteur V0 associe le vecteur V1 défini
par V1 = V (t1 ) avec V l’unique champ de vecteurs parallèle le long de γ tel que V (t0 ) = V0 .
On peut donc “transporter” un vecteur tangent le long de la courbe γ. Réciproquement, on peut
revenir du global au local par un taux d’accroissement classique.
[Lee97], Chap. 4
Basile Coron,
Yohan Mandin
-Huble, Lucas
Rey, Louis-
Pierre Chaintron
Technique
Chapitre 5
Géodésiques Riemanniennes Séance 5

[Lee97], Chap. 5
Nicolas Masson,
Pascal Millet,
5.1 Connexion associée à une métrique Riemannienne Raphaël Barboni,
Antoine Le Calvez
On cherche à associer de manière naturelle une connexion à une variété M sur laquelle est Équilibré
définie une métrique Riemannienne. On demande pour cela deux propriétés (compatibilité avec la
métrique et symétrie) qui sont naturelles dans le sens où elles déterminent une unique connexion
qui coïncide avec celle induite par la connexion euclidienne si on plonge la variété M dans Rn
(ce qui est toujours possible d’après un théorème de Nash).
5.1.1 Cas d’une sous-variété de Rn

Dans ce cas, on peut naturellement induire une connexion ∇⊥ sur M à partir de la connexion
∇ euclidienne. En effet, considérons deux champs de vecteurs X et Y sur M que l’on prolonge
de manière C ∞ à Rn en X̃ et Ỹ . On définit alors :
∇⊥ ⊥
X Y := π (∇X̃ Ỹ ) (5.1)
Où π ⊥ est la projection orthogonale sur l’espace tangent à M .
Démonstration. L’application est bien définie. En effet, ∇X̃ Ỹ (P ) ne dépend que de X̃(P ) et de Ỹ
le long d’une courbe passant par P et de vecteur tangent X(P) en P. Cela résulte de l’expression
de ∇X Y sur un voisinage U de P, démontrée au chapitre précédent :
∇X̃ Ỹ = (X̃ Ỹ k + X̃ i Ỹ j Γkij )∂k (5.2)
Grâce à cette remarque, on ne notera plus les˜dans la suite. Le caractère C ∞ provient du fait que
la projection M → L(Rn ), P 7→ πP⊥ est C ∞ . Les deux premiers axiomes de linéarité sont évidents
avec la linéarité de π ⊥ . Soit f ∈ C ∞ (M ), on a f Ỹ qui prolonge f Y , donc on peut écrire :
∇⊥ ⊥
X f Y = π ((Xf )Y + f ∇X Y ) (5.3)
⊥ ⊥
= (Xf )π Y + f π ∇X Y linéarité de π ⊥
(5.4)
= (Xf )Y + f ∇⊥
XY car Y est déjà dans l’espace tangent (5.5)
55
Séance 5 56 Chapitre 5. Géodésiques Riemanniennes
[Lee97], Chap. 5
Nicolas Masson, 5.1.2 Application au tore

Pascal Millet,
Raphaël Barboni, On va calculer les coefficents de Christoffel dans le système de coordonnées global sur le tore
Antoine Le Calvez vu dans un chapitre précédent (le paramètre θ désigne l’angle autour de l’axe de révolution et le
Équilibré paramètre ϕ permet de reperer le point sur le cercle qui engendre le tore par révolution autour
de l’axe). De sorte qu’on a :
 
(b cos ϕ + a) cos θ
P (θ, ϕ) =  (b cos ϕ + a) sin θ  (5.6)
b sin ϕ
On utilise la définition des ∂i pour calculer une base de l’espace tangent au point P (θ, ϕ). Comme
le tore est plongé dans R3 , ils peuvent être exprimés dans la base canonique :
 
−(b cos ϕ + a) sin θ
∂θ (θ, ϕ) = +(b cos ϕ + a) cos θ (5.7)
0
 
− sin ϕ cos θ
∂ϕ (θ, ϕ) = b  − sin ϕ sin θ  (5.8)
cos ϕ
Il est également utile de calculer les coordonnées du vecteur normal à la surface du tore en P (θ, χ)
 
cos ϕ cos θ
n(θ, ϕ) =  cos ϕ sin θ  (5.9)
sin ϕ
Pour avoir les symboles de Christoffel, il faut exprimer ∇⊥

∂i ∂j . Pour cela on utilise la définition
de la connexion tangentielle à partir de la connexion euclidienne ∇ (on notera également ∂i
les champs prolongés à l’espace tout entier). Dans le cas de la connexion euclidienne ∇ on a :
∇X Y (P ) = dYP (X(P )).
−b sin ϕ
∇∂θ ∂ϕ (P ) = ∂θ (5.10)
a + b cos ϕ
−b sin ϕ
∇∂ϕ ∂θ (P ) = ∂θ (5.11)
a + b cos ϕ

sin ϕ
∇∂θ ∂θ (P ) = (b cos ϕ + a) ∂ϕ − cos ϕn (5.12)
b
∇∂ϕ ∂ϕ (P ) = −bn (5.13)
D’où on déduit avec la définition :

−b sin ϕ
Γθθϕ (P ) = et Γϕ
θϕ (P ) = 0 (5.14)
a + b cos ϕ
−b sin ϕ
Γθϕθ (P ) = et Γϕ
ϕθ (P ) = 0 (5.15)
a + b cos ϕ

sin ϕ
Γθθθ (P ) = 0 et Γϕ
θθ (P ) = (b cos ϕ + a) (5.16)
b
Γθϕϕ (P ) = 0 et Γϕ
ϕϕ (P ) = 0 (5.17)
5.1. Connexion associée à une métrique Riemannienne 57
(a) Sur la carte 2D, on peut faire les calculs (b) En 3D, le résultat est bien conforme à nos
simplement – modulo les Christoffels. attentes !
Figure 5.1 – Géodésiques de longueur 3π/2 tirées à partir du grand équateur, sur le tore de
rayon médian 2 et de section 1. Les trajectoires sont intégrées par une simple méthode d’Euler,
sur un domaine rectangulaire périodique (θ, ϕ) ∈ S 1 × S 1 .
Équation géodésique :
−b sin ϕ
γ̈ θ + 2γ̇ θ γ̇ ϕ = 0 (5.18)
a + b cos ϕ
sin ϕ
γ̈ ϕ + (γ˙θ )2 (b cos ϕ + a) = 0 (5.19)
b
5.1.3 Compatibilité avec g

On aimerait se rapprocher du cas de la connexion euclidienne ∇ de Rn qui vérifie :
∇X hY, Zi = h∇X Y, Zi + hY, ∇X Zi (5.20)
Du fait de l’expression de la connexion euclidienne et de la bilinéarité du produit scalaire.

Définition 5.1. On dit qu’une connexion ∇ est compatible avec g si, pour tous champs de
vecteurs X, Y , Z :
∇XhY, Zi = h∇X Y, Zi +hY, ∇X Zi (5.21)
Remarque 5.1. Dans le cas d’un champ scalaire f on a : ∇X f = (Xf ).
En particulier ∇X hY, Zi = (XhY, Zi),ce que l’on notera simplement XhY, Zi.
Lemme 5.1. Étant données une connexion ∇ et une métrique g, les propositions suivantes sont
équivalentes :
1. ∇ est compatible avec g
2. Pour toute courbe γ sur M extensible et pour tous champs de vecteurs U et V le long
de γ, Dt hX, Y i = hDt X, Y i +hX, Dt Y i
[Lee97], Chap. 5
Nicolas Masson, 3. Pour toute courbe γ sur M , si U et V sont deux champs de vecteurs parallèles le long
Pascal Millet, de γ, hU, V i est constant.
Raphaël Barboni, 4. Pour toute courbe γ et pour tout réels t0 et t1 de l’intervalle de définition de γ, le transport
Antoine Le Calvez
parallèle le long de γ de γ(t0 ) à γ(t1 ) est une isométrie. Autrement dit le transport parallèle
Équilibré
conserve la norme des vecteurs.
Démonstration. Traitons les implications suivantes :
1)⇒2) Par définition de Dt et car ∇ est compatible avec g,
DthX, Y i = ∇γ̇hX, Y i (5.22)

= h∇γ̇ X, Y i+ hX, ∇γ̇ Y i (5.23)
= hDt X, Y i + hX, Dt Y i (5.24)
2)⇒3) Évident car si U et V sont parallèles le long de γ, par définition Dt U = Dt V = 0.

Donc DthU, V i = 0 et hU, V i est constant le long de γ.
3)⇒4) Cas particulier de 3) avec U = V .
4)⇒3) On utilise les identités de polarisation.
3)⇒1) On repasse par la définition de la dérivation directionnelle suivant le champ X au
point P :
1
XhY, Zi(P ) = lim [hY, Zi (γ(t)) −hY, Zi (γ(0))] (5.25)
t→0 t
où γ est un chemin tel que γ(0) = P et γ 0 (0) = X(P ). On a supposé que transporter parallèlement
les vecteurs le long de γ ne change pas le produit scalaire. On notera X(P 0 )P le vecteur du champ
X au point P 0 transporté parallèlement au point P le long de γ.
On a donc
1
X(P )hY, Zi = lim [hY (γ(t))P , Z (γ(t))P i −hY (P ), Z(P )i] (5.26)
t→0 t
On fait apparaitre le produit intermédiaire hY (γ(t))P , Z(P )i.

On utilise alors les limites démontrées au chapitre précédent (avec le fait que γ 0 (0) = X(P )) :
1
lim [Y (γ(t))P − YP ] = ∇X Y (P ) (5.27)
t→0 t
1
lim [Z (γ(t))P − ZP ] = ∇X Z(P ) (5.28)
t→0 t
On obtient l’égalité voulue avec la continuité du produit scalaire sur TP M 2 (vraie pour une
application bilinéaire en dimension finie).
Remarque 5.2. A priori l’unicité d’un connexion ∇ compatible avec la métrique g n’est pas
assurée. On cherche donc dans la suite à renforcer les hypothèses pour avoir une connexion
canonique associée à la métrique g.
5.1.4 Symétrie
Définition 5.2. On dit qu’une connexion est symétrique si elle vérifie :
∇X Y − ∇Y X = [X, Y ] (5.29)
Où [X, Y ] désigne un champ de vecteur appelé crochet de Lie de X et Y , qui quantifie le défaut de
commutativité des flots de X et Y – c’est une notion abordée en cours de géométrie différentielle,
5.2. Géodésiques et isométries 59
qui ne dépend que des champs de vecteurs et de la structure de variété. Nous ne l’utiliserons pas
par la suite. Pour la démonstration de l’unicité de la connexion de Levi-Civita, il suffit de savoir
que [X, Y ] ne dépend pas de ∇.
Exemple 5.1. La connexion tangentielle sur M sous-varieté de Rn est à la fois symétrique et
compatible avec la métrique.
Théorème 5.1 (Théorème fondamental de la géométrie riemannienne). Soit (M, g) une variété
riemannienne. Il existe une unique connexion linéaire compatible avec g et symétrique. Elle est
appelée connexion de Levi-Civita.
Démonstration. On montre ici l’unicité. Puisque ∇ respecte g, on a :
XhY, Zi = h∇X Y, Zi + hY, ∇X Zi (5.30)

YhZ, Xi = h∇Y Z, Xi + hZ, ∇Y Xi (5.31)
ZhX, Y i = h∇Z X, Y i + hX, ∇Z Y i (5.32)
Par symétrie, on obtient :
XhY, Zi = h∇X Y, Zi + hY, ∇Z Xi + hY, [X, Z]i (5.33)

YhZ, Xi = h∇Y Z, Xi + hZ, ∇X Y i + hZ, [Y, X]i (5.34)
ZhX, Y i = h∇Z X, Y i + hX, ∇Y Zi + hX, [Z, Y ]i (5.35)
En sommant les deux premières lignes, en soustrayant la troisième puis en réarrangeant les
termes, il vient :
1
h∇X Y, Zi = XhY, Zi + YhZ, Xi − ZhX, Y i −hY, [X, Z]i +hX, [Z, Y ]i (5.36)
2
Cette expression ne dépend pas de ∇. Donc, puisqu’un vecteur V est uniquement déterminé par
la forme linéaire hV, .i, le champ de vecteur ∇X Y est uniquement déterminé par cette égalité.
Pour l’existence, on pose pour tout système de coordonnées locales les symboles de Christoffel
(qui déterminent entièrement la connexion) :
1 kl
Γkij = g (∂i gjl + ∂j gil − ∂l gij ), (5.37)
2
où les g kl désignent les coefficients de la cométrique g −1 . Il faudrait alors démontrer que la
connexion est bien définie, qu’elle vérifie la propriété de symétrie et la compatibilité avec g
mais nous ne le ferons pas ici. L’important pour la suite est de retenir que l’on peut calculer les
symboles de Christoffel de la connexion de Levi-Civita à partir des coefficients de la métrique.
Remarque 5.3. La connexion tangentielle sur une sous-varieté de Rn est donc la connexion de
Levi-Civita sur cette sous-varieté.
5.2 Géodésiques et isométries

Dans ce cours, nous avons opté pour une définition locale des géodésiques. Au lieu de les voir
comme des courbes minimisant la longueur entre deux points, on a préféré adopter un point de
vue différentiel en les définissant comme les courbes “d’accélération nulle”. Le lien entre point de
vue métrique (intuitif), variationnel (utile) et différentiel (pratique) sera fait au chapitre 7. Pour
l’instant, il faut donc vérifier explicitement que les géodésiques Riemanniennes “différentielles”
se comportent bien vis à vis d’objets métriques définis précédemment : les isométries.
[Lee97], Chap. 5
Nicolas Masson, Proposition 5.1. Soit ϕ : (M, g) → (M̃ , g̃) une isométrie.
Pascal Millet, ˜ de
1. ϕ envoie la connexion Riemannienne ∇ de (M, g) sur la connexion Riemannienne ∇
Raphaël Barboni,
g̃, au sens où :
Antoine Le Calvez ˜ dϕX (dϕY )
Équilibré ϕ∗ (∇X Y ) = ∇ (5.38)
2. Si γ est une courbe et V un champ de vecteurs le long de γ, alors
ϕ∗ Dt V = D̃t (dϕV ) (5.39)
3. ϕ envoie une géodésique sur une géodésique : si γ est la géodésique de M partant de p

avec la vitesse V , alors ϕ ◦ γ est la géodésique de M̃ partant de ϕ(p) avec la vitesse dϕV
Démonstration. Pour le premier point, on définit ϕ∗ ∇ ˜ par ϕ∗ ∇
˜ X Y = dϕ−1 (∇
˜ dϕX (dϕY )). On
∗˜
montre que ϕ ∇ est une connexion (appelée connexion pullback ) symétrique et compatible avec
˜ = ∇.
g (par linéarité de dϕ), ce qui implique par unicité de la connexion Riemannienne que ϕ∗ ∇
Pour le deuxième point, on définit un opérateur ϕ D̃t : T(γ) → T(γ) par une formule similaire,
∗
et on conclut par unicité. Enfin, le troisième point se déduit immédiatement du deuxième.
5.3 Carte exponentielle

Comment travailler efficacement sur une variété ? Étant donné un point de référence p, une
idée forte sera de décrire un voisinage (aussi grand que possible !) de celui-ci en associant à “tout”
vecteur V de l’espace tangent Tp M le point “d’arrivée” obtenu en avançant tout droit en direction
de V pendant un temps 1. On a vu qu’à un vecteur tangent à M au point p, V ∈ Tp M , on peut
associer une unique géodésique maximale solution du problème de Cauchy :
(
γ(0) = p
(Shootp,V ) : (5.40)
γ̇(0) = V
Reste à voir si cette géodésique n’explose pas aux bords de la variété avant le temps 1.
Définition 5.3. On définit le domaine de la carte exponentielle par :
p := {V ∈ Tp M | γV est définie sur un intervalle contenant [0, 1]} (5.41)
et la carte exponentielle par : (

p → M
expp : . (5.42)
V 7 → γV (1)
La carte exponentielle fait ainsi le lien entre l’espace vectoriel Tp M et la variété courbe M via
les géodésiques.
Exemple 5.2 (Exponentielle complexe). Si M = S 1 muni de la métrique canonique, et qu’on prend

pour point de base p = 1, on peut identifier Tp M avec la droite imaginaire iR. Sans surprise,
la carte exponentielle riemannienne agissant par “enroulements” est donnée par... l’exponentielle
complexe !
Exemple 5.3 (Projection azimutale équidistante). Nous démontrerons que les géodésique sur la
sphère sont bien celles que l’on attend à la fin du chapitre. En cartographie, la carte exponentielle
a alors un nom : c’est la projection azimutale équidistante, qui est par exemple utilisée sur
l’emblème des Nations Unies – voir Figure 5.2.
5.3. Carte exponentielle 61
(a) Construction de la carte. (b) Système de coordonnées radiales au pôle

Nord. Notons qu’ici, la carte est définie sur le
plan tout entier – même si la bijectivité n’est
assurée qu’au voisinage du point de repère.
Figure 5.2 – Projection azimutale équidistante au pôle Nord.
Lemme 5.2 (Lemme de changement d’échelle). Pour tout V ∈ Tp M et c, t ∈ R, lorsque cela a

un sens
γcV (t) = γV (ct) (5.43)
De plus lorsqu’un membre est défini, l’autre aussi (et on a égalité).
Autrement dit, on a équivalence entre “aller c fois plus vite” et “attendre c fois plus longtemps”.
Démonstration. On peut supposer que γV (ct) est défini (sinon, on s’y ramène en changeant c et
V ). On a donc γV : I → M avec ct ∈ I. On pose
(
J →M
γ̃ : (5.44)
t 7→ γV (ct)
où J = {t ∈ I : ct ∈ I} Il suffit de démontrer que γ̃ est une géodésique de vecteur dérivé en 0

égal à cV pour avoir l’existence du second membre et égalité. On repasse par les coordonnées
locales. On note Dt et D̃t les dérivations suivant γ et γ̃.

˙ d ˙k
D̃t γ̃(t) = γ̃ (t) + Γkij (γ̃(t))γ̃˙ i (t)γ̃˙ j (t) ∂k (5.45)
dt
= c2 γ̈ k (ct) + c2 Γkij (γ(ct))γ̇ i (ct)γ̇ j (ct) ∂k (5.46)

= c2 Dt γ̇(ct) = 0 (5.47)
Le point clé est donc que, tant pour l’accélération γ̈ que pour le contrôle quadratique en γ̇, dilater
l’axe du temps par c fait sortir un facteur c2 .
Remarque 5.4. La carte exponentielle est donc la carte des géodésiques partant d’un point donné
de la varieté. Si V ∈ T M , γV est donné par :
γV (t) = expp (tV ) (5.48)
[Lee97], Chap. 5
Nicolas Masson, Proposition 5.2. p ⊂ Tp M est étoilé par rapport à 0.

Pascal Millet,
Raphaël Barboni, Démonstration. C’est une conséquence du lemme précédent avec t = 1 et c ∈ [0, 1]
Antoine Le Calvez
Proposition 5.3. La carte exponentielle est de classe C ∞ .
Équilibré
Démonstration. L’équation géodésique se traduit par un flot lisse dans l’espace des phases T M
(les symboles de Christoffel sont lisses d’après l’expression en fonction des coefficients de la
métrique). Le théorème d’intégration des flots (Cauchy-Lipschitz) garantit alors que l’évaluation
au temps 1 dépend de manière C ∞ de la condition initiale, et donc en particulier de la vitesse
initiale – le point de départ étant fixé à p.
Proposition 5.4. Si ϕ : (M, g) −→ (M̃ , g̃) est une isométrie, alors pour tout p ∈ M le dia-
gramme suivant commute :
Tp M
dϕ
/ Tϕ(p) M̃ (5.49)
expp expϕ(p)

M / M̃
ϕ
Exercice 5.1. Démontrer la propriété précédente.
5.4 Voisinages normaux et coordonnées normales

La carte exponentielle joue un rôle essentiel en géométrie Riemannienne dans la mesure où elle
fournit un système de coordonnées locales particulièrement adapté : les coordonnées normales.
Mais avant de pouvoir définir ces dernières, il nous faut élucider certains points à propos de la
carte :
Lemme 5.3. Pour tout p ∈ M , il existe un voisinage V de l’origine de Tp M et un voisinage U
de p dans M tels que expp : V → U est un difféomorphisme
Démonstration. Découle du théorème d’inversion locale. Il suffit de montrer que la différentielle
de expp est inversible en 0. On fait même mieux : on montre que c’est l’identité.
Introduisons un peu de vocabulaire pour la suite : tout voisinage ouvert U de p difféomorphe

par expp à un voisinage étoilé de 0 dans Tp M est appelé voisinage normal de p. Si > 0 est tel
que B (0) ⊂ Tp M est un voisinage normal de p (où le rayon est défini par rapport à la métrique
g), alors expp (B (0)) est appelée boule géodésique.
Désormais, grâce au lemme précédent, il nous est possible de définir un nouveau système de
coordonnées locales. Si {Ei } est une base orthonormée de Tp M , on a un isomorphisme naturel
E de Rn dans Tp M . Ainsi, si U est un voisinage normal de p, on dispose du paramétrage local :
ϕ := E −1 ◦ exp−1 n
p :U →R . (5.50)
Tout paramétrage de ce type est appelé système de coordonnées Riemanniennes normales
centré en p. Dans un tel système, il est naturel de définir la distance radiale :
!1/2
i 2
X
(5.51)

r(x) := x
i
5.4. Voisinages normaux et coordonnées normales 63
Figure 5.3 – Coordonnées Riemanniennes normales
ainsi que le champ de vecteurs unitaires radial ∂

∂r :
∂ xi ∂
:= (5.52)
∂r r(x) ∂xi
Ces dernières définitions sont tout à fait intuitives dans un espace euclidien, et la proposition
suivante permet de transposer cette intuition dans une variété Riemannienne quelconque :
Proposition 5.5. Soit (U, (xi )) un systèmes de coordonnées Riemanniennes normales centré en
p ∈ M . On a alors :
1. Pour tout V = V i ∂i , la géodésique γV s’écrit en coordonnées normales :
γV (t) = (tV 1 , · · · , tV n ) (5.53)
tant que γV est dans U.

2. Les coordonnées de p sont (0, · · · , 0).
3. Les coefficients de la métrique en p pour ces coordonnées sont gij = δij .
4. Toute boule euclidienne {x : r(x) < ε} contenue dans U est une boule géodésique.
∂
5. En tout point q de U − {p}, ∂r est le vecteur vitesse de la géodésique de p vers q. Par
∂
conséquent, ∂r est unitaire pour g.
6. Les dérivées partielles premières des gij sont nulles en p, ainsi que les coefficients de
Christoffel.
Les coordonnées normales étant un outil essentiel pour calculer en géométrie Riemannienne,
ces propriétés doivent être comprises. De plus, comme évoqué précédemment, elles transposent
l’intuition que l’on peut avoir dans un espace euclidien : une géodésique est une ligne droite
dans un système de coordonnées normales. En revanche il est compliqué d’estimer précisement
la distance entre deux points de la varieté qui sont différents du point d’origine à l’aide d’un tel
système.
[Lee97], Chap. 5
Nicolas Masson, 5.5 Géodésiques des espaces classiques

Pascal Millet,
Raphaël Barboni, 5.5.1 L’espace euclidien
Antoine Le Calvez
Équilibré Si on se place dans le système de coordonnées canonique, on voit par la formule donnant les
coefficients de Christoffel en fonction de la métrique que ces coefficients sont tous nuls. Ainsi,
l’équation différentielle des géodésiques est très simple, et montre que les géodésiques sont les
droites affines auxquelles nous sommes habitués.
5.5.2 Les sphères

Sur la n-sphère de rayon R, SR n
⊂ Rn+1 munie de la métrique induite, les calculs cessent
d’être triviaux. En dimension 3, ils restent tout de même faisables : on peut paramétrer la sphère
2
SR en coordonnées sphériques :
(x, y, z) = (R sin ϕ cos θ, R sin ϕ sin θ, R cos ϕ), (5.54)
Reste alors à dérouler :

1. On montre que la métrique s’écrit en ces coordonnées : gR = R2 dϕ2 + R2 sin2 ϕ dθ2 .
2. On calcule les coefficients de Christoffel dans ces coordonnées.
3. En utilisant les équations des géodésiques, on vérifie que les méridiens (θ(t), ϕ(t)) = (θ0 , t)
sont des géodésiques
4. On généralise ce constat à tous les grands cercles par homogénéité : les isométries de
l’espace ambiant Rn+1 permettent d’envoyer un méridien sur n’importe quel grand cercle,
et envoient une géodésique sur une géodésique d’après la proposition 5.1.
5. On conclut alors par unicité des solutions au problème de Cauchy que toutes les géodé-
siques sont des grands cercles.
Si les points 4 et 5 sont satisfaisants à tout point de vue, les trois premières étapes, calcula-
toires, laissent un petit goût d’inachevé... Il est en fait possible de s’en passer par un argument
de symétrie : Soit une géodésique
γ(t) = (x1 (t), ..., xn+1 (t)) (5.55)
partant du pôle nord N dont la vitesse initiale V est un multiple de ∂1 . Il paraît intuitivement
évident par symétrie que cette géodésique doit rester sur le méridien x2 = ...xn = 0 – voir
Figure 5.4. Pour le montrer rigoureusement, supposons l’existence d’un temps t0 et d’un indice
2 ≤ i ≤ n tels que xi (t0 ) 6= 0. On peut considérer la réflexion ϕ : Rn+1 → Rn+1 qui envoie xi sur
−xi en conservant les autres directions : elle induit une isométrie de la sphère dans elle-même
qui préserve N ainsi que V . Par conséquent, la proposition 5.1 associée à l’unicité des solutions
au problème de Cauchy
(
γ(0) = N
(ShootN,V ) : (5.56)
γ̇(0) = V
permet d’assurer que ϕ ◦ γ = γ, ce qui est faux car par hypothèse ϕ(γ(t0 )) 6= γ(t0 ).
5.5. Géodésiques des espaces classiques 65
Figure 5.4 – Géodésiques sur la sphère : preuve par symétrie et homogénéité.
Conclusion Les géodésiques des espaces homogènes que sont le plan et la sphère sont donc
particulièrement simples à décrire. Pour le tore, les surfaces arbitraires ou les espaces de formes
et de landmarks, nous ne pourrons pas en dire autant... Avant d’attaquer ces problèmes difficiles
(et riches !), nous consacrerons le chapitre qui vient à l’étude explicite des géodésiques du dernier
espace homogène canonique : le plan hyperbolique, ou disque de Poincaré, introduit lors de la
première séance. Ce sera l’occasion de réviser les notions clés introduites depuis le début du
cours, et de nous forger une intuition des espaces à courbures négatives.
[Lee97], Chap. 5
Nicolas Masson,
Pascal Millet,
Raphaël Barboni,
Antoine Le Calvez
Équilibré
Chapitre 6
Le plan hyperbolique Séance 6

[CFK+ 97]
Vadim Lebovici,
Robin Lemaire,
Introduction Valentin Carlier,
Lino Benedetto
Depuis Euclide et ses 5 postulats de la géométrie, les mathématiciens ont longtemps cherché à Très joli
démontrer le cinquième postulat, ou axiome des parallèles, à partir des quatre autres. Bien leur en
prit, car en cherchant à démontrer l’absurdité d’une géométrie dans laquelle cet axiome n’est pas
respecté, ils ont ouvert la voie aux géométries non-euclidiennes, dont la géométrie hyperbolique,
qui nous intéresse ici. Elle peut être définie notamment en gardant les quatre premiers postulats
d’Euclide, et en substituant au cinquième celui-ci : “Soient un point et une droite, alors il existe au
moins une droite parallèle à ce point.” On notera également que le mot “droite” est ici synonyme
de “géodésique”, soit une courbe à accélération nulle, ou encore un chemin minimisant la distance
entre deux point.
On utilisera dans la suite cinq modèles analytiques de géométrie hyperbolique parmi les plus
importants. Trois d’entre eux sont des modèles conformes dus à Henri Poincaré, qu’il imagina
lors de son étude des automorphismes complexes.
6.1 Cas unidimensionnel

6.1.1 Un premier modèle d’espace hyperbolique
Dans une vision classique, l’espace et le temps sont indépendants et, dans un espace n-
dimensionnel, avec la donnée d’une n + 1 coordonnée représentant le temps, la métrique Eucli-
dienne suffit à décrire les phénomènes physiques. Mais en théorie de la relativité, le temps et
l’espace sont liés, et la métrique Euclidienne ne rend plus compte des phénomènes physiques. On
définit alors le modèle de Minkowski : Rn+1 munit de la “norme” x21 + ... + x2n − x2n+1 .
On appelle alors cône de lumière l’ensemble des points de norme 0. Pour un point
(x1 , . . . , xn , t) sur ce cône, la distance à l’origine “en espace” est égale au temps parcouru, ce
qui exprime que la célérité de la lumière dans le vide est une constante.
Le produit scalaire associé à la norme définie précédemment est : x ∗ y = x1 y1 + ... + xn yn −
xn+1 yn+1 ce qui permet de définir :
Définition 6.1. On définit l’espace hyperbolique de dimension n comme l’ensemble :
H n = {x ∈ Rn+1 : x ∗ x = −1}, (6.1)
67
Séance 6 68 Chapitre 6. Le plan hyperbolique
[CFK+ 97]
Vadim Lebovici,
Robin Lemaire,
Valentin Carlier,
Lino Benedetto
Très joli
Figure 6.1 – Espace de Minkowski, cône de lumière et espace hyperbolique.
où l’on identifie les deux feuillets de l’hyperboloïde par quotient “x = −x”. On peut le voir comme
une sphère de Rn+1 de rayon au carré -1.
6.1.2 Cas n = 1
Comparons l’étude du cercle euclidien avec celle de l’espace H 1 .
Si on paramètre le cercle unité dans l’espace euclidien par un chemin lisse p :] − ∞, +∞[→ S 1
avec p(0) = (0, 1), on peut écrire p(t) = (x(t), y(t)) et x2 + y 2 = 1. Dans le plan hyperbolique si
pH :] − ∞, +∞[→ H 1 est une chemin lisse avec pH = (1, 0), on peut écrire pH (t) = (x(t), y(t))
et x2 − y 2 = −1.
En différentiant ces équations on obtient :
Cas euclidien : p(t) · p0 (t) = 2x(t)x0 (t) + 2y(t)y 0 (t) = 0, (6.2)

0 0 0
Cas hyperbolique : p(t) ∗ p (t) = 2x(t)x (t) − 2y(t)y (t) = 0. (6.3)
Ce qui exprime que le vecteur vitesse est orthogonal au vecteur position sur le cercle dans chacun
des deux cas. On peut en particulier écrire :
Cas euclidien : p0 (t) = k(t)(−y(t), x(t)), (6.4)

0
Cas hyperbolique : p (t) = k(t)(+y(t), x(t)), (6.5)
et si on suppose de plus que |p0 (t)| = 1 alors k = ±1.

Dans un cas on parcourt alors le cercle unité dans le sens positif et on peut identifier t à la
longueur d’arc parcourue depuis l’origine. On peut alors identifier : x(t) = cos(t) et y(t) = sin(t).
Dans l’autre on parcourt la branche droite de l’hyperbole unité dans le plan de Minkowski a
vitesse hyperbolique constante égale à 1. On peut alors identifier t à la longueur d’arc hyperbo-
lique et x(t) = sinh(t) et y(t) = cosh(t).
En conséquence directe des équations (6.4-6.5), on retrouve les formules classiques :
sin0 = cos, cos0 = − sin, sinh0 = cosh cosh0 = sinh . (6.6)

6.2. Cinq modèles en dimension 2 69
(a) Cas euclidien. (b) Cas hyperbolique.
Figure 6.2 – Comparaison entre cercle et hyperbole, entre trigonométrie classique et trigono-
métrie hyperbolique.
6.2 Cinq modèles en dimension 2

Comme évoqué précédemment, il existe différents modèles de géométrie hyperboliques qui
sont équivalents : Cette diversité sera un atout pour résoudre de nombreux problèmes.
6.2.1 Définitions
Définition 6.2. On définit les modèles suivants du plan hyperbolique :
Le modèle du demi-espace : H = {(1, x2 , x3 ) | x3 > 0} (6.7)

dx22 + dx23
Muni de la métrique : ds2H = (6.8)
x23
Le modèle du disque : I = {(x1 , x2 , 0) | x21 + x22 < 1} (6.9)
dx21 + dx22
Muni de la métrique : ds2I = 4 (6.10)
(1 − x1 − x22 )2
2
Le modèle de l’hémisphère : J= {(x1 , x2 , x3 ) | x21 + x22 + x23 = 1 et x3 > 0} (6.11)

dx21 + dx22 + dx23
Muni de la métrique : ds2J = (6.12)
x23
Le modèle de Klein : K= {(x1 , x2 , 1) | x21 + x22 < 1} (6.13)
dx21 + dx22 (x1 dx21 + x2 dx22 )
Muni de la métrique : ds2K = 2 2 + (6.14)
(1 − x1 − x2 )2 (1 − x21 − x22 )2
Le modèle de l’hyperboloïde : L= {(x1 , x2 , x3 ) | x21 + x22 − x23 = 1 et x3 > 0} (6.15)
Muni de la métrique : ds2L = dx21 + dx22 − dx23 (6.16)
[CFK+ 97]
Vadim Lebovici, Proposition 6.1. On constate immédiatement les propriétés d’invariance suivantes :
Robin Lemaire, — ds2H est invariante par translation sur x2 , x3 ( mais pas x1 ),
Valentin Carlier, — ds2H est invariante par dilatation de l’espace ((x2 , x3 ) 7−→ (hx2 , hx3 ) pour h > 0).
Lino Benedetto — ds2I et ds2J sont invariantes par rotations d’axe x3 .
Très joli
Figure 6.3 – Les cinq modèles du plan hyperbolique vus dans le plan (x1 , x3 ), et les projections
associées qui sont des isométries.
Théorème 6.1. Ces cinq espaces sont isométriques.
Démonstration. Nous allons décrire des isométries entre ces espaces. Pour cela on utilisera J
comme espace référent, et on trouvera des isométries de J vers les autres modèles ou inversement.
On rédige la preuve pour H et I, qui sont nos espaces d’études privilégiés – les deux autres cas
étant analogues.
Nos cinq modèles étant définis dans R3 , on définira les fonctions comme suit :
α : J → H est la projection stéréographique à partir du point (−1, 0, 0) sur H :

2 x2 2 x3
α : J → H, (x1 , x2 , x3 ) 7→ 1, , . (6.17)
x1 + 1 x1 + 1
Comme projection, α est bien à valeurs dans H et est définie sur tout J. De plus, on montre
que la métrique ds2H est la métrique pull back de ds2J par α :
Soient j = (x1 , x2 , x3 ) et h = α(x) = (1, y2 , y3 ) (avec yi = x21x+1
i
). Alors en “notations
physiciennes”, dy = dαx · dx, i.e.

2 xi
dyi = dxi − dx1 (6.18)
xi + 1 x1 + 1
On sait de plus que x21 + x22 + x23 = 1. En notation physiciennes, l’équation du plan tangent s’écrit
donc
x1 dx1 = −(x2 dx2 + x3 dx3 ) (6.19)
6.2. Cinq modèles en dimension 2 71
Ainsi, on a :
dy22 + dy32
α? (ds2H ) = (6.20)
y32
3
!
(x1 + 1)2 4 X 2 dx21
= 2
dx + 2
x1 dx1 + 2
(1 − x1 ) (6.21)
4 x23 (x1 + 1)2 i=2 i x1 + 1 (x1 + 1)2
3
1 X 2
= dx (6.22)
x23 i=1 i
= ds2J (6.23)
(6.24)
Ce qui montre que H et J sont isométriquement équivalents.

De même, si β : J → I (x1 , x2 , x3 7→ ( x3x+1
1
, x3x+1
2
, 0) est la projection centrale depuis le point
(0, 0, −1) sur I, β est bien définie de J dans I, et on montre que ds2I est la métrique pull back
de ds2J par β :
β ? (ds2I ) = ds2J . (6.25)
Avec j = (x1 , x2 , x3 ) et i = β(j) = (y1 , y2 , 0) respectivement dans J et I, on a

1 xi
∀i ∈ [[1, n]] , dyi = dxi − dx3 (6.26)
x3 + 1 x3 + 1
De plus, comme x21 + x22 + x23 = 1 on a xi dxi = 0. On a alors :

P
2 2 2 2
!
X 1 X X xi X x2i
dyi2 = dx2i − 2 dx3 dxi + 2
dx23 (6.27)
i=1
x 3 + 1 i=1 i=1
x 3 + 1 i=1
(x 3 + 1)
2
!
2
1 X x3 1 − x3
= 2
dx + 2 2
dx + dx 2
(6.28)
x3 + 1 i=1 i x3 + 1 3 (x3 + 1)2 3
3
1 X
= dxi (6.29)
(x3 + 1)2 i=1
De plus, 1 − y12 − y22 = x2x 3

3 +1
. D’où β ? (ds2I ) = ds2J .
On utilise enfin γ : K → J la projection verticale (par rapport à la 3-ème composante) et
δ : L → J la projection stéréographique de centre (0, 0, −1) : des calculs similaires à celui pour
α montrent que ce sont des isométries pour les modèles munis de leur métrique riemannienne
respective.
Nous avons ainsi nos cinq modèles de géométrie hyperboliques, et les manières de passer des
uns aux autres. On peut remarquer que deux des quatre isométries présentées sont des projections
stéréographiques d’une sphère sur un plan.
6.2.2 Projections stéréographiques

Définition 6.3 (Projection stéréographique). Soit Σ une sphère de dimension 2 dans l’espace
euclidien R3 , et P un plan. Si P est tangent à Σ en S, on note N le point opposé à S dans Σ (On
verra ici S comme le pôle sud et N comme le pôle nord). Sinon, on note S un point d’intersection
[CFK+ 97]
Vadim Lebovici, de la sphère et de la projection orthogonale de son centre sur P . Si x ∈ S \ N , alors on note π(x)
Robin Lemaire, l’intersection entre l’hyperplan P et la droite (euclidienne) reliant N et x. C’est la projection
Valentin Carlier, stéréographique de x sur P .
Lino Benedetto
Très joli
Par exemple, la fonction α de J dans H est la restriction sur J de la projection stéréographique
sur le plan x1 = 1, dont l’image est H.
(a) Plongée dans R2 . (b) Plongée dans R3 .
Figure 6.4 – Projection stéréographique.
Théorème 6.2 (Conformité). Si Σ est une sphère de R3 , P un plan et π la projection sté-

réographique de Σ sur P , alors π est une application conforme, c’est-à-dire qu’elle conserve les
angles.
Théorème 6.3. Étant donnés Σ, P , π définis comme précédemment, et si C est un cercle inclus
dans Σ, alors π(C) est un cercle généralisé de dimension c inclus dans P (c’est-à-dire que π(C)
est un cercle ou une droite).
Démonstration. Plutôt que d’écrire les preuves de ces résultats, nous regarderons le chapitre 9
du film Dimensions d’Etienne Ghys visionnable gratuitement sur Internet.
6.3 Géodésiques
Pour déterminer la forme des géodésiques dans chacun des cinq modèles exposés précédem-
ment, nous allons tout d’abord le faire dans le demi-espace H puis en déduire les résultats dans
les autres modèles en utilisant les propriétés des projections. Le principal outil pour la déter-
mination de la nature des géodésiques dans H est le principe de rétraction qui permet d’établir
l’existence de géodésiques sous certaines conditions.
Théorème 6.4 (Principe de rétraction). Soient X une variété Riemannienne et C :]a, b[→ X
un plongement d’intervalle de R. Supposons de plus qu’il existe une application r : X → Im(C)
appelée rétraction qui réduit les distances au sens où : si on restreint la métrique sur X à Im(C)
alors la métrique pullback par r définie sur tout X est inférieure ou égale à la métrique originale
sur X.
Alors Im(C) contient une géodésique entre chaque paire de ses points.
Autrement dit, on n’a jamais intérêt à sortir de =(C) pour rester “droit”.
Démonstration. Pour démontrer ce fait, il suffit de considérer un chemin arbitraire entre deux
points de Im(C) et de constater que la rétraction de ce chemin par r est de longueur inférieure
ou égale à la longueur du chemin initial.
Théorème 6.5 (Existence de géodésiques). Dans le modèle H de l’espace hyperbolique, les droites
verticales sont des géodésiques.
Démonstration. Soit une droite verticale C : ]0, ∞[→ H telle que C(t) = (1, x2 , t) ∈ H où x2 est
fixé. On définit la rétraction r sur H par la formule : r(1, z2 , t) = (1, x2 , t) : c’est simplement la
projection horizontale sur notre droite.
dx2 dx2 dx2 +dx2
La métrique pullback est alors : x23 et on a bien : x23 ≤ 2x2 3 . D’où on déduit, par principe
3 3 3
de rétraction, que l’image de C contient une géodésique entre chaque paire de ses points.
De plus si l’on considère deux points de l’image de C (ie sur la droite verticale) et n’importe
quel chemin entre les deux, si ce chemin sort de l’image de C alors on a un des dx2i > 0 autour
de ce point et le chemin est strictement plus long que le chemin restant dans C. De plus, Im(C)
étant une droite verticale il existe une unique géodésiques reliant deux points de C restant dans
l’image de C. Ce qui permet de conclure qu’il existe un unique plus court chemin entre deux
points d’une droite verticale et que ce chemin est tracé le long de la droite.
Théorème 6.6 (Classification des géodésiques de H). Les géodésiques de H sont exacte-
ment les droites verticales et les demi-cercles d’extrémités appartenant à la limite de H :
∂H = {(1, x2 , 0), x2 ∈ R}.
(a) Géodésiques dans H. (b) Construction des géodésiques de H.
Figure 6.5 – Géodésiques de H.
Lemme 6.1 (Isométries et demi-cercles).

1. Les isométries euclidiennes de H qui envoient ∂H sur lui-même sont des isométries hy-
perboliques de H.
2. Les similitudes de H de la forme : (1, x2 , t) 7→ (1, rx1 , rt) avec r > 0 sont des isométries
hyperboliques.
3. Les isométries euclidiennes de J sont des isométries hyperboliques de J.
4. Si p et q sont deux points de H qui ne sont pas sur la même droite verticale alors il existe
un unique demi-cercle limite passant par p et q.
[CFK+ 97]
Vadim Lebovici, 5. Deux demi-cercles limites sont les mêmes à une isométrie hyperbolique près.
Robin Lemaire,
Démonstration.
Valentin Carlier,
Lino Benedetto — Les droites verticales sont les géodésiques de H : Le théorème 6.5 et le (1)
Très joli du lemme 6.1 nous assure que les droites verticales sont des géodésiques de H, toutes
identiques à une isométrie hyperbolique près, et contenant chacun un plus court chemin
entre chaque paire de leurs points.
— Les demi-cercles orthogonaux-limites sont des géodésiques. Considérons la droite

verticale M de H passant par (1, 0, 0).
— M devient un grand cercle sur J : son image réciproque par la projection stéréo-
graphique α de J sur H par rapport au point de coordonnées (1, 0, 0) (voir Figure) est
bien un grand cercle de J.
— La métrique sur J est invariante par rotation autour de l’axe passant par
le pôle Nord : cf proposition 6.1
— Le grand cercle de J parallèle à H est une géodésique : En effet, c’est l’image
d’une géodésique de H par deux isométries.
— Le projeté sur H de ce cercle est un demi-cercle orthogonal-limite : En
effet, la projection stéréographique de la sphère entière J 0 sur le plan entier H 0 envoie
les grands cercles de J 0 sur les cercles de H 0 par théorèmes 6.2 et 6.3, ce qui assure
que la corestriction de cette projection α : J → H envoie les demi-grands cercles sur
les demi-cercles limites.
— Tout demi-cercle orthogonal-limite est une géodésique : La métrique sur H
étant invariante par translation et homothétie (cf (2) du lemme 6.1), tout demi-cercle
orthogonal-limite est isométrique au demi-cercle construit dans cette preuve, qui est
une géodésique, d’où l’on conclut.
— On conclut par théorème de Cauchy. A une couple (~x, ~v ) où ~x indique la position et
~v la vitesse en un point dans H, on a établi l’existence d’une géodésique droite ou d’une
géodésique semi-circulaire passant pas ~x et tangent à ~v en ~x. Par théorème de Cauchy, il
n’y en a pas d’autres.
De ce résultat fondamental on déduit, grâce aux propriétés sur la projection stéréographique,

les géodésiques des quatre autres modèles, grâce aux projections exhibées précédemment entre
ces modèles.
Théorème 6.7 (Caractérisation des géodésiques des modèles standards du plan hyperbolique).
— Les géodésiques de J sont les demi-cercles limites.

— Les géodésiques de I sont les diamètres et les segments circulaires limites.
— Les géodésiques de K sont les segments droits.
— Les géodésiques de L sont les intersections de L avec des sous-espaces vectoriels de Rn+1
de dimension 2.
Démonstration. On procède comme suit :
— Par théorèmes 6.1 et 6.2 les demi-cercles limites de J sont isométriques aux demi-cercles
orthogonaux et aux droites verticales de H. Les géodésiques de J sont donc les demi-cercles
limites.
— En outre, les demi-cercles limites de J sont isométriques aux diamètres et aux segments
circulaires limites de I, qui sont donc les géodésiques de I.
— Les demi-cercles de J sont isométriques aux segments droits de K via la projection verti-
cale, qui sont donc les géodésiques de K.
— Les segments droits de K sont isométriques via la projection centrale aux intersections de
L avec des sous-espaces vectoriels de R3 de dimension 2. Ces intersections sont donc les
géodésiques de L.
(a) Projection des géodésiques de J (b) Projection des géodésiques de J sur celles
sur celles de I. de K.
(c) Projection des géodésiques de K sur celles de L.
Figure 6.6 – Liens entre les géodésiques des différents modèles.

[CFK+ 97]
Vadim Lebovici, 6.4 Propriétés diverses

Robin Lemaire,
Valentin Carlier, On se place dans les trois modèles conformes H, I, J définis plus haut.
Lino Benedetto Propriété 6.1. Dans les modèles étudiés, les sphères hyperboliques sont des sphères euclidiennes,
Très joli mais le centre hyperbolique et le centre euclidien ne coïncident pas.
(a) La projection d’un cercle de (b) Le centre hyperbolique d’un cercle.

J sur H est un cercle euclidien
et hyperbolique.
Figure 6.7 – Lien entre cercles euclidiens et cercles hyperboliques.
Un cercle hyperbolique centré en p = (0, 0, 1) ∈ J est clairement un cercle euclidien, dont la

projection sur H reste un cercle euclidien et hyperbolique. On peut ensuite translater ce cercle
dans H et le projeter de nouveau dans J, puis lui faire subir une éventuelle rotation. Toutes
ces opérations laissant invariants à la fois les cercles euclidiens et les cercles hyperboliques, la
propriété est vérifiée.
Propriété 6.2. Sur le plan hyperbolique, si D est une droite (une géodésique), alors les courbes
à distance r de chaque côté de D ne sont pas des droites (des géodésiques).
Figure 6.8 – Courbes équidistantes dans H.
Comme on peut voir sur la Figure 6.8, les courbes en question sont des droites euclidiennes
non verticales, et non des demi-cercles “géodésiques”.
6.4. Propriétés diverses 77
Propriété 6.3. La somme des angles d’un triangle du plan hyperbolique est inférieure à π. L’aire
d’un triangle d’angles α, β, γ est π − α − β − γ (théorème de Gauss-Bonnet). Si α, β, γ sont
des angles de somme inférieure à π, alors il existe un unique triangle possédant ces angles à
congruence près.
(a) Le théorème de Gauss-Bonnet. (b) Construction d’un triangle d’angles

α, β, γ.
Figure 6.9 – La somme des angles d’un triangle hyperbolique est inférieure à π.
Si δ = pqr est un triangle, on peut par isométries se ramener au cas où p, q appartiennent au

cercle unité et le côté pr est vertical. Alors on utilise le fait que pqr = pq∞ − rq∞, et on obtient
facilement l’aire des triangles idéaux (ayant au moins un point à l’infini).
Propriété 6.4. Si δ = pqr est un triangle hyperbolique,√ et x ∈ pq, alors il existe y ∈ pr ∪ qr
tel que pour la distance hyperbolique, d(x, y) ≤ ln(1 + 2). On dit que les triangles de l’espace
hyperboliques sont uniformément fins.
On se place dans le pire cas. En effet comme nous avons vu, on peut supposer que δ a un côté
sur le cercle unité et un côté vertical, puis on peut déplacer r à l’infini, et p et q sur la bordure
∂H. Toutes ces opérations ne font qu’augmenter le triangle. On se place ensuite dans le cas où
R π/2 dψ √
x est à égale distance de pr et qr. Alors d(x, pr) = π/4 sin ψ = ln(1 + 2)
(a) Distances entre deux géodésiques verticales. (b) Distance entre deux points d’une géodésique.
Figure 6.10 – Envoyer un sommet à l’infini ne peut qu’épaissir le triangle.

[CFK+ 97]
Vadim Lebovici,
Robin Lemaire,
Valentin Carlier,
Lino Benedetto
Très joli
Figure 6.11 – Le triangle pqr et le triangle idéal p0 q 0 ∞, uniformément fin.
Propriété 6.5. Dans le plan hyperbolique, le ratio de l’aire d’un disque à sa circonférence est
inférieure à 1, et tend vers 1 quand le rayon tend vers l’infini. L’aire et la circonférence sont
toutes deux des fonctions exponentielles du rayon hyperbolique.
On se place dans l’espace du disque I et on calcule un élément de distance le long d’un arc
de cercle ds = 2 1−r
dr
2 et un élément d’aire dA = (1−r 2 )2 drdθ. Si alors ρ est le rayon hyperbolique
4r
et R le rayon euclidien R, on a
cosh ρ − 1
A = 2π(cosh ρ − 1)C = 2π sinh ρR = (6.30)
sinh ρ
D’où la propriété.
Figure 6.12 – Le rayon hyperbolique ρ, l’aire A et la circonférence C : l’essentiel de l’aire d’une

boule hyperbolique se trouve sur les bords.
6.4. Propriétés diverses 79
Propriété 6.6. Dans l’espace H, si Σ est un cercle centré en x ∈ ∂H, alors l’inversion par Σ
induit une isométrie hyperbolique de H qui échange l’intérieur et l’extérieur de Σ dans H.
La preuve de cette propriété repose sur l’équivalence entre H et J, en effet on peut supposer,
quitte à passer Σ par une isométrie, que c’est le cercle image du cercle x1 = 0|x22 + x23 = 1 ∈ J,
et comme la métrique sur J est invariante par symétrie par rapport au plan x1 = 0, la propriété
est vérifiée.
Figure 6.13 – Inversion par rapport à un cercle.
Figure 6.14 – L’inversion est une isométrie hyperbolique, qui correspond à une symétrie sur le
modèle hémisphérique.
[CFK+ 97]
Vadim Lebovici, 6.5 Le sixième modèle

Robin Lemaire,
Valentin Carlier, Le sixième modèle d’espace hyperbolique présenté ici est une approximation combinatoire du
Lino Benedetto demi-espace hyperbolique H. L’idée est de paver H à l’aide de carrés de taille diminuant près
Très joli de la limite de H. On construit donc ce pavage, en considérant l’image du carré unité de côté
bas-gauche placé en (0,1) par l’application x 7→ 2j (x + (k, 0)) où (j, k) ∈ Z2 , et on s’intéresse
à son graphe dual dont les sommets sont les carrés, reliés entre eux par une arrête s’ils sont
adjacents.
Déplacements Dans le graphe dual, la longueur d’un chemin est définie comme le nombre de
côtés rencontrés par le chemin tracé.
Propriété 6.7. On a les faits suivants :

— Un chemin aléatoire tracé sur le graphe dual tend presque sûrement vers l’infini.
— Si γ est une géodésique reliant p et q dans le graphe dual alors il existe une géodésique δ
reliant p et q qui monte tout droit initialement, puis est horizontale sur une longueur de
5 au maximum puis redescend vers q de telle sorte que pour tout point de δ il existe un
point de γ a distance au plus 1, et réciproquement.
Remarque 6.1. Dans le graphe dual, il existe plusieurs géodésiques reliant deux points quel-
conques a priori.
Dans la propriété, ce qu’on appelle infini est la limite de H.
(a) Chemin quelconque dans le graphe. (b) Géodésique reliant p et q dans le

graphe.
Figure 6.15 – Déplacements dans le graphe dual.
Propriété 6.8. Les triangles du graphe dual sont uniformément fins, de distance minimale 8.
On constate que la longueur d’un déplacement horizontal est au plus 5 par la propriété 6.7
et que la longueur du déplacement horizontal de gauche est au plus 3 compte-tenu du fait que le
nombre de carrés à traverser sur un niveau horizontal est divisé par deux lorsqu’on monte d’un
niveau.
Figure 6.16 – Un triangle de côtés des géodésiques dans le graphe dual.

6.6. Conclusion 81
6.6 Conclusion
Ce dernier point de vue, combinatoire, fait ressortir de manière forte la propriété 6.4 sur la
finesse des triangles : c’est une notion qui “passe au discret”, et qui ne dépend donc pas de la
structure analytique – très confortable – du plan hyperbolique.
Une idée extrêmement forte de Mikhaïl Gromov a été, dans le courant des années 80, de
prendre cette propriété pour définition de l’hyperbolicité :
Figure 6.17 – Un espace métrique est δ-hyperbolique au sens de Gromov si tous ses triangles
sont δ-fins : pour tous points a, b, c, le segment géodésique [a, b] est inclus dans un δ-voisinage
de [a, c] ∪ [b, c].
Un exemple tout naturel nous vient de la théorie des graphes : les arbres, ou graphes acy-
cliques, sont des espaces métriques 0-hyperboliques. Ainsi, du point de vue de la structure mé-
trique, un espace hyperbolique est “presque” un arbre !
Cela n’a l’air de rien, mais c’est exactement le genre d’idées qui fait la différence entre les
mathématiques du XIXe siècle et la géométrie contemporaine. Des belles preuves analytiques,
du travail sur les projections stéréographiques accessibles au calcul direct, on est passé à l’étude
d’espaces a priori beaucoup moins “sympathiques” et pourtant si naturels : pensez aux pavages
d’Escher !
Figure 6.18 – Circle Limit IV (Heaven and Hell) de M.C. Escher : que se passerait-il si anges
et démons jouaient au téléphone arabe ?
[CFK+ 97]
Vadim Lebovici,
Robin Lemaire,
Valentin Carlier,
Lino Benedetto
Très joli
Figure 6.19 – Un exemple d’espace métrique hyperbolique non-trivial : le graphe de Cayley (ici
tracé au voisinage de l’unité pour un bon système de générateurs) du groupe SL2 (Z), qui agit
naturellement sur H par isométries. C’est l’analogue hyperbolique de la grille infinie classique,
graphe de Cayley du groupe Z × Z qui agit par isométries sur le plan euclidien.
Et les espaces de formes dans tout ça ? La géométrie hyperbolique se trouve donc au

carrefour de la topologie, de la théorie des groupes et de la théorie des applications conformes –
la motivation initiale de Poincaré. Dans le cadre de notre cours, nous n’aborderons les questions
d’hyperbolicité qu’au travers des géodésiques : l’essentiel sera de retenir que, si la courbure
est négative (une notion que l’on abordera à la toute fin du semestre), alors deux géodésiques
initialement proches divergent à vitesse exponentielle l’une de l’autre lorsqu’on les prolonge.
Ainsi, une petite incertitude sur la carte exponentielle pourra se traduire par une très grande
incertitude sur la variété : en courbure négative, la procédure de shooting géodésique est ex-
trêmement sensible à la direction de tir. Pour d’autres illustrations et intuitions sur “la vie
en courbure négative”, je ne saurais que trop vous recommander la lecture d’un petit texte
de vulgarisation dû à Étienne Ghys : Poincaré et son disque disponible à l’adresse suivante :
http://perso.ens-lyon.fr/ghys/articles/disque-poincare.pdf.
Chapitre 7
Distances et géodésiques Séance 7

[Lee97], Chap. 6
Eva Philippe,
Arthur Touati,
Dans ce chapitre, nous allons étudier la relation entre les géodésiques et la notion de distance Grégoire Macqueron,
sur une variété riemannienne. Nous allons formuler rigoureusement et démontrer l’intuition que Maxime Sylvestre
l’on a sur la nature des géodésiques : pour minimiser la distance parcourue entre deux points si Équilibré
on se balade sur une variété, on doit emprunter une géodésique.
7.1 Longueur d’une courbe, distance et topologie induite

7.1.1 Longueur
Nous commençons par définir la classe de courbes avec lesquelles nous allons travailler.
Définition 7.1 (Courbe régulière par morceaux). Une courbe lisse γ : I → M est dite régulière
si pour tout t ∈ I, γ̇(t) 6= 0. Elle est dite régulière par morceaux si I = [a, b] et qu’il existe une
subdivision finie a = a0 < . . . < ak = b telle que γ|]ai−1 ,ai [ est régulière pour i = 1, . . . , k. Les
vecteurs vitesses sont bien définis sur les ]ai−1 , ai [ et on pose
γ̇(a−
i ) = lim+ γ̇(t) (7.1)
t→ai
γ̇(a+
i ) = lim γ̇(t). (7.2)
t→a−
i
Remarquons tout de suite qu’une géodésique est régulière, car la norme de son vecteur vitesse
est constante. Dans la suite, on appellera des courbes régulières par morceaux des courbes ad-
missibles. C’est avec cette classe de courbes qu’on mesurera la distance entre deux points d’une
variété riemannienne. Nous commençons par définir la notion de longueur d’une courbe :
Définition 7.2 (Longueur d’une courbe). Si M est une variété riemannienne et γ : [a, b] → M
une courbe, on définit sa longueur L(γ) par :
Z b
L(γ) := |γ̇(t)|dt (7.3)
a
Si γ : [a, b] → M est admissible et si a = a0 < . . . < ak = b est une subdivision adaptée, la

longueur de γ est la somme des longueurs des γ|]ai−1 ,ai [ .
83
Séance 7 84 Chapitre 7. Distances et géodésiques
[Lee97], Chap. 6
Eva Philippe, On écrit parfois Lg (γ) pour indiquer la dépendance de cette valeur à la métrique (la métrique
Arthur Touati, intervient dans le calcul de la norme de γ̇(t) ). La longueur d’une courbe ne dépend pas de la
Grégoire Macqueron, paramétrisation, comme le formalisent les énoncés suivants :
Maxime Sylvestre
Équilibré Définition 7.3 (Reparamétrisation d’une courbe). Si γ : [a, b] → M est une courbe, on appelle
reparamétrisation de γ toute courbe de la forme γ̃ = γ ◦ ϕ où ϕ : [c, d] → [a, b] est C ∞ , bijective
d’inverse C ∞ .
Lemme 7.1. Si γ est une courbe et γ̃ une de ses reparamétrisations, alors L(γ) = L(γ̃).
Démonstration. Si gamma : [a, b] → M et γ̃ = γ ◦ ϕ où ϕ; [c, d] → [a, b], alors :
Z d Z d Z b
L(γ̃) = ˙
|γ̃(t)|dt = |ϕ̇(t)γ(ϕ(t))|dt = |γ̇(t)|dt = L(γ) (7.4)
c c a
On démontre maintenant un lemme utile pour la suite :

Lemme 7.2. Si γ : [a, b] → M est une courbe admissible, alors il existe une reparamétrisation
γ̃ de γ de vecteur vitesse unitaire.
Rt
Démonstration. On note l = L(γ), pour t ∈ [a, b] on définit s(t) = a |γ̇(t)|dt. On vérifie que
s : [a, b] → [0, l] est C ∞ bijective d’inverse C ∞ . On pose alors γ̃ = γ ◦ s−1 et on vérifie que γ̃
convient.
7.1.2 Distance riemannienne

Soit M une variété riemannienne connexe. On définit la distance riemannienne entre deux
points p et q de M :
d(p, q) = inf{L(γ) : γ courbe admissible reliant p et q } (7.5)
M étant localement connexe par arcs lisses – comme toute variété –, elle est globalement connexe
par arcs admissibles : la distance ci-dessus est donc bien définie.
Lemme 7.3. Avec la distance d ainsi définie, toute variété riemannienne est un espace métrique
dont la topologie induite coïncide avec la topologie donnée pour la variété.
Démonstration. Pour montrer que d est bien une distance, le seul point difficile est d(p, q) 6= 0
pour p 6= q. Montrons d’abord que l’on peut comparer la distance riemannienne et la distance
euclidienne : il existe une boule géodésique fermée Ȳ de rayon autour de p et c, C deux
constantes positives telles que pour tout x ∈ Ȳ et V ∈ Tx M :
c|V |ḡ ≤ |V |g ≤ C|V |ḡ (7.6)
(| · |ḡ étant la norme euclidienne).

Le champ de métrique g étant donné par une matrice symétrique définie positive dans Tp M ,
d’après le théorème spectral on dispose d’une application continue x 7→ (l1 (p) ≥ l2 (p) ≥ . . . ≥
ln (p) > 0) où les li (p) sont les n valeurs propres de g(p). Pour tout V ∈ Tp M , on a donc
ln (p)hV, V i ≤ hV, g(p)V i ≤ l1 (p)hV, V i (produit scalaire euclidien). Comme ln et l1 sont des
fonctions continues qui ne s’annulent pas, on dispose bien d’une boule géodésique fermée de
rayon strictement positif autour de p sur laquelle elles admettent respectivement un minimum
et un maximum.
7.2. Courbes minimisantes et géodésiques 85
Figure 7.1 – Démonstration de d(p, q) > 0
Alors, pour toute courbe admissible γ dont l’image est dans Ȳ :
cLḡ (γ) ≤ Lg (γ) ≤ CLḡ (γ). (7.7)
Si p 6= q, on peut diminuer jusqu’à avoir q ∈ / Ȳ. Alors toute courbe admissible γ : [a, b] → M
reliant p à q doit traverser la sphère géodésique (frontière de Y), d’après le lemme de passage
des douanes. On note t0 le premier instant où γ(t) est sur cette sphère.
On a alors :
Lg (γ) ≥ Lg (γ|[a,t0 ] ) ≥ cLḡ (γ|[a,to ] ) ≥ cdḡ (p, γ(t0 )) = c (7.8)
Ces inégalités étant vraies pour toute courbe admissible γ reliant p à q, on a en passant à
l’inf : d(p, q) ≥ c > 0. D’où d est une distance.
Enfin, pour comparer les deux topologies il suffit de voir qu’on peut construire une base pour
la topologie de la variété à partir de petites boules euclidiennes dans des ouverts de la forme Y.
Or sur ces ensembles la distance euclidienne et la distance riemannienne sont équivalentes. Donc
les ouverts de cette base sont aussi des ouverts pour la distance riemannienne et elle engendre la
topologie riemannienne car une topologie métrique est engendrée par de petites boules métriques.
Ainsi, ces deux topologies sont identiques.
7.2 Courbes minimisantes et géodésiques

7.2.1 Courbe minimisante
Définition 7.4. (courbe minimisante)
Une courbe admissible γ sur une variété riemannienne est dite minimisante si L(γ) ≤ L(γ̃)
pour toute courbe γ̃ de mêmes extrémités, autrement dit, L(γ) = d(p, q) où p etq sont les
extrémités de γ.
Le but de cette section est de montrer que toute courbe minimisante est une géodésique.
Pour cela nous allons considérer L comme une fonctionnelle, c’est-à-dire une fonction qui prend
pour argument des fonctions. La recherche d’une courbe minimisante revient à chercher le mi-
nimum de L. On a donc envie de dire qu’une courbe γ est minimisante si la « dérivée » de L
s’annule en γ. C’est l’objet du calcul des variations, très utile dans la formulation moderne de la
mécanique classique. On commence cette section en donnant un sens à cette dérivation sur un
espace de fonction, dans le cadre qui nous intéresse, c’est-à-dire celui des courbes sur une variété
riemannienne.
[Lee97], Chap. 6
Eva Philippe,
Arthur Touati,
Maxime Sylvestre
Équilibré
Figure 7.2 – Une famille admissible
7.2.2 Familles admissibles

Définition 7.5. Une famille admissible de courbes est une application continue
Λ :] − , [×[a, b] → M (7.9)
lisse sur tout rectangle de la forme ] − , [×[ai−1 , ai ] pour une certaine subdivision finie a = a0 <
a1 < . . . < ak = b et telle que Λs : t 7→ Λ(s, t) soit une courbe admissible pour tout s ∈] − , [.
On notera
d d (t)
∂t Λ(s, t) := Λs (t) ∂s Λ(s, t) := Λ (7.10)
dt ds
où Λ(t) : s 7→ Λ(s, t) pour tout t ∈ [a, b].
7.2.3 Lemme de symétrie

Lemme 7.4. Soit Λ :] − , [×[a, b] → M une famille admissible de courbes sur une variété
riemannienne. Sur tous les rectangles ] − , [×[ai−1 , ai ] où Λ est lisse, on a :
Ds ∂t Λ = Dt ∂s Λ (7.11)
Démonstration. C’est un résultat local : on se place donc en un point Λ(s0 , t0 ) et on se donne
un système de coordonnées (xi ) autour de ce point où l’on écrit Λ(s, t) = (x1 (s, t), . . . , xn (s, t)).
On a alors :
∂xk
∂t Λ = ∂k (7.12)
∂t
∂xk
∂s Λ = ∂k (7.13)
∂s
On utilise maintenant l’expression de la dérivée covariante le long d’une courbe dans la

base (∂k ) :
2 k
∂xi ∂xj k

∂ x
Ds ∂t Λ = + Γji ∂k (7.14)
∂s∂t ∂t ∂s
2 k
∂xi ∂xj k

∂ x
Dt ∂s Λ = + Γ ∂k (7.15)
∂t∂s ∂s ∂t ji
En permutant les indices i et j dans la deuxième expression et en utilisant Γkji = Γkij , on
obtient la formule voulue.
Figure 7.3 – Tout champ de vecteurs le long de γ est le champ de variation d’une variation de γ
7.2.4 Formule de la première variation

On montre maintenant comment on peut associer à une courbe admissible γ une famille
admissible.
Définition 7.6 (Variation d’une courbe admissible). Si γ : [a, b] → M est une courbe admissible,
une variation de γ est une famille admissible Λ telle que Λ(0, t) = γ(t) pour t ∈ [a, b].
On dit qu’une variation est propre si Λ(s, a) = γ(a) et Λ(s, b) = γ(b) pour tout s.
Si Λ est une variation de γ, on définit le champ de variation de Λ par V (t) = ∂s Λ(0, t) (c’est
un champ de vecteurs le long de γ).
On dit qu’un champ de vecteurs le long d’une courbe γ est propre si V (a) = V (b) = 0. Le
champ de variation d’une variation propre est lui-même propre.
Il y a équivalence entre variation d’une courbe et champ de vecteurs le long d’une courbe
comme le montre le lemme suivant.
Lemme 7.5. Si γ est une courbe admissible et V un champ de vecteurs le long de γ, alors il
existe une variation Λ de γ telle que V soit son champ de variation. Si V est propre, Λ peut être
choisi propre.
Proposition 7.1 (Formule de la première variation). Soit γ : [a, b] → M une courbe admissible
de vitesse unitaire, Λ une variation propre de γ, V son champ de variation et a = a0 < . . . <
ak = b une subdivision adaptée à γ. Alors :
b k−1
d
Z X
L(Λs ) = − hV, Dt γ̇idt − hV (ai ), ∆i γ̇i (7.16)
ds s=0 a i=1
−
où ∆i γ̇ = γ̇(a+
i ) − γ̇(ai ) est le “saut” du champ de vecteur tangent γ̇ au point ai .
Démonstration. On peut déjà faire remarquer que
d L(t 7→ γ(t) + ds · V (t)) − L(t 7→ γ(t))

L(Λs ) = lim (7.17)
ds s=0 ds→0 ds
est une forme linéaire en V . Ce que nous donne la formule, c’est le gradient associé à cette forme
Rb
linéaire pour le produit scalaire (f, g) 7→ ahf, gidt, qui est −Dt γ̇.
[Lee97], Chap. 6
Eva Philippe,
Arthur Touati,
Maxime Sylvestre
Équilibré
Figure 7.4 – ∆i γ̇, le “saut” de γ̇ en ai
On notera T (s, t) = ∂t Λ(s, t) et S(s, t) = ∂s Λ(s, t).

Sur tout intervalle [ai−1 , ai ], Λ est lisse, L(Λs ) est lisse et le domaine d’intégration est compact
donc on peut dériver sous l’intégrale :
Z ai
d d 1
L(Λs )= hT, T i 2 dt (7.18)

ds [ai−1 ,ai ] ds ai−1
Z ai
∂ 1
= hT, T i 2 dt (7.19)
ai−1 ∂s
Or, comme la connexion ∇ choisie est compatible avec la métrique g, on a (se référer au
chapitre 5, lemme 5.1)
∂
hT, T idt = 2hDs T, T i. (7.20)
∂s
De plus, le fait d’avoir choisi une connexion symétrique permet d’écrire grâce au lemme de
symétrie :
Ds T = Dt S (7.21)
Ainsi, on comprend a posteriori le choix particulier de travailler avec la connexion de Levi-
Civita, l’unique connexion compatible avec la métrique qui soit symétrique. Le calcul donne :
Z ai Z ai
∂ 1 1 1
hT, T i 2 dt = hT, T i− 2 2hDs T, T idt (7.22)
ai−1 ∂s ai−1 2
Z ai
1
= hDt S, T idt. (7.23)
ai−1 |T |
Avec s = 0 on a S(0, t) = V (t) et T (0, t) = γ̇(t), d’où :

Z ai
d
L(Λs |[ai−1 ,ai ] ) = hDt V, γ̇idt (7.24)
ds s=0 ai−1
Z ai
d
= hV, γ̇i − hV, Dt γ̇i dt (7.25)
ai−1 dt
Z ai
= hV (ai ), γ̇(a− +
i )i − hV (ai−1 ), γ̇(ai−1 )i − hV, Dt γ̇idt. (7.26)
ai−1
En sommant sur i et en se souvenant que V (a0 ) = V (ak ) = 0 car V est une variation propre,
on obtient bien l’expression voulue.
Comme le montre le lemme 7.1, la contrainte d’avoir un vecteur vitesse unitaire pour tout t
de la proposition précédente n’en est pas vraiment une, mais plutôt une exigence de calcul. On
peut maintenant préciser le lien entre les courbes minimisantes, les points critiques de L et les
géodésiques sous la forme d’un lemme et d’un théorème.
7.2.5 Les courbes minimisantes sont des géodésiques

Lemme 7.6. Si γ : [a, b] → M est une courbe admissible minimisante, alors γ est un point
d
critique pour L, c’est-à-dire que pour toute variation Λ de γ on a ds L(Λs ) = 0 en s = 0.
Théorème 7.1. Une courbe admissible de vecteur vitesse unitaire est un point critique de L si
et seulement si c’est une géodésique.
Démonstration. Si γ est une courbe admissible de vecteur vitesse unitaire, on peut utiliser la
formule de la première variation. Si γ est une géodésique : Dt γ̇ = 0 et ∆t γ̇ = 0 donc le membre
de droite de la formule de la première variation est nul et ds d
L(Λs ) = 0 en s = 0.
Si γ : [a, b] → M est un point critique pour L, soit a = a0 < . . . < ak = b une subdivision
adaptée à γ. Comme tout champ de vecteur propre le long de γ est le champ de variation d’une
certaine variation propre de γ, le membre de droite doit être nul pour tout champ de vecteurs
propre le long de γ. La première étape est de montrer que Dt γ̇ = 0 sur tous les intervalles
[ai−1 , ai ]. Sur un tel intervalle, on choisit comme champ de vecteur propre ϕDt γ̇ où ϕ est C ∞ ,
strictement positive sur [ai−1 , ai ] et nulle ailleurs. L’équation devient alors :
Z ai
0=− ϕ|Dt γ̇|2 dt (7.27)
ai−1
La fonction intégrée est strictement positive donc Dt γ̇ = 0 sur tous les intervalles [ai−1 , ai ].
La deuxième étape est de montrer que ∆i γ̇ = 0 pour tout i. Pour un certain i, en utilisant une
fonction de la forme de ϕ et en se donnant un système de coordonnées on peut construire un
champ de vecteur V le long de γ tel que V (ai ) = ∆i γ̇ et V (aj ) = 0 pour j 6= i. L’équation
devient alors −|∆i γ̇|2 = 0. Finalement, comme les vecteurs vitesse sont égaux de part et d’autres
de chaque ai , par unicité des géodésiques, γ|[ai ,ai+1 ] est le prolongement de γ|[ai−1 ,ai ] et ainsi γ
est lisse sur [a, b].
(a) Si Dt γ̇ 6= 0, on peut déformer γ (b) Si ∆i γ̇ 6= 0, on peut “arrondir le coin”.

le long de son vecteur accélération.
[Lee97], Chap. 6
Eva Philippe, 7.2.6 Les géodésiques sont localement minimisantes

Arthur Touati,
Nous allons maintenant démontrer une forme de réciproque au théorème précédent : les
Maxime Sylvestre géodésiques sont localement minimisantes.
Équilibré
Définition 7.7. Une courbe γ : I → M est dite localement minimisante si pour tout t0 ∈ I, il
existe un voisinage U de t0 dans I tel que γ|U est minimisante entre toute paire de points de U.
Une courbe minimisante est bien sûre toujours localement minimisante, mais la réciproque
est fausse : on se place sur S 2 et on prend deux points p etq tels que d(p, q) < π. La géodésique
qui les relie (c’est-à-dire un grand cercle) peut être scindée en deux géodésiques : la plus longue
est localement minimisante mais pas minimisante.
La preuve du résultat annoncé repose sur le théorème important suivant :
Théorème 7.2 (Lemme de Gauss). Si U est une boule géodésique centrée en p ∈ M , le champ
∂
de vecteurs radial unitaire ∂r est orthogonal aux sphères géodésiques de U.
Démonstration. Soit q ∈ U et X ∈ Tq M un vecteur tangent à la sphère géodésique passant

par q. Comme expp est un difféomorphisme sur U, il existe V, W ∈ Tp M tel que expp (V ) = q
et (expp )? W = X. Alors si R = d(p, q), V ∈ ∂BR (0) et W est tangent à ∂BR (0). On considère
la géodésique radiale de p à q, qui a pour équation γ(t) = expp (tV ), avec pour vecteur vitesse
∂
γ̇(t) = R ∂r . On doit donc montrer hX, γ̇(1)i = 0.
Figure 7.6 – Preuve du lemme de Gauss : notations.

Figure 7.7 – Variation Γ, champs de vecteurs S et T associés, utilisés lors de la preuve du

Lemme de Gauss.
On élargit la géodésique en considérant la variation propre Λ(s, t) = expγ(t) (tσ(s)) où σ :]−, [

d’image incluse dans ∂BR (0) et telle que σ(0) = V et σ̇(0) = W . Pour s dans ] − , [, Γs est une
géodésique de vitesse constante égale à R. On a naturellement hS(0), T (0)i = 0 (car S(0) = 0
vu que la variation est propre), et on a hS(1), T (1)i = hX, γ̇(1)i. Montrons donc que hS(t), T (t)i
ne dépend pas de t. Les propriétés de la connexion (compatibilité avec la métrique et symétrie)
impliquent :
∂
hS, T i = hDt S, T i + hS, Dt T i (par compatibilité avec la métrique) (7.28)
∂t
= hDt S, T i (car Γs est une géodésique) (7.29)
= hDs T, T i (par le lemme de symétrie) (7.30)
1 ∂
= |T |2 (par compatibilité avec la métrique) (7.31)
2 ∂s
=0 (car T est unitaire) (7.32)
On a bien hX, γ̇(1)i = 0.

Le lemme de Gauss était la clé pour passer des géodésiques “différentielles”, obtenues via les
connexions, aux géodésiques “métriques”, les rayons de boules. En utilisant de manière cruciale
les propriétés de symétrie et de compatibilité, on a pu caractériser par un énoncé purement
géométrique (l’orthogonalité aux surfaces de niveau de la fonction distance au point p) les géodé-
siques tirées via le théorème de Cauchy-Lipschitz à partir du point p. On peut alors développer,
de manière purement géométrique, les propriété locales des géodésiques :
Lemme 7.7. Si (xi ) sont les coordonnées normales sur une boule géodésique U centrée en p ∈ M ,
∂
et si r est la fonction distance radiale, alors grad r = ∂r sur U\{p}.
Proposition 7.2. Si p ∈ M et q est dans une boule géodésique centrée en p, alors, à reparamé-
trisation près, la géodésique radiale de p à q est l’unique courbe minimisante de p à q dans M .
Proposition 7.3. Au sein d’une boule géodésique autour de p ∈ M , la distance radiale r(x)
coïncide avec la distance riemannienne entre p et x.
[Lee97], Chap. 6
Eva Philippe,
Arthur Touati,
Maxime Sylvestre
Équilibré
Figure 7.8 – Les géodésiques sont localement minimisantes
Théorème 7.3. Toute géodésique riemannienne est localement minimisante.

Démonstration. Soit γ : I → M une géodésique, qu’on peut supposer définie sur un intervalle
ouvert. Soit t0 ∈ I, et soit W un voisinage uniformément normal de γ(t0 ) ( i.e. il existe δ > 0 tel
que W est inclus dans toute boule géodésique de rayon δ centrée autour de l’un de ses points – le
caractère lisse du flot géodésique dans l’espace des phases garantit en effet que le rayon de bonne
définition de la carte exponentielle ne s’effondre pas instantanément, puisque (p, v) 7→ expp (v)
est lisse), et U la composante connexe de γ −1 (W) contenant t0 . Soit t1 , t2 ∈ U et qi = γ(ti ). Alors
q2 est contenu dans une boule géodésique autour de q1 . D’après la proposition 7.2, la géodésique
radiale entre q1 et q2 est l’unique courbe minimisante entre ces deux points. Comme la restriction
de γ est aussi une géodésique entre q1 et q2 dans la même boule géodésique, on en déduit que γ
coïncide avec cette géodésique minimisante.
7.3 Complétude : Le théorème de Hopf-Rinow

Définition 7.8. Une variété riemannienne est dite géodésiquement complète si toute géodésique
maximale est définie pour tout t ∈ R.
Par exemple, un ouvert non trivial de Rn muni de la distance euclidienne n’est pas géodési-
quement complet car il y a des géodésiques qui atteignent la limite en un temps fini.
Théorème 7.4 (Théorème de Hopf-Rinow). Une variété riemannienne connexe est géodésique-
ment complète si et seulement si elle est complète en tant qu’espace métrique.
Faute de temps, nous n’aborderons pas la preuve de ce théorème, qui repose en grande partie
sur les propriétés de la carte exponentielle. On retiendra simplement les corollaires suivants, qui
nous rassurent quand à la bonne définition des géodésiques dans un espace où les bords sont
inaccessibles, à l’infini :
Proposition 7.4. S’il existe un point p tel que la carte exponentielle expp est définie sur tout
Tp M , alors M est complète.
Proposition 7.5. M est complète si et seulement si deux points de M peuvent être reliés par un
segment géodésique minimisant.
Proposition 7.6. Si M est compacte, alors toute géodésique peut être définie pour tout temps.
Deuxième partie
Application à l’étude des Espaces de

Formes
93
Chapitre 8
Un article fondateur : les triangles

de Kendall Séance 8
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
8.1 Introduction et motivation à l’étude des triangles Lino Benedetto
Élémentaire
L’étude des formes a motivé un bel effort de recherche dans le courant des années 80 avec en et élégant
point d’orgue l’étonnant résultat de David G. Kendall : la compréhension définitive de l’espace
des formes de triangles, isométrique à une sphère de rayon 1/2.
Ce résultat exceptionnel, s’inscrit dans une démarche de classification topologique des espaces
de formes mais a aussi eu pour but l’étude de ceux-ci en tant qu’espaces probabilisés.
Illustrée en Figure 8.1, voici le genre de questions que l’on se posait :
« Étant donnée une collection arbitraire de points du plan, à partir de quels critères peut-on
affirmer qu’elle présente “trop” d’alignements, indices d’une structuration sous-jacente ? »
L’alignement étant une question indépendante de l’échelle ou de l’orientation des données,

il est naturel de travailler sur cette question “à similitude près”. Comme elle peut s’exprimer en
terme de triplets de points, elle nous incite à concentrer nos efforts sur le cas des triangles . À
partir d’une collection de points, on peut construire l’ensemble de tous les triangles y prenant
leurs sommets, et donc se ramener à une question bien posée :
« Quelle est la distribution “standard” des formes de triangles – à similitude près – reliant des
points tirés au hasard selon une loi de probabilité simple ?
Plus spécifiquement, si des points sont (par exemple) tirés de manière indépendante et
uniforme dans le disque unité, puis reliés trois à trois, quelle sera la proportion observée de
triangles “presque plats” avec un angle inférieur à 1◦ ? »
Durant cette séance nous allons d’abord nous concentrer sur les triangles, on pourra ainsi
se faire une bonne intuition d’un espace de forme particulier et présenter dans un cadre assez
simples les premiers principes et outils servant dans l’étude de ces espaces comme l’analyse
procrustéenne. Par ailleurs, nous allons réussir à montrer le surprenant résultat de Kendall à
propos de la sphère des triangles en utilisant des outils géométriques et trigonométriques assez
simples. Nous verrons ensuite les résultats de généralisation de ces espaces, où nous devrons
utiliser un bagage beaucoup plus conséquent. Enfin, nous étudierons les questions relatives aux
probabilités et aux statistiques sur ces espaces.
95
Séance 8 96 Chapitre 8. Un article fondateur : les triangles de Kendall
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
(a) À l’extrémité ouest des îles britanniques, la pointe des Cor- (b) Sur cette péninsule de 10km sur
nouailles recèlerait-elle un secret ? 15km, on observe une concentration
Carte OpenStreetMap. élevée de monolithes.
Figure 8.1 – Motivation initiale de David Kendall : les monolithes de Land’s End ont-ils été
placés au hasard, ou peut-on voir dans la distribution ci-dessus les traces d’alignements signifi-
catifs ? Chaque site est ici représenté par un nombre, celui des “triangles presque plats” dont il
fait partie. On reformule alors notre question de manière statistique :
« Sur la carte (b), y a-t-il un nombre anormalement élevé de triades de mégalithes alignés ? »
Dans un article d’une grande importance historique, Simulating the Ley Hunter paru en 1980, Si-
mon Broadbent laisse à penser que non – ce qui est bien entendu sujet à de sérieuses controverses
archéologiques.
8.2 Un espace de formes : la sphère des triangles

Pour nous, une forme est un nuage de k points de Rm , les triangles dans le plan sont donc
associés au valeurs k = 3 et m = 2. Restreignons nous au cas des formes dans le plan (m = 2) et
considérons que l’on dispose d’une collection P 1 , . . . , P N de telles formes.
Action des similitudes Ces nuages de points P n , on peut les transformer à l’aide de trans-
lations, homothéties, rotations : si (x, y) est un vecteur du plan, s est une échelle et θ un angle,
on définit l’application

x s cos(θ) · x − s sin(θ) · y + x
Sx,y,s,θ : 7→ (8.1)
y s sin(θ) · x + s cos(θ) · y + y
qui est la composée d’une translation de vecteur (x, y), d’une rotation d’angle θ et d’une ho-
mothétie de rapport s strictement positif. À vrai dire, puisque qu’on se restreint aux formes du
plan, on peut se simplifier la vie en adoptant le formalisme complexe. On caractérisera nos points
(x, y) par des affixes z = x + iy et une similitude du plan est la donnée de deux complexes
τ = x + iy et υ = seiθ , (8.2)
et on pourra écrire nos similitudes comme des applications
Sτ,υ : z 7→ υ · z + τ. (8.3)
8.2. Un espace de formes : la sphère des triangles 97
Si P n = (P1n , . . . , PIn ) est l’une de nos “formes”, on définira sans ambages son transformé :
Sτ,υ (P n ) = (Sτ,υ (P1n ), . . . , Sτ,υ (PIn )) . (8.4)
Analyse procrustéenne Si P m et P n sont deux individus distincts, ne pourrait-on alors

tenter de recaler l’un sur l’autre à l’aide d’une similitude ?
Cela permettrait de décomposer la différence P m − P n entre deux nuages en une composante
rigide P m − Sτ,υ (P m ), donnée de (x, y), s et θ, et un résiduel irréductible Sτ,υ (P m ) − P n .
Illustré Figure 8.2, le procédé le plus simple est de trouver le choix de (τ, υ) qui minimise
I
X
2 2
kSτ,υ (P m ) − P n k2 = |Sτ,υ (Pim ) − Pin | (8.5)
i=1
2 2
= |υ · P1m + τ − P1n | + · · · +|υ · PIm + τ − PIn | . (8.6)
Nous noterons ce minimum dProcuste (P m → P n ). Cette méthode a été popularisée sous le
nom d’analyse Procustéenne en référence à Procuste, brigand apparaissant dans la légende de
Thésée qui, d’après Diodore de Sicile
« contraignait les voyageurs à se jeter sur un lit ; il leur coupait les membres trop grands et qui
dépassaient du lit ; et étirait les pieds de ceux qui étaient trop petits. »
8.2.1 Un système de coordonnées adaptées

On va présenter le cadre théorique permettant de répondre de manière élégante à de telles
questions. Avant tout, il importe de représenter nos triangles sous une forme adaptée aux calculs
de distances et de similitudes.
On adoptera ici les notations de l’article de référence de David Kendall, Shape Manifolds,
Procustean Metrics and Complex Projective Spaces (1984), sur lequel est basé la présente dis-
cussion. Pour une exposition plus élémentaire, on pourra aussi consulter Exact Distributions for
Shapes of Random Triangles in Convex Sets du même auteur, publié en 1985 à destination d’un
public non spécialisé.
Paramétrisation naïve À première vue, un triangle ABC n’est rien d’autre que la donnée
de trois affixes complexes associées aux sommets : z1? , z2? et z3? . Conformément à l’équation (8.4),
pour tout “vecteur” τ et rapport υ, on peut écrire
Sτ,υ (ABC) = Sτ,υ (z1? , z2? , z3? ) = ( υ · z1? + τ, υ · z2? + τ, υ · z3? + τ ). (8.7)
De plus, pour et
(z1? , z2? , z3? ) deux triangles quelconques, le critère minimisé par
(w1? , w2? , w3? )
l’analyse procustéenne s’écrit simplement :
2
k z ? − w? k2 = |z1? − w1? |2 + |z2? − w2? |2 + |z3? − w3? |2 . (8.8)
Coordonnées barycentriques Grâce à la multiplication complexe, la représentation naïve

des triangles par un triplet d’affixes n’est donc pas un mauvais choix. Mais il est possible d’aller
plus loin en considérant le nouveau triplet de coefficients

z0 z1 z2 = √13 (z1? + z2? + z3? ) √12 (z2? − z1? ) √16 (2z3? − z1? − z2? ) (8.9)

 √ √ √ 
1/√3 −1/√2 −1/√6
= z1? z2? z3? · 1/√3 +1/ 2 −1/√6 . (8.10)

1/ 3 0 +2/ 6
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
(a) Données brutes : la source (b) La meilleure translation est (c) Après recalage des bary-
P m est en vert (clair), la cible celle qui aligne les barycentres. centres.
P n en bleu (foncé).
(d) Les deux formes, centrées. (e) On peut calculer le rapport (f) Après application de la
de dilatation optimal. translation + homothétie.
(g) Les deux formes sont cen- (h) La meilleure rotation s’ob- (i) Après recalage par une simi-
trées et normalisées : reste à retient elle aussi par un calcul litude : le résidu peut être ana-
caler les orientations. analytique simple. lysé indépendamment.
Figure 8.2 – L’analyse Procustéenne, ou la recherche pas-à-pas de la meilleure similitude pour

recaler deux formes – ici, un quadrilatère vert sur le carré bleu. Les paramètres optimaux pour
la similitude sont obtenus par un calcul élémentaire, détaillé dans le cas des triangles aux équa-
tions (8.20-8.49). Après recalage (en bas à droite), les deux quadrilatères diffèrent uniquement
par une fine différence de forme (au sens usuel) : la différence qui existe entre un cerf-volant et
un carré, indépendante de tout problème d’échelle ou d’orientation.
Images tirées de Wikipédia, par Linschn.
Figure 8.3 – On peut caractériser un triangle (z1? , z2? , z3? ) par son barycentre zc = 31 (z1? + z2? + z3? )
et deux vecteurs directionnels α = z2? − z1? et β = 31 (2z3? − z1? − z2? ). En normalisant ceux-
√ √ √ √
ci pour obtenir un jeu de coordonnées (z0 , z1 , z2 ) = ( 3 zc , α/ 2, β 3/ 2), on dispose d’une
représentation adaptée aux similitudes et aux calculs de distances – équations (8.11-8.12).
Finalement, le ratio ξ = z2 /z1 encode complètement la forme du triangle aux similitudes près.
Illustré Figure 8.3, ce changement linéaire de coordonnées permet d’écrire les similitudes de
manière plus compacte
√
Sτ,υ (ABC) = Sτ,υ (z0 , z1 , z2 ) = ( υ · z0 + 3 τ, υ · z1 , υ · z2 ), (8.11)
les translations n’ayant d’influence que sur le seul barycentre. Dans le même temps, grâce aux
propriétés d’orthogonalité de la matrice de changement de repère, on a toujours une expression
simple de la distance quadratique entre deux triangles du plan :
2 2
k z ? − w? k2 = kz − wk2 = |z0 − w0 |2 + |z1 − w1 |2 + |z2 − w2 |2 . (8.12)
Relation d’équivalence Si (z0 , z1 , z2 ) et (w0 , w1 , w2 ) sont deux triangles donnés en coordon-

nées “barycentriques”, on peut maintenant déterminer s’ils sont ou non similaires l’un à l’autre :
 √
 υz0 + 3 τ = w0
∃τ, υ ∈ C, Sτ,υ (z) = w ⇐⇒ ∃τ, υ ∈ C, υz1 = w1 (8.13)
υz2 = w2

⇐⇒ z1 w2 = z2 w1 . (8.14)
Autrement dit, si notre triangle n’est pas dégénéré (A = B = C, cas que l’on exclut de notre
analyse), on peut caractériser sa forme “à similitude près” par le ratio
√1 (2z ? − z ? − z ? )
z2 6 3 1 2
ξ = = 1 ? ?
∈ C ∪ {∞}. (8.15)
z1 √ (z − z )
2 2 1
[Ken84]
Basile Coron,
Paul Fraux, Deux triangles non dégénérés (z) et (w) seront semblables si et seulement si leurs “ratios” res-
Massil Hihat, pectifs ξ = z2 /z1 et ξ 0 = w2 /w1 sont égaux. On a réussi à décrire la forme d’un triangle par un
Lino Benedetto unique nombre complexe “projectif” (i.e. qui peut être infini), avec deux paramètres réels (mo-
Élémentaire dule et argument). À vrai dire, comme illustré Figures 8.4 et 8.5, considérer le ratio ξ revient ni
et élégant plus ni moins à utiliser une similitude pour recaler (A, B) = (z1? , z2? ) sur (−1, 1), puis à identifier
la forme du triangle avec la coordonnée libre restante, issue de z3? .
Premiers exemples Certaines valeurs remarquables de ξ correspondent à des propriétés

simples du triangle ABC ; on trouve :
— ξ=∞ ⇔ A = B.
— ξ= 0 ⇔ C est le milieu de [AB].
— ξ ∈ R ∪ {∞} ⇔ ABC est plat.
— ξ ∈ iR ∪ {∞} ⇔ ABC est isocèle en C.
— ξ ∈ {−i, +i} ⇔ ABC est équilatéral.
Malheureusement, manipuler ξ manque d’élégance : pourquoi mettre à part le triangle avec
A = B, correspondant à l’infini ? L’espace des triangles devrait refléter une certaine invariance par
permutation des sommets, ce qui n’est clairement pas le cas ici. Pour trouver une représentation
satisfaisante de l’espace des formes de triangles, il faut donc travailler encore un peu.
La sphère des triangles Souvenons-nous : dans le film Dimensions repris Figure ??, nous
avions appris qu’une “droite projective complexe” n’est rien d’autre qu’une sphère. Par la pro-
jection stéréographique, il est donc possible d’identifier un ratio complexe ξ ∈ C ∪ {∞} avec
un point de la boule unité, caractérisé par deux angles en coordonnées sphériques θ et ϕ. En
s’inspirant de cette idée, David Kendall propose d’associer un couple d’angles à chaque triangle
(z ? ) ∼ (z) ∼ ξ par la formule :
θ = 2 arctan(|ξ|) et ϕ = arg(ξ), (8.16)

de sorte que ξ = tan(θ/2) e . iϕ
(8.17)
Chaque classe de triangle à similitude près est alors associée à un point de la sphère, que l’on
choisit de rayon 1/2 pour une raison qui deviendra claire au Théorème 8.1 :
1
f (ξ) = (cos θ, sin θ cos ϕ, sin θ sin ϕ) (8.18)
2
en coordonnées (X, Y, Z). Le résultat est illustré Figure 8.7, avec un représentant de classe pour
chaque point du globe. Suivant la page précédente, on trouve :
— Le segment [A = B, C] au point (−1/2, 0, 0).
— Le triangle plat où C est au milieu de [AB] au point (+1/2, 0, 0).
— Les triangles plats sur l’équateur Z = 0.
— Les triangles isocèles en C sur le méridien Y = 0.
— Les deux triangles équilatéraux direct (Nord) et indirect (Sud) aux pôles (0, 0, ±1/2).
Figure 8.4 – Étant donné un point de la sphère de coordonnées sphériques (θ, ϕ) ∈ [0, π]×[0, 2π[,
comment√ construire un triangle lui correspondant ? Il suffit de considérer le triplet (z1? , z2? , z3? ) =
iϕ
(−1, 1, 3 tan(θ/2) e ).
8.2.2 Sphère des triangles et distance procustéenne

La sphère des triangles ne pourrait être qu’un moyen astucieux de rendre compte de la
topologie de l’ensemble des triangles considérés à similitude près. Un moyen commode de se
souvenir que pour passer d’un triangle équilatéral direct à un triangle équilatéral indirect, il faut
passer par l’équateur des triangles plats. Mais cette représentation de l’espace de triangles est
beaucoup plus profonde qu’un simple moyen mnémotechnique. Avant tout, elle rend parfaitement
compte de l’analyse procustéenne sur les triangles, comme indiqué par le théorème suivant.
Théorème 8.1 (Sphère de Kendall et moindres carrés). Soit ABC et DEF deux triangles
du plan aux sommets étiquetés, identifiés à des triplets d’affixes complexes z ? = (z1? , z2? , z3? ) et
w? = (w1? , w2? , w3? ).
Suivant la discussion des pages précédentes, on associe à z ? (respectivement w? ) un couple
de complexes “barycentriques” z = (z1 , z2 ) (resp. w = (w1 , w2 )), puis un ratio projectif complexe
ξ = z2 /z1 (resp. ξ 0 = w2 /w1 ), un couple d’angles (θ, ϕ) ∈ [0, π] × [0, 2π[ (resp. (θ0 , ϕ0 )) et un
en 0 de rayon 1/2 dans R3 , f (ξ) (resp. f (ξ 0 )).
point de la sphère centrée p
Alors en notant W = |w1 |2 + |w2 |2 l’échelle de DEF, on a :
dProcuste (ABC → DEF ) = minkSτ,υ (z ? ) − w? k2 = W · kf (ξ) − f (ξ 0 )kR3 . (8.19)

τ,υ
Autrement dit : la distance procustéenne entre triangles est directement proportionnelle à la

distance euclidienne entre points de la sphère. L’ensemble des triangles du plan peut donc être
vu comme le produit de deux facteurs : le groupe des similitudes “Sτ,υ ” (de dimension réelle 4),
et la sphère de Kendall de dimension 2, qui caractérise les résiduels après recalage rigide.
La preuve repose sur un simple calcul de minimum par annulation de la dérivée, avec utilisa-
tion de moult identités trigonométriques.
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
Figure 8.5 – L’espace des triangles à similitude près, vu dans le plan des ratios ξ ∈ C ∪ {∞}.
Dessiné en rouge, l’axe des abscisses correspond aux triangles plats. Les triangles isocèles se
répartissent selon trois courbes, qui dépendent du sommet privilégié : en bleu, l’axe des ordonnées
correspondant aux triangles isocèles en C ; en vert la courbe des triangles isocèles en A, en cyan
celle des triangles isocèles en B. Le point correspondant au ratio ξ = 0 est ici représenté à
l’origine du repère.
Démonstration. Reprenons les membres de notre équation. À gauche et au centre, un réel défini
de manière implicite :
v
u 3
uX
dProcuste (ABC → DEF ) = min t |υ · zi? + τ − wi? |2 . (8.20)
τ,υ∈C
i=1
À droite, une distance :
W · kf (ξ) − f (ξ 0 )kR3 (8.21)

1 1 0 0 0 0 0
(8.22)

= W · (cos θ, sin θ cos ϕ, sin θ sin ϕ) − (cos θ , sin θ cos ϕ , sin θ sin ϕ )

2 2 R3
1 p
= W· (cos θ − cos θ0 )2 + (sin θ cos ϕ − sin θ0 cos ϕ0 )2 + (sin θ sin ϕ − sin θ0 sin ϕ0 )2 (8.23)
2
où W , θ, θ0 , ϕ et ϕ0 sont définis à partir de z ? et w? .

Pour identifier ces deux quantités, on procède en deux temps : d’abord, on explicite le terme
de gauche pour aboutir à une fonction de z et w ; ensuite, on développe cette expression dans les
coordonnées sphériques (θ, ϕ) jusqu’à voir apparaître le terme de droite.
√
Passage aux distances quadratiques Commençons par rappeler que x 7→ x est une fonc-
tion positive et strictement croissante de x. Il suffit donc de démontrer notre égalité sur les carrés
des distances mises en jeu, i.e. montrer que :
3
!
X
min |υ · zi? +τ − wi? |2 (8.24)
τ,υ∈C
i=1
1
= W2 · (cos θ − cos θ0 )2 + (sin θ cos ϕ − sin θ0 cos ϕ0 )2 + (sin θ sin ϕ − sin θ0 sin ϕ0 )2 (8.25)

4
Calcul du minimum procustéen Explicité à gauche de l’équation précédente,

2
kSτ,υ (z ? ) − w? k2 est une fonction positive et continue des variables complexes τ et υ, à z ?
et w? fixés. Or on voit qu’elle diverge vers +∞ lorsque |τ | ou |υ| s’éloigne à l’infini. Par un
raisonnement de compacité on sait qu’il existe un couple de paramètres optimaux (τ0 , υ0 ) qui
réalise le minimum.
La similitude optimale recale les barycentres Reste à le caractériser. Pour cela, remar-
quons que pour tout accroissement dτ , on a :
2 2
kSτ0 +dτ,υ0 (z ? ) − w? k2 > kSτ0 ,υ0 (z ? ) − w? k2 . (8.26)
[Ken84]
Basile Coron,
Paul Fraux, Or on peut calculer que :
Massil Hihat,
Lino Benedetto X3
2
Élémentaire kSτ0 +dτ,υ0 (z ? ) − w? k2 = |υ0 · zi? + τ0 + dτ − wi? |2 (8.27)
et élégant i=1
3
X
= (υ0 · zi? + τ0 + dτ − wi? ) (υ0 · zi? + τ0 + dτ − wi? ) (8.28)
i=1
2
= kSτ0 ,υ0 (z ? ) − w? k2 + 3 |dτ |2 (8.29)
3
X
+ dτ ·(υ0 · zi? + τ0 − wi? ) + dτ ·(υ0 · zi? + τ0 − wi? ) (8.30)
i=1
2
= kSτ0 ,υ0 (z ? ) − w? k2 + 3 |dτ |2 (8.31)
3
X
+ 2 <dτ · (υ0 · zi? + τ0 − wi? ), (8.32)
i=1
qui est le développement en dτ du coût minimisé au voisinage de l’optimum (τ0 , υ0 ). Par suite
de l’inégalité (8.26), le terme linéarisé d’ordre 1 doit être positif pour toute valeur assez faible de
dτ : ceci n’est possible que si on a annulation de la dérivée,
3
X
(υ0 · zi? + τ0 − wi? ) = 0. (8.33)
i=1
Autrement dit, la condition de minimisation en τ0 s’écrit à l’ordre 1 :
3 3
1X ? 1X ?
υ· zi + τ0 = w , (8.34)
3 i=1 3 i=1 i
i.e. « Sτ0 ,υ0 recale les deux barycentres ». C’est un résultat que nous avions utilisé de manière
intuitive dans la Figure 8.2b.
Passage aux coordonnées barycentriques On a vu aux équations (8.11-8.12) que l’on

pouvait écrire la dissimilarité procustéenne en coordonnées barycentriques :
2 2
kSτ,υ (z ? ) − w? k2 = kSτ,υ (z) − wk2 (8.35)
√
= |υ · z0 + 3 τ − w0 |2 + |υ · z1 − w1 |2 + |υ · z2 − w2 |2 . (8.36)
Or nous venons de montrer que la similitude optimale recale les barycentres :

√
υ0 · z0 + 3 τ0 = w0 . (8.37)
Pour trouver le coût procustéen d2Procuste (ABC → DEF ), il suffit donc de minimiser en υ
l’expression :
2
kSτ0 ,υ (z ? ) − w? k2 = |υ · z1 − w1 |2 + |υ · z2 − w2 |2 . (8.38)
Un coût explicite Comme au paragraphe précédent, on écrit :
2
X
2
kSτ0 ,υ0 +dυ (z ? ) − w? k2 = ((υ + dυ) · zi − wi ) ·((υ + dυ) · zi − wi ) (8.39)
i=1
2
= kSτ0 ,υ0 (z ? ) − w? k2 + |dυ|2 · (|z1 |2 + |z2 |2 ) (8.40)
2
X
+ dυ · zi ·(υ · zi − wi ) + dυ · zi ·(υ · zi − wi ) . (8.41)
i=1
La condition d’annulation de la dérivée en υ0 est donc :

2
X 2
X 2
X
zi · (υ0 · zi − wi ) = 0, i.e. υ0 · 2
|zi | = zi wi . (8.42)
i=1 i=1 i=1
À l’optimum, on a alors :
2
X 2
X
(υ0 zi ) ·(υ0 zi ) = (υ0 zi ) · wi , (8.43)
i=1 i=1
ce qui nous permet de conclure :
2
X
d2Procuste (ABC → DEF ) = (υ0 zi − wi ) ·(υ0 zi − wi ) (8.44)
i=1
2
X
= (υ0 zi ) ·(υ0 zi ) −(υ0 zi ) · wi − wi ·(υ0 zi ) + wi · wi (8.45)
i=1
2
X
= wi · (wi − υ0 zi ) (8.46)
i=1
2
X 2
X
= wi wi − υ0 wi zi (8.47)
i=1 i=1
2 P2
X | wi zi |2
= wi wi − Pi=12 (8.48)
i=1 |zi |
2
i=1
!  
2 P2 2
X | w i zi |
= |wi |2 · 1 − P i=1
P  . (8.49)
2 2
i=1 |z
i=1 i | 2 ·
i=1 |wi |2
Un coût fonction des ratios complexes ξ et ξ 0 À l’aide de deux conditions d’annulation

de la dérivée, nous avons pu résoudre notre problème de minimisation : trouver la similitude
optimale pour recaler ABC sur DEF n’était finalement pas si difficile.
Maintenant, nous allons chercher à exprimer le coût irréductible du résiduel donné équa-
tion (8.49) en fonction des coordonnées sphériques (θ, ϕ) et (θ0 , ϕ0 ). On a convenu de se doter de
ratios ξ et ξ 0 tels que :
z2 = ξ z1 et w2 = ξ 0 w1 . (8.50)
[Ken84]
Basile Coron,
Paul Fraux, On peut donc écrire :
Massil Hihat, !  
Lino Benedetto 2 P2 2
X | w i zi |
Élémentaire d2Procuste (ABC → DEF ) = |wi |2 · 1 − P i=1
P  (8.51)
2 2
et élégant i=1 i=1 i|z |2 ·
i=1 |w i |2
|w1 z1 + w2 z2 |2

= |w1 |2 + |w2 |2 · 1 − (8.52)

(|z1 |2 + |z2 |2 ) ·(|w1 |2 + |w2 |2 )
|w1 z1 + w1 z1 ξ 0 ξ|2

2 2
(8.53)

= |w1 | + |w2 | · 1 −
|z1 |2 (1 + |ξ|2 ) · |w1 |2 (1 + |ξ 0 |2 )
|1 + ξ 0 ξ|2

= |w1 |2 + |w2 |2 · 1 − (8.54)

.
(1 + |ξ|2 ) ·(1 + |ξ 0 |2 )
En notant W 2 = |w1 |2 + |w2 |2 la variance du triangle DEF , facteur d’échelle, on trouve :
1 2 |1 + ξ 0 ξ|2
dProcuste (ABC → DEF ) = 1 − . (8.55)
W 2 (1 + |ξ|2 ) ·(1 + |ξ 0 |2 )
En coordonnées sphériques Pour conclure, il suffit alors de s’armer de patience, d’une fiche
de formules trigonométriques, et de se souvenir que
0
ξ = tan(θ/2) eiϕ , ξ 0 = tan(θ0 /2) eiϕ . (8.56)
On trouve :
0
1 2 |1 + tan(θ/2) tan(θ0 /2)ei(ϕ−ϕ ) |2
d (ABC → DEF ) = 1 − (8.57)
W 2 Procuste 1 + tan2 (θ/2) · 1 + tan2 (θ0 /2

tan2 (θ/2) + tan2 (θ0 /2) − 2 tan(θ/2) tan(θ0 /2) cos(ϕ − ϕ0 )

= (8.58)
1 + tan2 (θ/2) · 1 + tan2 (θ0 /2

1
= ·(1 − cos θ cos θ0 − sin θ sin θ0 cos(ϕ − ϕ0 )) (8.59)
2
1
· (cos θ − cos θ0 )2 + (sin θ cos ϕ − sin θ0 cos ϕ0 )2 + (sin θ sin ϕ − sin θ0 sin ϕ0 )2 (8.60)

=
4
2
= kf (ξ) − f (ξ 0 )kR3 . (8.61)
En passant aux racines carrées, on a bien retrouvé l’énoncé du théorème :
dProcuste (ABC → DEF ) = W kf (ξ) − f (ξ 0 )kR3 . (8.62)
À la variance du triangle d’arrivée près, la sphère de rayon 1/2 est bien le bon espace pour
calculer les distances procustéennes entre triangles.
8.3. Généralisation 107
8.3 Généralisation
8.3.1 Définition formelle
Nous allons maintenant essayer de généraliser la construction précédente. Considérons une
forme à k points déterminée par les vecteurs de Rm (zj∗ )i∈j...k de barycentre zc∗ . On autorise les
dégénérescences à l’exception du polygone effondré en un point, (tous les zj égaux).
Nous allons tout d’abord négliger l’effet des translations. Pour cela, comme dans le cas des
triangles, on commence par chercher une base orthonormale qui décrive bien le problème. Puisque
seules nous intéressent les positions relatives au barycentre, on considère les coordonnées obtenues
par la transformation orthogonale suivante :
√ ∗
jzj+1 − (z1∗ + ... + zj∗ )
z0 = zc∗ k zj = p . (8.63)
j2 + j
Ainsi à partir de maintenant on ignorera z0 et on essaye de trouver une construction pour

z = (z1 , ..., zk−1 ) indépendante des autres changements de bases orthonormales.
On définit alors
Σkm = {(Rm )k−1 \0}/Sim (8.64)
où Sim est le groupe des similitudes engendré par les rotations et les dilatations (non nulles). Le
0 ∈ (Rm )k−1 est exclu car nous ne considérons pas la forme du k-polygone totalement dégénéré.
8.3.2 Topologie et norme

Pour z ∈ (Rm )k−1 , on définit sa norme par :
k−1
X k
X k
X
||z||2 = |zj |2 = |zi∗ |2 − k|zc∗ |2 = |zi∗ − zc∗ |2 (8.65)
j=1 i=1 i=1
où |.| est la norme euclidienne de Rm . On remarque que cette norme est canonique, au sens où
elle ne dépend plus de la transformation orthogonale définie en 8.63.
L’espace quotient Σkm muni la topologie quotient héritée de cette norme, sera appelé l’espace
des formes d’ordre (k, m)
Pour des raisons pratiques, on considérera le quotient définissant Σkm , comme effectué d’abord
par les dilatations, ramenant (Rm )k−1 à S m(k−1)−1 noté Sm k
, ensuite par les rotations SO(m)
agissant à gauche de (R )
m k−1
(identifié à Mm,k−1 ), on a donc :
Σkm = Sm
k
/SO(m) (8.66)
On note p la projection de Sm
k
→ Σkm , alors un argument de théorie des groupes montre que
la métrique de Σm est exactement celle engendrée par la distance ρ :
k
ρ(p(W ), p(W0 )) = inf (d(RW, W0 ))) (8.67)

R∈SO(m)
et d est la métrique induite par les calculs de géodésique sur Sm

k
(en particulier, d, et donc ρ, est
majoré par π).
[Ken84]
Basile Coron,
Paul Fraux, Groupe de transformations On veut construire un groupe G d’isométrie sur Σkm . Vu comme
Massil Hihat, sous-espace de dans Mm,k−1 , on a une action à gauche sur Sm k
, celle de SO(m), par rotation.
Lino Benedetto Néanmoins O(k − 1) agit aussi à droite (par permutation des points entre autres, ou comme dans
Élémentaire la formule 8.63), ces deux actions commutent et l’action de O(k − 1) engendre sur Σkm un groupe
et élégant d’isométrie G.
Si m est pair, on peut augmenter le groupe G de symétries en
O
G+ = G {1, τ }, (8.68)
où τ représente la multiplication à gauche par diag(1,1,....,1,-1) et on appelle l’action de τ sur

Σkm la conjugaison, nous reverrons bientôt cette conjugaison dans un cadre plus familier.
Une idée sur la classification Les espaces de la forme Σm+1 m que l’on appellera espace de
forme simplicial, sont plus important qu’il n’y parait. Une telle forme détermine un simplex de
Rm . A. J. Casson à prouver que tous ces espaces sont homéomorphes à des sphères.
En fait tous, les espaces Σkm avec k < m + 1 que l’on appellera espaces de formes sur-
dimensionné se ramènent aux cas des espaces simpliciaux Σkk−1 . En effet, modulo SO(m) dans
un tel espace sur-dimensionné, on peut transformer nos formes (vues dans Mm,k−1 ), de sorte à
ce qu’elles ait les m − (k − 1) dernières lignes nulles. L’action de conjugaison τ sur les formes de
Σkk−1 fait correspondre celles-ci aux formes de Σkm , par un processus de déconjugaison, on peut
donc revenir à Σkk−1 .
8.4 Etude des formes du plan, Σk2

On s’intéresse maintenant, au cas des formes du plan, donc à décrire Σk2 . Il nous vient alors la
même idée que dans l’étude des triangles, on peut représenter (R2 )k−1 par Ck−1 et les similitudes
sont alors la multiplication par un complexe non nul. L’espace résultant est C k−1 − 0 quotienté
par les homothétie non nulles, c’est à dire l’espace projectif CP k−2 .
On a alors (à un changement d’échelle près, que l’on reverra très bientôt) :
Σk2 = CP k−2 (8.69)
Plus de transformations Remarquons déja que par cette identification, la conjugaison par
τ que l’on a défini précédemment correspond bien à la conjugaison complexe. En fait, voir notre
espace de forme, comme un espace complexe nous permet d’enrichir encore plus notre groupe de
similitudes G+ .
En effet, on peut l’étendre en un groupe G++ en ajoutant les éléments de U (k − 1)/U (1)
(quotient du groupe unité par son centre, les homothéties de rapport non nul de Ck−1 ). Ainsi,
on a que Σk2 est homogène car G++ agit alors transitivement. C’est un résultat qui ne se vérifiera
pas en dimension m ≥ 3.
Remarques Notons, au passage, qu’il vient naturellement que Σ22 = CP 0 = {.}, cette dernière
identification peut , par ailleurs, se voir tout aussi bien géométriquement. Aussi, Σ32 = CP 1 = S 2 ,
ce qui semble déja nous indiquer que l’espace des triangle est une sphère, nous avons déja vu une
preuve de la nature métrique de cette identification, nous developperons dans la suite d’autres
arguments pour cela.
8.4. Etude des formes du plan, Σk2 109
8.4.1 Analyse procrustéenne et distance sur Σk2

Soit z (ou z* si on utilise les coordonnées initiales) représentant un k-polygone dans R2 . On
note [z] ou [z*] le point correspondant de Σk2 . On suppose k ≥ 3. On introduit la mesure d’écarts
entre deux k-uplets de complexes (z,w) de barycentre b :
wi |2
P
i |zi −P
P (8.70)
i |zi − b| +
2
i |wi − b|
2
On veut obtenir le minimum de la mesure d’écarts entre les k-polygones αz ∗ + λ et βy ∗ + µ.

On peut supposer sans perte de généralité que z* et w* sont centrés en 0. On cherche donc à
minimiser :
+ (λ − µ)|2
P
i |αzi − βwi P
P (8.71)
i |αzi + (λ − µ)/2| +
2
i |βwi − (λ − µ)/2|
2
et on trouve finalement :
∗
− zc∗ |
P
∗ ∗ | i (zi
∆([z ], [w ]) = 1 − qP (8.72)
∗ ∗ 2 ∗ ∗ 2
P
i |zi − zc | j |wj − wc |
Où encore avec Z et W normalisés :

k−1
X
∆([Z], [W ]) = 1 − | Zj W j | (8.73)
1
Analyse procrustéenne : On peut reconnaître dans ce calcul un exemple d’analyse procrus-

téenne, à la différence qu’ici nous ne supprimons pas les réflexions ce qui introduit d’importantes
différences dans la formule.
On vérifie facilement que ∆ est définie positive et symétrique. On pose :
ρ = arccos(1 − ∆) (8.74)
et on vérifie que c’est une distance avec un maximum atteint de π2 et que dans le cas où
m = 2 c’est bien la fonction définie dans la partie 8.67.
On a alors de nombreuse distances équivalentes à ρ comme 1+ρ
ρ
ou encore c sin( ρc ) avec 2 ≤ c (le
√
cas c = 2 conduit même à 2∆). Mais la fonction ρ est la bonne puisqu’il s’agit d’une définition
alternative de la distance quotient.
Pour obtenir la métrique Riemannienne associée il suffit alors de faire un développement

asymptotique de cos(ρ)2 en utilisant la carte p de S2k dans Σk2 .
On trouve alors :
Pk−1 Pk−1 Pk−1 Pk−1
( 1 zj zj )( 1 dzj dzj ) − ( 1 zj dzj )( 1 zj dzj )
2
ds = Pk−1 , (8.75)
( 1 zj zj )2
zj
où encore sur une surface telle que z1 6= 0, avec ζj = z1 :
Pk−1 Pk−1 Pk−1 Pk−1
(1 + ζj ζj )( dζj dζj ) − ( 2 ζj dζj )( 2 ζj dζj )
ds2 = 2 2
Pk−1 . (8.76)
(1 + 2 ζj ζj )2
[Ken84]
Basile Coron,
Paul Fraux, Intéressons nous aux triangles dans le plan (m = 2, k = 3). D’après (8.76) nous savons qu’il
Massil Hihat, existe un système de coordonnées sur Σ32 privé d’un point tel que :
Lino Benedetto
Élémentaire (1 + |ζ|2 )|dζ|2 − |ζdζ|2
ds2 = . (8.77)
et élégant (1 + |ζ|2 )2
Si on pose ζ = reiϕ et r = tan( θ2 ), on obtient sur Σ32 privé d’un point :
1
ds2 = (dθ2 + sin2 (θ)dϕ2 ). (8.78)
4
Théorème 8.2. Σ32 est isométrique à S 2 ( 12 )
8.4.2 Détails géométriques de la carte

Si on se donne ABC un triangle, on cherche le point de S 2 ( 12 ) qui correspond à sa forme.
On se place dans le cas où |AB|
2
~ est la direction de référence. On note alors le
= 1 et AB
vecteur entre le centre de AB et C pas M e . Alors en posant r = √
iψ M
3
, on a :
1 1 − r2
X= cos(θ) = (8.79)
2 2(1 + r2 )
1 2r cos(ψ)
Y = sin(θ) cos(ψ) = (8.80)
2 2(1 + r2 )
1 2r sin(ψ)
Z = sin(θ) sin(ψ) = (8.81)
2 2(1 + r2 )
Pour faciliter les calculs on retire le facteur 1

2
Inversement, si on se donne un point de la sphère, on peut facilement calculer (r,ψ)et

alors un triangle représentant la forme sera :
√
A = − 3 − reiψ (8.82)
√
B = 3 − reiψ
(8.83)
C = 2reiψ (8.84)
8.4.3 Action de G++ sur la sphère

Dans G++ on a un sous groupe d’ordre 6 G6 qui permute les noms des points : Si on veut
regarder la forme de BCA à la place de celle de ABC, on doit faire une rotation sur la sphère
autour de l’axe OZ d’angle + 2π
3 . Si on veut regarder celle de BAC à la place de ABC, on doit
passer de (X,Y,Z) à (X,-Y,-Z)
Or dans la plupart des cas pratiques ou théoriques les permutations de sommets sont
sans importances. S 2 ( 12 ) est alors découpé en 6 lunes équivalentes. Il peut donc être utile
de ne considerer les formes que modulo une réindexation des sommets, ie S 2 ( 12 )/G6 qui est
topologiquement equivalent à une sphère. Néanmoins nous sommes obligés de continuer à
travailler dans S 2 ( 12 ) si nous voulons une isométrie. Si en plus les effets d’une réflexion ne sont
8.4. Etude des formes du plan, Σk2 111
Figure 8.6 – L’espace des triangles à similitude près, muni de la distance quotient / procrus-
téenne. Il est isométrique à la sphère de rayon 1/2. Les triangles équilatéraux se trouvent aux
pôles, et les triangles plats à l’équateur. Notez que l’on n’a pas ici quotienté par les symétries ou
l’étiquetage des points (dans le groupe symétrique S3 ) : la même “forme” au sens des rapports de
longueurs se retrouve donc 12 fois, sauf exception. L’espace quotient résultant, le “tableau noir
sphérique” est montré dans la figure suivante.
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
(a) Vue d’ensemble. (b) Vue par le pôle Nord (ξ = i).
(c) Vue du golfe de Guinée. (d) Vue de Tahiti.
Figure 8.7 – L’espace des triangles à similitude près, isométrique à la sphère de rayon 1/2.
Homogène, cette représentation permet de rendre compte des symétries intrinsèques de l’espace
des triangles liées au ré-étiquetage des points et aux réflexions. Ici, chaque “forme” au sens des
rapports de longueurs se retrouve dans les 12 quartiers découpés par l’équateur des triangles
plats et les méridiens des triangles isocèles.
8.5. Statistiques sur la sphère 113
pas significatif, on peut considerer le sous groupe d’ordre 12 G12 de G++ obtenu par adjonction
de l’opérateur de conjugaison à G6 . on considère alors la demi-lune supérieure : S 2 ( 21 )/G12 qui
sera par la suite appelée tableau sphérique (spherical blackboard)
On se place alors dans la demi-lune délimitée par le triangle sphérique LMN qui sont les
résultats des projections de :
1
L = (r = √ , ψ = π), ie A = C (8.85)
3
A+B
M = (r = 0, ψ quelconque), ie C = (8.86)
2
π
N = (r = 1, ψ = ), ie AB = AC = BC (8.87)
2
Alors les formes colinéaires sont celles sur l’arc LM et les formes isocèles celles sur les arcs
MN et LN.
Avec une forme ABC, on peut alors s’intéresser à la fonction max-angle qui donne l’angle
maximal du triangle et regarder quand est-ce qu’elle est proche de 180◦ (pour alors être presque
alignée).
8.5 Statistiques sur la sphère

La sphère de Kendall a donc un statut géométrique privilégié, en montrant qu’elle capture
parfaitement la notion de distance (procustéenne) entre triangles. Cette “canonicité” rejaillit sur
la structure intrinsèque de la sphère (distance géodésique, surface, symétries) qui se retrouve tout
à coup légitimée : elle n’est pas le fruit du choix arbitraire telles les formules de l’équation (8.16),
ou plus généralement des projections stéréographiques issus de l’identification de CP 1 à S 2 , mais
bien du passage au quotient par les similitude de la distance “des moindres carrées”, canonique
et structurée sur l’espace des coordonnées de points.
Toutes ces propriétés restent néanmoins cantonnées aux seules questions de distances, de
géométrie pure. Essayons de voir ce qui se passe quand les probabilités s’en mêle.
8.5.1 Mesures sur l’espace des formes

On cherche à munir Σkm d’une mesure de probabilité et pour cela on pense au transfert. On
remarque en effet que la projection définie plus haut (8.66), p : Sm
k
→ Σkm est mesurable sur les
tribus boréliennes.
Si on se donne P1 , ...Pk ∈ Rm qui forme un polygone aléatoire et tel que
proba(P1 = P2 = ... = Pk ) = 0 alors la forme σ du k-polygone sera une variable aléa-
toire de Σkm distribuée suivant une loi des formes déterminée par la loi conjointe de (P1 , ..., Pk ).
Un des cas les plus intéressant est celui où les points (Pi ) sont indépendamment et iden-
tiquement distribués dans Rm de loi individuelle µ. On note µk la loi conjointe, elle induit
sur Σkm une mesure image µk∗ = µk p−1 qui va être inchangée si l’on modifie les paramètres
de µ contrôlant la position, la taille ou les rotations autour d’un axe. On note [µ] la classe
d’equivalence de µ suivant de telles transformations.
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
(a) Le douzième de sphère, qui contient tous les (b) Histogramme empirique sur la sphère,
triangles à similitude, permutation des points lorsque les points des triangles sont tirés de ma-
et symétrie près. Les triangles plats sont sur nière i.i.d. selon une gaussienne isotrope dans
le bord du bas, et les triangles isocèles, sur les le plan. Comme prévu, la densité empirique est
deux côtés. uniforme en bonne approximation.
(c) En remplaçant la gaussienne isotrope par (d) Enfin, lorsque l’anisotropie devient impor-
une gaussienne anisotrope (ici, σ1 = 3, σ2 = 1), tante (ici, σ1 = 6, σ2 = 1), la masse se
on perd l’uniformité. Par contre, et c’est un fait concentre autour de l’équateur des triangles
remarquable, la mesure image est une fonction plats, ce qui correspond bien à notre intuition :
de la seule altitude Z. les triangles équilatéraux, aux pôles, se font
rares !
8.5. Statistiques sur la sphère 115
Beaucoup de questions se pose après avoir définis ces objets pour une vision plus exhaus-
tive on consultera l’article original de Kendall ; Shape Manifolds, Procustean Metrics and
Complex Projective Spaces (1984).
La mesure gaussienne des formes Pour m = 2, la mesure γ∗k associée à la distribution

gaussienne peut être calculée. Il en ressort une propriété remarquable, celle-ci est invariante
suivant G++ , qui par transitivité de son action nous donne le résultat suivant.
Théorème 8.3. Il existe une unique mesure de probabilité invariante par l’action de G++ sur
l’ensemble des boréliens de Σk2 qui coincide avec la mesure du volume correspondant à la métrique
quotient.
Pour les triangles, le théorème précédent montre que γ∗3 est la mesure de l’aire classique sur
normée de manière à avoir une masse totale égale à 1.
S 2 ( 21 )
Le résultat ci-dessus est remarquable : il fait le lien entre la loi normale isotrope dans le plan
(qui est en un sens la loi de probabilité la plus simple, la moins structurée dans R2 ) et la loi
uniforme sur la sphère. Autrement dit, voir les triangles sur la sphère est aussi naturel que de
tirer des sommets indépendamment selon une loi normale isotrope. Sur la sphère, chaque élément
de surface est d’une importance proportionnée à sa représentativité, ce qui est un progrès flagrant
par rapport au plan des ξ présenté Figure 8.5.
Intérêt pratique du résultat Si nous tirons les points du plan non plus selon une loi normale,
mais de manière uniforme dans un domaine fixé – par exemple, la péninsule de Land’s End dans
les Cornouailles –, la répartition des formes de triangles sur la sphère s’en trouve sensiblement
modifiée. À la dernière ligne de la Figure 8.9, on représente les densités empiriques sur la sphère
pour des points tirés uniformément dans le disque unité, puis dans des ellipses de rapports
d’anisotropie 2 et 4 pour 1. Ici, point de distribution uniforme sur la sphère : là où la loi normale
et sa “bosse” maintenaient à flot les triangles “à deux petits côtés + un grand”, ceux-ci sont
maintenant clairement désavantagés au profit des triangles à “deux grands côtés + un petit”.
Par contre, le phénomène de tassement sur l’équateur des triangles plats se confirme à mesure
que la loi de tirage devient anisotrope. In fine, la comportement précis de la distribution des angles
d’un triangle en fonction de la loi de tirage de ses sommets peut être bien comprise, et des tables
mises à dispositions des archéologues et des biologistes. Tester une hypothèse d’indépendance
dans la génération des sommets par cette statistique est donc devenu une opération de routine.
Quantification des erreurs statistiques On peut aussi obtenir un résultat statistique sur
l’erreur commise lors de la prise de mesures empiriques par exemple.
Théorème 8.4. Si on mesure la precision de la position de la forme en terme de longueur de

la géodésique entre valeur
q réelle et mesurée, asymptotiquement pour une erreur initiale d petite,
k−2 d d
on aura une erreur de k−1 τ avec τ qui mesure la taille des erreurs relativement à la taille du
k-polygone.
[Ken84]
Basile Coron,
Paul Fraux,
Massil Hihat,
Lino Benedetto
Élémentaire
et élégant
(a) 10 triangles, s = 1. (b) 107 triangles, s = 1.
(c) 10 triangles, s = 2. (d) 107 triangles, s = 2.
(e) 10 triangles, s = 4. (f) 107 triangles, s = 4.
(g) 107 triangles, r = 1. (h) 107 triangles, r = 2. (i) 107 triangles, r = 4.
Figure 8.9 – Histogrammes empiriques sur la sphère de Kendall. Sur les trois premières lignes
(a-f), les points sont tirés de manière i.i.d. selon une gaussienne isotrope (a-b) ou anisotrope
(c-d) et (e-f). À gauche, on représente la densité de tirage des points et une dizaine de triangles.
Comme indiqué par le théorème 8.3, la densité sur la sphère (représentée à droite par rapport à
la mesure de surface) ne dépend que de l’altitude Z.
Sur la ligne du bas (g-i), des histogrammes analogues sont tracés pour des points tirés de manière
uniforme dans une ellipse de grands axes (r, 1). Les triangles isocèles “deux petits côtés + un
grand” perdent en influence au profit des triangles “deux grands côtés + un petit”, ce qui conduit
à la formation de trois îlots d’attraction espacés régulièrement le long de l’équateur.
Chapitre 9
Étude statistique dans un espace de

formes simple Séance 9
[Ken84]
Maxime Sylvestre
Très visuel
9.1 Généralisation de l’analyse de Kendall à des polygones
quelconques
En ligne. Cette séance repose sur une collection de trois notebooks Python, accessible à
l’adresse suivante :
http://www.math.ens.fr/~feydy/Teaching/GeomData_2018/GeomData_2018_TP.zip
Une version statique de ces pages, avec le code, peut être lue aux adresses suivantes :
— http://www.math.ens.fr/~feydy/Teaching/GeomData_2018/Kendall_1.html
9.1.1 Analyse procustéenne

Considérons deux triangles A et B non dégénérés, non égaux. On peut les représenter par des
triplets de nombres complexes. Pour la programmation on se place cependant dans R2 . Comme vu
dans le chapitre 8 on s’intéresse a minimiser la distance entre les sommets à l’aide de similitudes.
3
1X
τ = (Bi − Ai )
3 i=1
3
X
arg min 2 |υ · (Ai + τ ) − Bi |2 (9.1)
υ,τ ∈C
i=1
3
X
= arg min |eλ+iθ · (Ai + τ ) − Bi |2 (9.2)
λ,θ,τ ∈R×R×R2
i=1
A l’aide du module PyTorch il est facile de résoudre ce problème.

Mais en réalité il suffit de remarquer qu’il faut commencer par aligner les barycentres des
triangles à l’aide d’une translation puis d’une variation des longueur et une rotation. Ainsi on a :
117
Séance 9 118 Chapitre 9. Étude statistique dans un espace de formes simple
[Ken84]
Maxime Sylvestre
Très visuel
9.1. Généralisation de l’analyse de Kendall à des polygones quelconques 119
3
1X
τ = (Bi − Ai )
3 i=1
Si on étudie alors les triangles centrés a , b, le produit hermitien contient alors les informations
permettant d’ajuster l’echelle et la rotation :
3
X
a? b = ha, biC3 = ai bi
i=1
Ainsi on en déduit, en dérivant la somme des modules au carré précédentes :
a? b
υ = eλ+iθ = kak2 .
En prenant en compte cela on a enfin réussi à expliciter la distance procustéenne à l’aide des
affixes des sommets des triangles avec leurs barycentres superposés. On a alors :
a? b 2
a ? b 2 2
= kbk2C3 · 1 − kak

b −
kak2 a C3
.
kbk
Le facteur kbk2 est le facteur d’ajustement d’échelle, et le reste de cette expression ne dépend
que des triangles normalisés centrés a/kak et b/kbk.
Ainsi il est possible de généraliser, si A et B sont deux polygones non-dégénérés du plan
complexe, on peut alors définir la distance optimale L2 en normalisant A et B en polygones
centrés normalisés a et b pour définir, à l’aide du produit hermitien de Cn :
p
dL2 ([A], [B]) = dL2 (a, b) = 1 − |a? b|2
9.1.2 Sphère de Kendall

La distance définie précédemment est invariante par transformation par similitude. Ainsi on se
permet d’étudier les classes d’équivalence par transformation par similitudes. En réalité Kendall
a remarqué que l’on peut même étudier l’espace quotient comme un espace métrique. On identifie
cette espace quotient avec une sphère comme on l’a fait dans le chapitre 8.
Théorème 9.1. Il existe une bijection entre la sphère de R3 de rayon 1/2 et la représentation
dans le plan des triangles non-dégénérés A et B dans C3 vérifiant :
dL2 ([A], [B]) = kf (A) − f (B)kR3 .
9.1.3 Espace Riemannien des formes

Si la distance L2 correspond bien à la distance de corde dans la sphère de Kendall ce n’est
pas une distance de chemin. On ne peut donc pas définir proprement de loi de répartition à l’aide
de la topologie induite.
Cependant on peut introduire la distance par arc assez facilement.Si on pose à l’aide de a et
b les transformations normalisées de A et B, on a
darc ([A], [B]) = arccos(|a? b|).

Cette distance est même géodésique ce qui va nous permettre d’introduire des manipulations
statistiques à l’aide de la méthode PCA.
[Ken84]
Maxime Sylvestre
Très visuel
Figure 9.1
Théorème 9.2. Si on pioche dans le plan complexe selon une gaussienne des sommets et ainsi
des triangles, alors dans l’espace quotient on obtient une distribution de triangles qui ne dépend
que du caractère anisotrope de la distribution Gaussienne.
Si la distribution est isotrope on obtient alors une loi uniforme sur la sphère de Kendall. Sinon
il y a une concentration de triangle plats.
9.2 Statistiques sur la sphère algorithme d’ACP

9.2.1 Calculer une moyenne de Fréchet
Nous mettons maintenant en œuvre des opérations statistiques (simples) sur la sphère de
Kendall. L’idée à retenir est que les outils classiques du statisticien peuvent être généralisés
aux variétés riemanniennes, à la fois d’un point de vue théorique mais aussi d’un point de vue
pratique. Ici on utiliser l’exemple de la sphère de Kendall.
Étant donné distribution empirique Ak , la première mesure statistique que l’on peut chercher
à calculer est la moyenne. Mais sur la sphère, il n’existe pas d’opérateur "+".
L’un des moyens les plus simple pour généraliser la moyenne à un espace métrique arbitraire
(X, d) est la définition des moindres carrés. Pour tout ordre p > 0, nous définissons donc la
moyenne p-Fréchet des Ak par :
N
X
Fp (A1 , . . . , AN ) = arg min d(x, Ak )p
x∈X
k=1
9.2. Statistiques sur la sphère algorithme d’ACP 121
Dans un espace vectoriel euclidien, les moyennes de Fréchet d’ordre 1 et 2 coïncident respec-
tivement avec la médiane et la moyenne arithmétique de la distribution.
9.2.2 Calculer une géodésique

Comme on l’a déjà vu on a pu définir les géodésiques à l’aide d’équation différentilles d’ordre
2. Si a et b sont des points de notre variété et si v est un vecteur tangent en a, alors Expa (v)
désignera la position à l’instant t = 1 de l’unique courbe géodésique γt telle que :
γ0 = a et γ̇0 = v.
La longueur d’une telle courbe géodésique est simplement égale à la norme du vecteur tangent
à la position a.
Pour tout point de référence a, la carte exponentielle définit un isomorphisme entre un voi-
sinage de 0 (sur le plan tangent) sur un voisinage de a sur notre variété.
Nous pouvons ainsi définir la carte Loga comme l’inverse de Expa sur un voisinage de a, et
l’utiliser pour représenter la variété courbe dans le plan tangent.
Le plus souvent, les opérateurs Exp et Log sont difficiles à implémenter. Mais dans le cas
très spécifique (et important) des formes polygonales à similitude près, la théorie classique de
Kendall fournie des formules explicites (Figure 9.7).
9.2.3 ACP tangente : Analyse en composante principale

Nous avons vu comment calculer une moyenne et cartographier les données de notre variété
sur l’espace tangent. La prochaine étape est d’analyser la variabilité au voisinage de la moyenne
par une analyse statistique linéaire classique. Elle consiste à étudier les axes de variabilité carac-
téristique de la distribution. Cela revient à étudier sur la carte exponentielle la distribution et à
placer une ellipse centrée en la moyenne qui représente le mieux la distribution.
[Ken84]
Maxime Sylvestre
Très visuel
Figure 9.2
9.3. Application sur les petits vers 123
Figure 9.3
9.3 Application sur les petits vers

9.3.1 L’ensemble des données
Nous avons vu comment effectuer une ACP tangente dans la variété des triangles à similitudes
près. Généralisons maintenant cette analyse aux espaces de landmarks de dimension supérieure,
ou nuages de points étiquetés à similitudes près. Notre base de données : une petite vidéo d’un
ver C. elegans, tirée de la base de données comportementales C.elegans.
En utilisant un algorithme de segmentation barebone (seuillage de gradient + opérations
morphologiques fournies par la bibliothèque d’images scikit), nous avons enregistré la forme du
ver sur 200 images sous forme d’un nuage de points Ak dans R20×2 .
9.3.2 Les formules de Kendall

Si le nombre N de points par image dépasse trois, l’espace quotient des formes ne peut pas
s’interpréter aussi simplement que la sphère des triangles. Cependant, la plupart des résultats de
Kendall restent valables : l’espace des formes de N -points dans le plan à similitudes près, est un
quotient de la sphère de dimension 2N − 3 qui peut être dotée d’une distance arc définie par la
même formule que dans le cas des triangles mais avec le produit hermitien de CN .
9.3.3 Etudes statistique du déplacement des vers

Dès lors on cherche a étudier les mouvements du ver donc en observant seulement les dis-
positions successives de son corps à similitudes près (sans variation d’échelle). On peut alors
effectuer une ACP après avoir calculé la moyenne qui dans ce cas se résume à la position du ver
[Ken84]
Maxime Sylvestre
Très visuel
inactif. Puis les axes de variabilité sont les formes qui permettent de décomposer efficacement le
mouvement. On observe ici des ondulations à des fréquences différentes, c’est une décomposition
de Fourier.
Figure 9.4 – En rouge la moyenne et en bleu les axes de variabilité caractéristiques
Dans la séance d’aujourd’hui consacrée à la théorie classique des formes, nous avons détaillé
9.3. Application sur les petits vers 125
Figure 9.5
une méthode de base pour décomposer la variabilité d’une population anatomique. Les algo-
rithmes ci-dessus permettent d’étudier séparément le vecteur de similitude (position, orientation
et échelle, codé par un couple de nombres complexes) et la variété des formes résiduelles. Dans
des contextes très simples (faible variance, données étiquetées), une analyse des formes résiduelles
peut suffire. Mais dans un contexte médical, la plupart des problèmes d’anatomie sont mal posés.
La conception de méthodes posant un cadre topologique plus fort fera l’objet d’une prochaine
séance.
[Ken84]
Maxime Sylvestre
Très visuel
Chapitre 10
Travailler avec des données

non-étiquetées Séance 10
[CT13]
Valentin Carlier,
Louis-Pierre
Chaintron
10.1 Introduction Retour aux
fondamentaux
Les séances précédentes ont montré comment comparer des nuages de points étiquetés
(xi )i∈J1;nK de (Rd )n , par la construction d’une distance canonique. Néanmoins dans le cas géné-
ral, les échantillons de données à comparer ne contiennent pas tous le même nombre de points,
en particulier lorsqu’ils proviennent de la discrétisation de phénomènes continus ou de formes
tridimensionnelles. On s’intéresse ici à la construction d’une distance plus générale sur un espace
de forme quelconque, adaptée au cas de nuages de points non étiquetés.
10.2 Distances sur un espace de formes

10.2.1 Représenter les formes comme des mesures
Les nuages de points n’étant plus étiquetés, on cherche une façon de représenter les données
indépendamment de toute numérotation. À un nuage de points (xi )i∈J1;nK de Rd , on choisit ainsi
d’associer la mesure canonique
n
1X
ν= δx (10.1)
n i=1 i
où δx représente la mesure de Dirac en x. Cette représentation a l’avantage d’effacer le nombre
et l’ordre des points conservés par la discrétisation. En revanche, le nouvel espace considéré est
l’ensemble des mesures, qui peut être vu comme le dual des fonctions de Rd . Cet espace de
dimension infini est nettement plus gros que Rd , ce qui complexifie a priori l’étude. Néanmoins la
structure duale permet des représentations plus efficaces, indépendantes de la paramétrisation.
Par exemple
n
1X
Z
f dν = f (xi ) (10.2)
n i=1
Si l’importance de certaines donnés doit prédominer sur d’autres, il est possible de l’exprimer en
pondérant les mesures :
n
X
ν= α i δ xi (10.3)
i=1
127
Séance 10 128 Chapitre 10. Travailler avec des données non-étiquetées
[CT13]
Valentin Carlier, n
Louis-Pierre avec αi = 1. Le problème initial consistant à caractériser une forme à partir d’un échantillon
P
Chaintron i=1
Retour aux fondamentaux de points, se ramène donc à la détermination d’une mesure en se donnant ses valeurs en seulement
certains points. Pour mesurer l’erreur commise dans ce travail d’approximation, on va s’atteler
à la construction de distances sur des espaces de mesures bien choisies.
10.2.2 Transformée de Fourier et produits de convolution

On introduit dans cette partie les bases de la transformée de Fourier, qui permettra plus loin de
construire une distance répondant au problème. La transformée de Fourier est une généralisation
continue de la décomposition d’une fonction en série de Fourier. Pour une fonction f suffisamment
régulière, une telle décomposition s’écrit
X
f (x) = cn einx (10.4)
n∈Z
On a ainsi décomposé f comme somme de fonctions périodiques en extrayant les coefficients de

Fourier cn . Dans le cas continu, la somme discrète est remplacée par une intégrale, et la suite
(cn )n∈N des coefficients par une fonction continue fb, qui vérifie l’identité
1
Z
f (x) = fb(ω)eiωx dω (10.5)
2π
fb est la transformée de Fourier de f , et on vérifie que fb est donnée par

Z
fb(ω) = e−iωx f (x)dx (10.6)
Remarque 1. Les fonctions x 7→ eiωx forment une base Hilbertienne orthonormale de L2 (R, C),
tout comme les fonctions de Dirac δx . On peut alors interpréter la transformée de Fourier comme
le changement de base correspondant, qui à une fonction associe ses composantes en prenant
les produits scalaires avec les x 7→ eiωx . Il s’agit de l’analogue en dimension infinie d’un simple
changement de base en dimension finie. Par exemple dans C , on peut préférer travailler dans la
n
2iπkl
base orthonormale donnée par les vecteurs uj = √1n e n où j est dans J0; n − 1K. La
0≤l≤n−1
matrice de passage de la base canonique à la base des fj est circulante (et de Van der Monde).
10.2. Distances sur un espace de formes 129
Comme cette base est orthonormale, un vecteur x = (x0 , · · · , xn−1 ) dans la base canonique s’écrit
directement
n−1
X n−1
X −2iπkl
x= cj fj avec cj = hx, fj i = e n xl (10.7)
j=0 l=0
La donnée de la suite (cj )0≤j≤n−1 constitue la transformée de Fourier discrète de x, très utile
en Informatique notamment dans le domaine de la compression d’image.
Proposition 1. La transformée de Fourier satisfait les propriétés suivantes
1. L’application f 7→ fb est linéaire
2. Pour (a, b) dans R2 , la transformée de x 7→ f (ax + b) est ω 7→ |a|
1 b ω ibω
f ( a )e
3. Pour f à valeurs réelles, notant f˜ : x 7→ f (−x), on a f = fb

b̃
4. f[? g = fb × gb
5. hf, gi = hfb, gbi
6. Si f est de classe C 1 , alors fb0 : ω 7→ iω fb(ω)
7. De même la transformée de x 7→ xf (x) est ifb 0
8. Si fb est dans L1 alors f est continue.
R +∞
le produit scalaire considéré étant hf, gi = −∞ f (x)g(x)dx
Démonstration. On ne détaille ici que certains points :
1. Résulte de la linéarité de l’intégrale, et du produit scalaire hermitien en sa seconde variable.
2. Changement de variable.
3. On calcule directement
Z +∞
f˜(ω) = e−iωx f (−x)dx (10.8)
b
−∞
Z +∞
= eiωx f (x)dx (10.9)
−∞
Z +∞
= e−iωx f (x)dx (10.10)
−∞
Z +∞
= e−iωx f (x)dx = fb(ω) (10.11)
−∞
4. Là encore, grâce au Théorème de Fubini

Z +∞
? g(ω) =
f[ e−iωx (f ? g)(x)dx (10.12)
−∞
Z +∞ Z +∞
−iωx
= e f (y)g(x − y)dydx (10.13)
−∞ −∞
Z+∞ Z +∞
= f (y) e−iωx g(x − y)dxdy (10.14)
−∞ −∞
Z +∞ Z +∞
= f (y) e−iωz e−iωy g(z)dzdx (10.15)
−∞ −∞
= fb(ω)b
g (ω) (10.16)
[CT13]
Valentin Carlier,
Louis-Pierre 5. Calcul analogue.
Chaintron
6. On dérive sous le signe somme.
Retour aux fondamentaux
7. Intégration par parties.
8. Théorème de continuité sous l’intégrale.
Remarque 2. Ces notions se généralisent à des espaces multidimensionnels, et les propriétés sont
conservés
Z
ω ) = e−i~ω.~x f (~x)d~x
f (~
b (10.17)
La transformée de Fourier conserve le produit scalaire, donc pour f dans L2 , on a la formule de

Parseval-Plancherel
Z +∞ Z +∞
2
|f (x)| dx = |fb(ω)|2 dω (10.18)
−∞ −∞
Remarque 3. La transformée de Fourier d’une dérivée donne un résultat remarquable : la dé-

rivation est un opérateur diagonal pour la transformation de Fourier. En particulier, si f est
suffisamment régulière, la transformée de f (n) est ω 7→ in ω n fb. Si la régularité permet de repasser
à f (n) par transformation de Fourier inverse, la fonction ω 7→ in ω n fb est alors intégrable : imposer
des conditions de régularité à f , c’est imposer à sa transformée de Fourier de décroitre d’autant
plus vite en ±∞. Cette propriété correspond au dernier point de la proposition précédente.
De la même manière, on définit la transformée de Fourier d’une mesure finie µ sur Rd , comme
la fonction µ
b : Rd 7→ R donné par
Z
b(ω) =
µ e−iω.x dµ(x) (10.19)
Rd
Si µ est une mesure de densité f par rapport à la mesure de Lebesgue, alors fb = µ

b car
Z Z
b(ω) =
µ e−iω.x dµ(x) = e−iω.x f (x)dx = fb(ω) (10.20)
Rd Rd
Le produit de convolution d’une mesure et d’une fonction de Rd est également défini par
Z
g ? µ(x) = g(x − y)dµ(y) (10.21)
Rd
Proposition 2. On a les propriétés

1. g[
? µ = gb × µ
b
2. hµ, f i = hb
µ, fbi
Les mesures étant vues comme des formes linéaires, il s’agit du crochet de dualité hµ, f i =
R
f dµ.
10.3. Normes à noyau 131
10.2.3 Une première norme duale

Une mesure peut être vue comme une forme linéaire continue sur un espaces de fonctions
continues. Le plus simple pour construire une distance sur les mesures est alors d’utiliser une
norme duale. Les mesures étudiées sont continues au sens de k.k∞ , ce qui donne la norme duale
kµk∞ = sup hf, µi (10.22)

kf k∞ =1
Néanmoins cette norme est complètement inadaptée : il suffit que deux nuages de point (xi ) et (yj )
soient à support disjoints pour avoir kµ − νk∞ = 2, en prenant par exemple une fonction valant
1 sur les xi et -1 sur les yj . Pour les mesures concernées ici (combinaisons linéaires pondérées de
mesures de Dirac), la distance induite est à valeurs dans [0; 2], et peut valoir 2 sur des formes a
priori très proches. A l’inverse, elle être faible sur des forme intuitivement très différentes...
10.3 Normes à noyau

10.3.1 Définitions
La norme précédente s’est avérée inadéquate car les mesures de Dirac ponctuelles ne prennent
pas à compte les caractéristiques de la forme au voisinage d’un point. Une solution consiste à
"flouter l’image échantillonnée" afin d’inclure cette information. On réalise cela en effectuant le
produit de convolution de la mesure avec une fonction dite de floutage g : Rd → R : il en résulte
une mesure floutée g ? µ(x), qui est en fait la fonction de densité de la mesure floutée.
Une fois les mesures transformées en fonctions plus maniables, on définit une nouvelle
norme sur notre espace de mesures par la formule
kµk2 = hg ? µ, g ? µi (10.23)
[CT13]
Valentin Carlier,
Louis-Pierre Posant g̃(x) = g(−x) et k = g̃ ? g, on a l’égalité remarquable (g étant à valeurs réelles)
Chaintron
Retour aux fondamentaux kµk2k = hg ? µ, g ? µi = hb
g×µb, gb × µ
bi = hb
µ, gb × gb × µ
bi = hb ? g ? µi = hµ, k ? µi
µ, g̃ \ (10.24)
Cette norme est donc naturellement associée à un produit scalaire
hµ, νik = hµ, k ? νi (10.25)
A chaque fonction noyau k de la forme g̃ ? g est donc associé un produit scalaire. Si de plus les
mesures sont combinaison de mesures de Dirac (cas des nuages de points), on a l’expression très
simple
XX Xn n
X
hµ, νik = k(xi − yj )µi νj où µ = µi δxi et ν = νj δ yj (10.26)
i j i=1 j=1
10.3.2 Choix du noyau

Dans la recherche d’une distance adaptée aux mesures étudiées, on a introduit la notion de
norme à noyau associée à une fonction k. On s’intéresse à présent au choix spécifique de k, ainsi
qu’à la nature duale de ces normes. L’étude des bonnes fonctions k est liée à la théorie RKHS,
et privilégie les k telles que
∀ω ∈ R, b k(ω) > 0 (10.27)
Théorème 10.1. Pour toute fonction k vérifiant la condition ci-dessus, il existe une fonction
de floutage g telle que k = g ? g. Elle est donnée par
q
∀ω ∈ R, gb(ω) = bk(ω) (10.28)
10.3.3 Espaces de Sobolev

La compréhension des normes à noyaux va permettre l’interprétation des mesures considérées
comme des formes linéaires, donc le retour à une norme duale. Le bon cadre pour cela est la
théorie des espaces de Sobolev. Les espaces de Sobolev ont été introduits dans le but d’apporter
un cadre général aux équations aux dérivées partielles. Ce sont des espaces de fonctions dont les
dérivées successives doivent vérifier des conditions de régularité particulières. En tout généralité,
on considère Ω un ouvert de Rn , m entier naturel, et p dans [1, +∞]. L’espace de Sobolev associé
est
W m,p (Ω) = {f ∈ Lp (Ω) ; ∀α liste d’au plus m indices , Dα f ∈ Lp (Ω)} (10.29)
On impose simplement que toutes les dérivées partielles successives jusqu’à l’ordre p de f soient
elles aussi dans Lp . Il existe une norme naturelle sur W m,p (Ω) :
— Lorsque p = ∞, il s’agit de kf kW m,∞ = max|α|≤m kDα f k∞ .
— Pour p fini, ce qu’on supposera dorénavant, on pose
 1/p
X
kf kW m,p =  kDα f kpp  (10.30)
|α|≤m
Le cas lié à notre étude est celui où p = 2, et on notera plus simplement H m pour W m,2 . La
norme des espaces de Sobolev est alors induite par le produit scalaire
X
hf, gim = hDα f, Dα gi (10.31)
|α|≤m
10.3. Normes à noyau 133
où comme précédemment hu, vi = uv. H m est un espace de Hilbert. Pour f dans L2 de classe
R
Rn
C ∞ et α liste d’au plus m indices, la condition kf kH m < ∞ se réécrit kfbkH m < ∞ d’après
l’égalité de Parseval, c’est-à-dire Z
|fb(ω)|ω||α| |2 dω (10.32)
Rn
car la dérivation est un opérateur diagonal pour la transformée de Fourier. On a donc

Z
H = {f ∈ L (R ) ; |fb(ω)|2 (1 + |ω|2 )m dω < ∞}
m 2 n
(10.33)
Rn
avec Z
(f, g)m = g (ω)(1 + |ω|2 )m dω
fb(ω)b (10.34)
Rn
produit hermitien équivalent à h., .im .

Remarque 4. Le choix du polynôme d’ordre 2m qui apparait importe un peu. On peut démontrer
que les normes ainsi obtenues sont toutes équivalentes, d’où le terme générique de normes de
Sobolev d’ordre m. On représente ci-après des noyaux de Sobolev, à savoir les transformées de
Fourier inverse de ω 7→ (ω2 +1)
1
m pour m = 1, 2, 4.
10.3.4 Normes duales

Considérons à présent une fonction k telle que >0.
b Par analogie avec les espaces de Sobolev,
on souhaite introduire la norme de Hilbert
|f (ω)|2
Z b
2
kf kV = dω = hk (−1) ? f, f i (10.35)
n
k(ω)
b
R
Le bon cadre pour cela est l’espace de Hilbert
V = {f ∈ L2 (Rn ) ; kf kV < ∞} (10.36)
dont la norme k.kV est induite par le produit hermitien
f (ω)b
g (ω)
Z b
hf, giV = dω = hk (−1) ? f, gi (10.37)
k(ω)
b
Rn
Remarque 5. Le lien avec la section précédente apparait clairement : l’espace de Sobolev H m

n’est rien d’autre que l’espace V ci-dessus pour la fonction de noyau k telle que b 1
k(ω) = (1+|ω|2 )m .
[CT13]
Valentin Carlier,
Louis-Pierre Dans ce contexte, il est naturel de se restreindre aux fonctions k telles que l’évaluation en un
Chaintron point x de V soit une forme linéaire continue lorsqu’on la voit comme
Retour aux fondamentaux

(V, k.kV ) → (R, |.|)
δx = (10.38)
f 7→ f (x)
Une condition suffisante à cela est que b k soit à la fois continue et dans L1 . Le Théorème de
Représentation de Riesz dans un espace de Hilbert permet alors d’identifier δx à la fonction
continue k ? δx : y 7→ k(y − x), grâce à l’identité
∀f ∈ V, f (x) = hδx , f i = hk ? δx , f iV (10.39)
Cette approche a permis une fois de plus d’identifier les mesures à des formes linéaires continues
sur des espaces de fonctions continues. La norme naturelle pour une mesure µ est alors la norme
duale kµk = supkf kV ≤1 hµ, f i. On l’explicite par la méthode habituelle des multiplicateurs de
Lagrange. On se ramène à maximiser la quantité hµ, f i sous la contrainte kf kV = 1. La condition
de colinéarité des gradients assure l’existence d’un réel λ tel que la fonction maximisante f vérifie
f = λk ? µ. De
1 = kf k2V = hλk ? µ, λk (−1) ? k ? µi = λ2 hµ, λk ? µi (10.40)
on déduit λ = √ 1
, puis f = √ k?µ
. Finalement
hµ,λk?µi hµ,λk?µi
k?µ hµ, λk ? µi p
kµk = hµ, p i= p = hµ, λk ? µi = kµkk (10.41)
hµ, λk ? µi hµ, λk ? µi
et la norme k.kk s’identifie naturellement à la norme duale sur V
∀µ ∈ V ∗ , kµkk = hµ, k ? µi = supkf kV ≤1 hµ, f i (10.42)
Remarque 6. On s’est ramené à une situation analogue à celle qu’on avait pour k.k∞ dans l’espace
de Sobolev associé à L∞ (Rn ). A ceci près que désormais, on dispose d’une distance capable de
comparer les formes.
10.4 Application : recaler des formes

On s’intéresse ici au recalage de formes dans le cas du choix particulier de k : x 7→ −kxk. Ce
noyau n’est pas de Sobolev, et l’annulation pour la fréquence 0 restreint la comparaison à des
mesures de même masse. Il s’agit à présent de trouver la transformation rigide qui minimise la
distance entre deux formes données. On considère ici des nuages de points bidimensionnels, nos
objets tests étant les deux cœurs de la page 1 représentées par les mesure α et β. La première
étape consiste à implémenter les fonctions auxiliaires permettant le calcul de la fonction de coût
(distance entre les mesures), encodée dans fidelity.
10.4. Application : recaler des formes 135
On implémente ensuite les transformations rigides,caractérisées par trois paramètres : λ

coefficient de dilatation, θ angle de la rotation, et τ translation. La transformation s’écrit alors
fλ,θ,τ : x 7→ λRθ (x) + τ (10.43)

[CT13]
Valentin Carlier,
Louis-Pierre Il reste alors à minimiser la distance entre β et fλ,θ,τ (α), vue comme une mesure image mais éga-
Chaintron lement mesure associée aux points de la première figure à laquelle on a appliqué la transformation
Retour aux fondamentaux rigide. On calcule donc le minimum de
g : (λ, θ, τ ) 7→ kfλ,θ,τ (α) − βkk (10.44)
10.5 Conclusion
La comparaison des formes nous a d’abord entrainé à changer de point de vue en considérant
nos nuages de points comme des mesures. Le problème s’est alors ramené à construire une distance
permettant de comparer efficacement deux mesures. La solution présentée ici consiste à utiliser
des normes à noyau, en voyant nos mesures comme des formes linéaires sur l’analogue d’un espace
de Sobolev. Une telle norme correspond à la donnée d’une fonction k suffisamment régulière, qu’on
choisira en pratique avec des dérivées nulles en zéro est un « rayon de floutage » suffisamment
large pour préserver l’information que le nuage de points donne sur la forme. D’autres méthodes
fructueuses pour construire des distances sur les mesures consisteraient à utiliser des estimations
probabilistes, ou des techniques de transport optimal.
Chapitre 11
Géodésiques Riemanniennes,
équations Hamiltoniennes Séance 11
Antoine Le Calvez
Raphaël Barboni
Deux résultats
remarquables
11.1 Métrique riemanienne, distance de chemins
Rappel
On définit en tout point d’un variété riemanienne M une métrique locale g qui sert à évaluer
les distances dans le plan tangent.
Définition 11.1. On appelle métrique sur Rn une matrice symétrique définie positive g définis-
sant un nouveau produit scalaire hgv, wi et donc une nouvelle norme :
kvk2g = hgv, vi
On définit alors sur le dual la cométrique K := g −1
Remarque 11.1. Si p = gv , kvk2g = hgv, vi = hp, vi = hp, Kpi = kpk2K
Définition 11.2 (Métrique Riemanienne). On appelle métrique riemanienne sur une variété M
une application qui associe à tout point de la variété une métrique sur l’espace tangent en ce
point.
g : q ∈ M 7−→ gq ∈ Tq M
Pour des raisons pratiques, on supposera de plus que les métriques sont C 1 .
Définition 11.3 (Coût d’un chemin). Etant donné q : [0; 1] −→ M , C 1 par morceaux, un chemin
sur une varieté, on définit le coût et la longueur de q par :
Z 1
C(q) = l(q)2 = ˙ 2 dt
kq(t)k q(t)
0
Cela permet de munir M d’une structure métrique en posant :
d(a, b) = Inf l(q)
q:[0,1]→M
q(0)=a,q(1)=b
Définition 11.4 (Plus court chemin). On appelle plus court chemin de a à b un chemin dont la
longueur réalise d(a, b). Les géodésiques sont localement des plus courts chemins, elles minimisent
le coût entre deux point proches.
Dans la suite notre but sera de caractériser par une équation les géodésiques sur une variété.
137
Séance 11 138 Chapitre 11. Géodésiques Riemanniennes, équations Hamiltoniennes
Antoine Le Calvez
Raphaël Barboni
ux résultats remarquables Equation hamiltonienne des géodésiques
Dans un chapitre précédent nous avons pu décrire explicitement les géodésiques de trois
espaces homogènes : le plan euclidien, la sphère et le plan hyperbolique (ou disque de Poincaré).
Grâce aux nombreuses isométries de ces espaces, nous avions en effet réussi à nous ramener à
des cas simples, accessibles au calcul et au raisonnement direct.
En toute généralité, ce n’est plus possible : la Figure 11.1 montre bien que sur une surface quel-
conque, on ne peut espérer de description exhaustive simple des courbes géodésiques. D’ailleurs,
ce n’est pas parcequ’une courbe est géodésique, ou “droite” (ce qui est une notion locale : entre
deux points proches, elle minimise la distance) qu’elle est nécessairement un plus court chemin
entre ses deux extrémités : on peut souvent trouver d’autres géodésiques plus astucieuses, qui
coupent à travers les “vallées” !
Figure 11.1 – Trois exemples de trajectoires géodésiques – i.e. qui minimisent localement la
longueur – sur une statue de taureau. On l’aura compris, l’ensemble des “lignes droites” est ici
bien plus riche que sur la sphère homogène !
Image tirée du très bon film Chaos de Jos Leys, Étienne Ghys et Aurélien Alvarez, accessible
librement à l’adresse suivante : www.chaos-math.org.
Nous allons établir une équation différentielle verifiée par les plus courts chemins, ce qui
permettra de les calculer algorithmiquement (à l’aide d’une méthode d’Euler par exemple).
Ici on travaille sur U , ouvert de Rn .
Proposition 11.1. Soit q : [0; 1] −→ U un chemin parametré de classe C 1 . On note v = q̇ Les

assertions suivantes sont équivalentes :
R1
i q minimise 0 kv(t)k2q(t) dt
R1
ii q minimise 0 kv(t)kq(t) dt et v est de norme constante.
Démonstration. C’est une conséquence de l’inégalité de Cauchy-Schwartz.

11.1. Métrique riemanienne, distance de chemins 139
Définition 11.5 (Energie cinétique). On pose, par analogie avec la physique, l’énergie cinétique
du couple (q, v) par :
1 1
E : (q, v) ∈ Rn × Rn 7−→ kvk2q = hgq v, vi
2 2
Comme on a consideré la métrique C 1 , E l’est aussi. On a :
Z 1
C(q) = 2 E(q(t), q̇(t))dt
0
Lemme 11.1 (Formule de Christoffel). Soit q un plus court chemin sur U , on a :
d
∂v E(q, q̇) = ∂q E(q, q̇)
dt
Démonstration. Si q est un plus court chemin entre a et b dans U . Par définition, q est un point
critique de la fonction de coût. On se ramène alors à une dérivation en dimension 1 en perturbant
q par xQ où Q est un chemin s’annulant en 0 et en 1 et où x ∈ R est un paramètre proche de 0.
On pose f (x) := C(q + xQ) définie et dérivable au voisinage de 0 avec f 0 (0) = 0. La densité des
chemins s’annulant en 0 et en 1 dans l’ensemble des chemins permet ensuite de conclure.
Exercice 11.1 (Géodésique de Rn ). On retrouve avec la formule précédente que les géodésiques
de Rn , muni de la métrique euclidienne, sont les courbes d’accelération nulle, c’est à dire les
lignes droites.
Plutôt que d’essayer de développer cette expression, on pose :
p := gq v = ∂v E(q, v)
On effectue alors le changement de variable : (q, p) := (q, gq v)

Remarque 11.2. Le couple de variable vit désormais dans le fibré cotangent, que l’on appelle
aussi l’espace des phases.
Définition 11.6 (Hamiltonien). Avec ces nouvelles variables, on redéfinit :
1
H(q, p) = hp, Kq pi = E(q, Kq p)
2
On a alors :
∂q H(q, p) = −∂q E(q, Kq p)∂p H(q, p) = Kq p
Cette reparamétrisation du problème nous permet alors d’avoir la caractérisation suivante :
Théorème 11.1 (Equations de Hamilton). On a équivalence entre les deux propositions sui-
vantes :
1. γ est une courbe géodésique, qui minimise (localement) la distance.
2. La trajectoire relevée (qt , pt ) dans l’espace des phases suit le flot hamiltonien correspondant
au gradient symplectique (tourné de − π2 ) de H :
(
q̇t = + ∂H
∂p (qt , pt ) = +Kqt pt
(Ham) : ∂H . (11.1)
ṗt = − ∂q (qt , pt ) = −∂q (pt , Kq pt )(qt )
Séance 11 140 Chapitre 11. Géodésiques Riemanniennes, équations Hamiltoniennes
Antoine Le Calvez
Raphaël Barboni
ux résultats remarquables Remarque 11.3. Pour q un plus court chemin, on a :
˙
q q
= R− π2 ∇H
p p
˙
q
est orthogonal à ∇H tout le long du chemin donc q suit une équipotentielle : on retrouve
p
que H(q, p) est constant tout le long du chemin.
Remarque 11.4. La réciproque est fausse : un chemin vérifiant les équations de Hamilton n’est
pas forcément un plus court chemin entre ses deux extremités. On peut seulement affirmer que
c’est localement un plus court chemin, c’est à dire un géodésique.
Lien avec les Christoffels

On a défini précedemment l’équation des géodésiques dans un système de coordonnées locales.
En effet, au lieu d’effectuer un changement de variables dans la formule de Christoffel, on peut
choisir de développer les termes :
Propriété 11.1 (Equation des géodésiques). Si q est un chemin sur la variete M , on a que q
est une géodésique si et seulement si elle vérifie “l’équation des géodésiques avec symboles de
Christoffel” : dans un système de coordonnées locales qt = (qt1 , . . . , qtD ),
D
X
∀d ∈ 1, ..., D, q̈td = − Γdij (qt ) · q̇ti q̇tj , (11.2)
i,j=1
où le symbole de Christoffel Γdij (q) est donné par :

D
1 X dl
Γdij (q) = g (q) · (∂i gjl (q) + ∂j gil (q) − ∂l gij (q)) (11.3)
2
l=1
avec gij les coefficients de la métrique, et g dl ceux de son inverse, la cométrique.

L’accélération d’une particule géodésique γt est donc fonction lisse de sa position et de sa
vitesse, avec un contrôle quadratique en cette dernière.
La description ci-dessus a un caractère déterministe : elle permet d’assurer que pour tout
couple position-vitesse (q, v), il existe une unique trajectoire géodésique sur la variété
passant en t = 0 par le point q avec la vitesse v. C’est une conséquence du Théorème de
Cauchy-Lipschitz, mais il semble difficile d’aller plus loin : l’équation 11.2 manque de structure, et
est trop générique pour pouvoir être vraiment travaillée au corps. En particulier, la neccessité du
calcule des coefficients de la métrique g et de la cométrique K rend l’implémentation numérique
compliquée.
11.2 Application numérique : un code de tir géodésique

On retrouve l’objectif des séances précedentes : étant donné deux nuages de points sur le
plan, on cherche à définir de manière cohérente une distance entre ces deux nuages et à établir
une transformation continue d’un nuage vers l’autre. On utilise pour cela la caractérisation des
géodésiques par l’équation avec le hamiltonien et l’on résout le porblème à l’aide d’une implémen-
tation numérique de la méthode d’Euler pour les équations différentielles. Les géodésiques sont
représenté dans la carte exponentielle. Etant donnés une origine et un vecteur vitesse initiale, la
carte exponentielle donne la géodésique correspondante.
Chapitre 12
Cométriques à noyaux, méthode

LDDMM Séance 12
Emmanuel Kammerer
Léo Hahn-Lecler
12.1 Introduction
Rappelons notre motivation initiale : on cherche des géodésiques sur l’espace des nuages de
points muni de la métrique de transport corrélé, c’est-à-dire trouver un chemin q minimisant
Z 1
2
c(q) = kq̇(t)kq(t) dt
0
2
où kq̇(t)kq(t) = gq(t) q̇(t), q̇(t) . Cependant, dans les équations hamiltonniennes, ce sont les mo-

ments et la cométrique Kq = gq−1 qui interviennent. À partir de la métrique g, il faudrait inverser

sa matrice pour pouvoir appliquer les algorithmes, d’où l’intérêt de se donner dès le départ la
cométrique. Ensuite se pose une deuxième question : quelle cométrique adopter ? On cherche à
la fois une cométrique facilitant les calculs et une cométrique qui limite les déformations.
12.2 Cométriques à noyaux : l’algorithme

12.2.1 Coût réduit des cométriques à noyaux
Rappellons le schéma algorithmique utilisé pour le calcul de géodésiques.
On avait posé H(q, p) = 21 pT Kq p et une condition nécessaire pour être une géodésique était
de vérifier l’équation différentielle suivante :
dq dH
(1) =+
dt dp
dp dH
(2) =−
dt dq
On pose alors cost(p) = kshoot(qi , p) − qf k22 et l’on cherche à minimiser cette fonction par
une descente de gradient.
Pour limiter la complexité de notre algorithme il faut donc que H(q, p) soit facile à calculer
en tout point et nous devons disposer d’une procédure de différentiation rapide et précise.
141
Séance 12 142 Chapitre 12. Cométriques à noyaux, méthode LDDMM
Emmanuel Kammerer
Léo Hahn-Lecler
Figure 12.1 – Schéma pour obtenir une géodésique
Pour ce qui est du calcul de H(q, p) = 21 pT Kq p, la multiplication par p va être rapide avec
PyTorch car on va pouvoir effectuer de nombreux calcul simples en parallèle en utilisant la carte
graphique. Reste donc le calcul de Kq = gq−1 qui dépend de la métrique choisie.
Pour la différenciation, il existe deux méthodes : le calcul approché et la différenciation

automatique.
f (x+he )
Calcul approché. Si f : Rn → Rd on a dx dfi
j
(x) = limh→0 j h i on peut donc calculer la
f (x+h e )
dérivée de manière approchée par la formule j h0 0 i pour un h0 petit. Cependant, l’expression
de f est souvent (et ce sera le cas pour nous) trop compliqué pour que ce calcul soit parallélisable.
Différentiation automatique. On calcule la dérivée de manière exacte, comme le ferait
un humain. Cette méthode est plus adaptée à PyTorch.
Une remarque importante que l’on peut faire est que la métrique gq n’intervient pas dans nos
calculs qui utilisant uniquement Kq = gq−1 . Il est donc intéressant de se donner directement la
cométrique Kq pour ne pas devoir inverser (coûteux algorithmiquement) une matrice à chaque
fois que l’on veut calculer H(q, p).
Maintenant que l’on a décidé de se donner la cométrique Kq , il faut la construire rapidement.
Cela fait (N d)2 coefficients à calculer, où d est la dimension de l’espace et N le nombre de points
dans le nuage. Pour cela on peut utiliser la cométrique à noyaux
k(q1 − q1 )Id k(q1 − q2 )Id ··· k(q1 − qN )Id

 
 k(q2 − q1 )Id k(q2 − q2 )Id ··· k(q2 − qN )Id 
Kq =  .. .. .. .. , (12.1)
 
 . . . . 
k(qN − q1 )Id k(qN − q2 )Id ··· k(qN − qN )Id
−kxk2
où k est une fonction de noyau (par exemple une gaussienne k(x) = e 2σ2 ). Elle est symétrique
et on vérifiera plus tard qu’elle est définie positive. Cette matrice est égale au produit tensoriel de
la matrice Id et de la matrice de noyau réduite kq = [k(qi − qj )]i,j . On peut calculer rapidement
12.3. Comprendre les cométriques à noyaux 143
Figure 12.2 – Géodésique entre un cercle et une ellipse
la matrice car la formule est parallélisable. De même pour le produit par un vecteur : on verra
qu’on peut réécrire le produit Kq v sous la forme d’un produit de convolution.
Ainsi, dans le TP, l’algorithme cherche un chemin minimisant le coût qui dépend du moment
innitial p0 (et non de la vitesse initiale). Le coût est composé de deux termes : un terme contrôlant
si l’on est proche du nuage ciblé et un terme correspondant au coût du chemin.
Remarquons que la cométrique à noyaux permet bien d’empêcher les déchirures. En effet, elles
associent un poids fort aux points proches. Cependant, on peut remarquer que les points proches
ont même tendance à se resserrer durant le trajet pour s’écarter à la fin. Comment expliquer ce
phénomène de “covoiturage” ?
12.3 Comprendre les cométriques à noyaux
12.3.1 Le cas discret
Calcul de la métrique associée sur un exemple jouet Les cométriques à noyaux sont
extrêmement simples à calculer : il suffit d’une application de la fonction noyau pour chaque
terme (q i − q j ). La matrice de noyau réduite pourra alors être vue comme une matrice de
corrélation entre les points du nuage, qui associe un poids fort aux paires de points proches.
On a vu que la métrique était rapide à calculer, mais reste à voir si la métrique associée fait
−kxk2
sens ! Prenons le temps de détailler les calculs dans un cas simple, avec k(x) = e 2σ 2 le noyau
gaussien d’échelle σ, d = 2 et N = 6.
On considère un état q ∈ R12 , donné par six points (q1 , q2 , q3 , q4 , q5 , q6 ) du plan sur lesquels
on fait les hypothèses simplificatrices suivantes :
— Les points se répartissent en trois groupes (q1 ), (q2 , q3 , q4 ), et (q5 , q6 ), qui sont éloignés les
uns des autres à une distance très grande devant l’échelle σ du noyau.
— q5 et q6 sont à une distance l donnée l’un de l’autre.
— Le groupe (q2 , q3 , q4 ) est un triangle équilatéral de côté l.
Emmanuel Kammerer
Léo Hahn-Lecler
Figure 12.3 – Nuage de six points
Sous ces hypothèses, on peut écrire très simplement la matrice de noyau réduite en le nuage
de points q :
 
1 · · · · ·
· 1 a a · ·
 
· a 1 a · ·
kq = ·
, (12.2)
 a a 1 · ·
· · · · 1 a
· · · · a 1
−l2
où a = e 2σ2 ∈ [0, 1], et où l’on a remplacé les termes négligeables par des points.
À la limite (quand les groupes de points sont très éloignés), on obtient un matrice diagonale
par blocs de la forme :
 
1
 1 (a) 
..
 
t
Bn (a) = (1 − a) · In + a · (1) (1) =  . . (12.3)
 
 
 (a) 1 
1
Pour trouver la métrique associée, c’est-à-dire inverser kq , inversons les blocs Bn (a) associés
aux amas de n points.
Pour inverser Bn (a), on peut remarquer qu’elle est symétrique et la diagonaliser pour trouver
(1)
son inverse. Un vecteur propre évident est e = k(1)k , associé à la valeur propre 1 + (n − 1)a et
on remarque que Bn (a) agit comme (1 − a) fois l’identité sur l’orthogonal. Ainsi,
1 1
Bn (a)−1 = et e + (In − et e)
1 + (n − 1) a 1−a
.
Si on décompose un vecteur v sous la forme
v = e(t ev) + (v − e(t ev)) = vmoy + vvar , (12.4)
12.3. Comprendre les cométriques à noyaux 145
une partie “moyenne” constante et une partie de somme nulle, la variance. On a

1 2 1 2
t
v(Bn (a))−1 v = kvmoy k2 + kvvar k2 (12.5)
1 + (n − 1)a 1−a
Interprétation Tout d’abord, un fait rassurant : le rôle particulier joué par les champs de
vitesses constants, “colinéaires”. Lorsque n est grand, le coût associé à une translation est petit
par rapport à celui des autres transformations. Le coût associé à un champ de vitesses sur l’amas
2
est la somme d’un terme de translation, proportionnel à kvmoy k2 , et d’un terme de régularisation
2
pénalisant la non-uniformité en kvvar k2 .
Lorsque l >> σ, a est petit devant 1. On a alors
1 1
' 1 ' , (12.6)
1 + (n − 1) a 1−a
l’équilibre entre les deux pénalisations. Le coût t v(Bn (a))−1 v est simplement égal au coût t vv =
2
kvk2 , cela se ramène bien au cas où on a n blocs de taille 1.
À l’inverse, si le diamètre l de l’amas est petit devant σ, si le noyau voit les points de l’amas
comme quasiment confondus, on aura a ' 1− et par suite
1 2 2
t
v(Bn (a))−1 v ' kvmoy k2 + ∞ kvvar k2 . (12.7)
n
Ainsi, les déchirures sont surpénalisées alors que le poids des translations est atténué en n1 . Tout
se passe donc comme si notre amas de n particules se réduisait à un seul atome, très difficile à
éclater mais aussi facile à transporter qu’une particule seule.
Dans notre exemple, la métrique (réduite) est :
 
1 · · · · ·
 · · · 
−1
 
· B3 (a) · ·
gq = (kq )−1 =  (12.8)
 

 · · · 
 
 · · · ·
B2 (a)−1

· · · ·
Les trois amas sont donc complètement indépendants, ce qui n’est pas une surprise puisqu’ils
sont décorrélés au sens de k.
Interprétation Étant donné un champ de vitesses v = (v1 , v2 , v3 , v4 , v5 , v6 ), comment se

trouve-t-il pénalisé par gq ? Les comportements limites se déduisent de ce que l’on a établi pour
un amas simple. Aussi, lorsque l >> σ et donc a ' 0, on a :
t
vgq v ' kv1 k22 + kv2 k22 + kv3 k22 + kv4 k22 + kv5 k22 + kv6 k22 . (12.9)
Les points sont donc indépendants.
Par contre, si l << σ, alors un champ de coût fini s’écrit nécessairement :
(v1 , v2 , v3 , v4 , v5 , v6 ) = (w1 , w2 , w2 , w2 , w3 , w3 ), (12.10)
avec wi la “vitesse de groupe” de l’amas i. Autrement dit, on n’a le droit que de translater
indépendamment chaque amas. On a :
1 1
t
vgq v = kv1 k22 + kv2 k22 + kv3 k22 + kv4 k22 + kv5 k22 + kv6 k22 (12.11)

3 2
= kw1 k22 + kw2 k22 + kw3 k22 . (12.12)
Emmanuel Kammerer
Léo Hahn-Lecler
C’est comme si l’on avait affaire à trois particules indépendantes.
Sur cet exemple, la cométrique à noyaux réalise bien ce que l’on voulait : pénaliser les déchi-
rures.
12.3.2 Rappel sur les normes de Sobolev

Avant les vacances, on avait défini (à peu de choses près) l’espace de Hilbert :
kfˆ(ω)k2
Z
2 d
H = {f ∈ L (R ); dω < +∞}
Rd k̂(ω)
muni de du produit scalaire hermitien

D E
Z fˆ(ω), ĝ(ω)
ĝ

hf, gik = Cd ˆ
dω = f ,
Rd k̂(ω) k̂ L2
duquel dérive la norme

kfˆ(ω)k2
Z
2
kf kk = dω
Rd k̂(ω)
On fait en sorte que les mesures δx appartiennent au dual H ∗ . H est alors appelé un RKHS.
Si f ∈ H et µ ∈ H ∗ , on a défini hµ, f i := hk ∗ µ, f ik .
Enfin, la norme duale d’une mesure µ dans H ∗ est égale à
Z
kµk2k = kµ̂(ω)k2 k̂(ω)dω
Rd
et H ∗ est muni du produit scalaire auquel on pense.
12.3.3 Principe de réduction

Dans cette partie, nous allons voir qu’à un plus court chemin dans l’espace des nuages de
points RN d correspond une déformation de l’espace ambient (l’espace des champs de vecteurs de
Rd ) de coût minimal.
Déjà, remarquons que si q ∈ RN d est un nuage de points, k(qi − qj ) = δqi , k ∗ δqj pour tous

i, j.
XN
Si p est un nuage de moments et v = Kq p, notons π = pi δqi ∈ H ∗ . Alors on a
i=1
N N
* N
+
X X
X
vi = (Kq p)i = k(qi −qj )pj = δqi , k ∗ δqj pj = δqi , k ∗ pj δqj = hδqi , k ∗ πi = (k∗π)(qi ) = u(qi )
j=1 j=1 j=1
en posant u = k ∗ π ∈ H. Le champ (constant) de vecteurs u interpole alors le nuage de points

v. Il peut s’écrire aussi sous la forme
N
X
u(x) = pi k(x − qi )
i=1
.
12.4. conclusion 147
Il est grand temps de vérifier que la métrique Kq est définie positive. On a :

X X D E D E
hp, Kq pi = pi (Kq p)i = pi (k ∗ π)(qi ) = hπ, k ∗ πiL2 = π̂, k[
∗π = π̂, k̂π̂ >0
L2 L2
i i
si p 6= 0 car k̂ > 0 et k est continue.

Remarquons que la norme définie sur H permet de voir un nouvel aspect de la métrique à
noyaux : elle pénalise les hautes fréquences dans les champs de vitesses.
Maintenant que l’on a étendu la métrique aux champs de vitesses, il faut définir les transfor-
mations de champs vectoriels et leur coût.
Définition 12.1. Si u ∈ L1 ([0, 1], H) est un champ de vecteurs variable, si q0 et q1 sont deux
nuages de points, on dit que u transporte
Z q0 sur q1 si q1 est l’image de q0 par le flot en t = 1 de
1
u. On appelle coût de u le réel c(u) = ku(t)k2k dt.
0
Soit V = Vect(δqi ) (de dimension finie). Alors H = V ⊕⊥ V ⊥ . On montre alors que H ∗ =

(k ∗ V ) ⊕⊥ (k ∗ V )⊥ = (k ∗ V ) ⊕⊥ {u; ∀i u(qi ) = 0}.
Par Pythagore on obtient que, étant donnés un nuage de points q, un champ de vitesses v,
XN
p = gq v, π = pi δqi , et u = k ∗ π, parmi tous les champs de vitesses interpolant v en q, u est
i=1
le champ de norme minimale.
Venons en au théorème important de cette section :
Théorème 12.3.1. Soit Q un plus court chemin entre q0 et q1 dans l’espace des nuages de
N
X
points. Soit p(t) = gq Q0 (t). Soit π(t) = pi δQi (t) et u(t) = k ∗ π(t) le champ de vitesse que
i=1
correspond. Alors, pour tout t ∈ [0, 1], u(t) interpole Q0 (t) en Q(t) et u est le champ de vitesses
de coût minimal qui transporte q0 sur q1 . Il a le même coût que le chemin Q.
En d’autres termes, toute trajectoire géodésique dans l’espace des nuages de points peut se re-
lever en une trajectoire géodésique dans l’espace des difféomorphismes de Rd muni de la métrique
riemannienne.
Initialement développé pour décrire la dynamique des solitons (ou “vagues solitaires”), ce
résultat lie la cométrique Kq sur les espaces de landmarks à une action de déformation de
l’espace ambiant. C’est, en un sens, le résultat fondamental de la théorie qui fait le lien entre
transport optimal et analyse procustéenne : le cadre LDDMM, pour Large Deformation
Diffeomorphic Metric Mapping .
12.4 conclusion
Les métriques à noyaux sont, en un sens, les moins chères sur un espace de nuages de points
grâce à la programmation parallèle. L’analyse de la section précédente permet de comprendre
leur comportement, et de garantir le caractère "difféomorphique" du recalage obtenu (car à
un recalage sur les nuages de points correspond un recalage sur les difféomorphismes de coût
minimal). Le choix du noyau permet de contrôler la régularité de la déformation.
Néanmoins, un effet indésirable subsiste : le “covoiturage” dont on avait parlé en première
partie. On peut l’expliquer de la façon suivante : les phases de rapprochement et d’éloignement
sont coûteuses (car les vitesses ne sont pas colinéaires) mais la phase centrale est avantageuse
(car on a vu que translater n points à distance nulle coûte autant qu’en translater un seul). Ainsi,
si la distance à parcourir est suffisamment longue, le covoiturage devient avantageux.
Emmanuel Kammerer
Léo Hahn-Lecler
Figure 12.4 – Dans un ouvrage en tous points remarquable, le lettré, biologiste et mathématicien
D’Arcy Wentworth Thompson (1860-1948) souligna l’importance des facteurs environnementaux
et physiques (en opposition à la seule hérédité) dans la morphogenèse des êtres vivants. La forme
des poissons étant peu ou prou optimale, il n’y a pas une infinité de “plans” différents les uns des
autres mais bien une poignée seulement de patrons originaux, qui permettent par des déforma-
tions (non-triviales) d’engendrer toutes les formes privilégiées par l’évolution.
Pour décrire la variabilité anatomique d’une famille ou d’une population observée, il suffit donc
de donner un template de référence (arbitrairement complexe, mais commun à toutes les observa-
tions) et les déformations qui permettent de passer dudit template aux individus. La complexité
se retrouve alors découplée en deux composantes intelligibles : une image de référence, complexe
mais fixe ; des déformations propres aux sujets observées, souvent assez simples pour être décrites
avec peu de paramètres.
Fait remarquable : les schémas ci-dessus présentent la variabilité des formes de poissons non
pas comme des déplacements arbitraires de squelettes, mais comme des changements de co-
ordonnées, des déformations de l’espace ambiant. C’est sur cette idée mathématique de
déformation extrinsèque de l’espace (en opposition aux mouvements intrinsèques des particules
de poisson) que repose l’analyse procustéenne et la théorie “LDDMM” présentée dans ce cha-
pitre. Grâce aux algorithmes détaillés dans les pages qui suivent, on peut aujourd’hui produire
des figures de ce type de manière automatique.
On Growth and Forms, 1946.
Chapitre 13
Méthodes à noyaux pour

l’appariement de nuages de points Bonus
[Gla05]
Vadim Lebovici
et Arthur Touati
13.1 Objectifs Fondamental
13.1.1 Cadre concret

Dans le domaine du médical, il est nécessaire de pouvoir comparer deux formes pour pouvoir
détecter des maladies, du cœur ou du cerveau par exemple. Pour pouvoir le faire dans de grandes
proportions et à une vitesse élevée, le numérique est indispensable. Il nous faut donc trouver un
moyen de comparer deux formes. Pour ceci, nous déformons la première en une forme proche de
la seconde et associons un coût – qui reflètera une distance – à une telle transformation.
Ceci consiste en fait en ce qu’on appelle un problème d’appariement, c’est-à-dire, à partir de
deux objets mathématiques, déterminer le difféomorphisme optimal pour que le "transport" du
premier soit "aussi proche du second que possible." Plus précisément,
1. On considère un ensemble E dans lequel vivent nos objets.
2. On considère un groupe de difféomorphismes G et une action de G sur E qui modélisera
le transport.
3. On considère une distance dE sur E pour mesurer l’appariement des objets après l’action
d’un difféomorphisme sur le premier, c’est l’attache aux données.
13.1.2 Solutions possibles

Une première solution serait de ne considérer qu’un groupe de difféomorphismes constitué de
déformations rigides, c’est-à-dire des déformations linéaires, rotations, translations, dilatations.
C’est ce que l’on a fait dans la séance précédente, et ceci nous apporte des résultats satisfaisant :
on a même réussi à expliciter l’espace quotient des triangles à similitude près. Cependant, le
transport d’une forme complexe vers une autre est peu satisfaisant. Un cerveau ne diffère pas
d’un autre linéairement, et ceci ne permet pas de faire correspondre un bras tendu avec un bras
plié par exemple.
On propose ici un modèle nettement plus riche. Pour cette séance, nous ne considèrerons pas
des formes continues, mais des formes discrétisées, afin de n’avoir qu’un nombre fini de points à
traiter : E sera un espace de landmarks. Pour discrétiser, il est pertinent de définir à l’avance
149
Bonus 150 Chapitre 13. Méthodes à noyaux pour l’appariement de nuages de points
[Gla05]
Vadim Lebovici des points de références sur les formes que nous serons amenés à comparer (artère pulmonaire,
et Arthur Touati artère aorte pour le cœur par exemple).
Fondamental
13.2 Difféomorphismes
Supposer les déformations linéaires est trop restrictif pour faire de la reconnaissance de formes,
c’est pourquoi il est nécessaire de se placer en dimension plus grande et même infinie pour
s’autoriser des déformations plus complexes et ainsi accéder à des résultats plus fins. On se
placera donc dans un espace de difféomorphismes.
Le schéma général est le suivant : on construit d’abord un espace de vecteurs dont la norme
définira le coût d’une déformation infinitésimale et les difféomorphismes permettant de déformer
nos formes seront obtenus par intégration d’une équation de flot. On doit pour ceci travailler
avec un contrôle L1 ou L2 sur nos champs de vecteurs.
Construisons les champs utiles à la construction de nos déformations élastiques.
Définition 13.1. Un espace vectoriel V de champs de vecteurs sur Rd sera dit admissible s’il
vérifie les conditions suivantes :
1. V est un espace de Hilbert. On note sa norme k · kV et son produit scalaire h·, ·iV .
2. (V, k · kV ) s’injecte continûment dans (C01 (Rd , Rd ), k · k1,∞ ) des champs de classe C 1 sur
Rd s’annulant à l’infini, ainsi que leurs dérivées partiellles. Il existe donc cV > 0 telle que :
∀v ∈ V, kvk1,∞ ≤ cV kvkV (13.1)
En fait, les difféomorphismes que nous allons définir sont vus comme solutions d’une équation
de flot. On voit en fait un champ de vecteur vt (modélisant des déformations infinitésimales),
déformer notre espace au cours du temps. Arrivé au temps t, la déformation définit un difféo-
morphisme. On dispose d’un théorème qui nous assure l’existence et l’unicité de telles solutions.
Cependant, il nous faut des hypothèses supplémentaires sur nos champs de vecteurs, un contrôle
L1 . On définit alors
Définition 13.2. On définit les espaces suivant :
L1V = L1 ([0, 1], V ) (13.2)

L2V 2
= L ([0, 1], V ) (13.3)
ainsi que les normes :

Z 1
kvkL1V = kvt kV dt. (13.4)
s0
Z 1
kvkL2V = kvt k2V dt. (13.5)
0
Remarque 13.1. L’espace (L1V , kvkL1V ) est un Banach et (L2V , kvkL2V ) est un Hilbert. De plus
notons aussi que L2V s’injecte dans L1V par inégalité de Cauchy-Schwarz.
On peut alors, si l’on prend un champ de vecteur adéquat, énoncer le théorème suivant et
construire nos difféomorphismes :
13.2. Difféomorphismes 151
Figure 13.1 – Déformation d’une surface en une autre, sous l’action d’un difféomorphisme.
Étape par étape, on voit la grille se déformer sous l’action d’un champs de vecteur vt .
[Gla05]
1 d v
Vadim Lebovici Théorème 13.1. Soit v ∈ LV . Pour tout x ∈ R , il existe une unique application t 7→ Φt (x)
d
et Arthur Touati continue de [0, 1] dans R vérifiant l’équation de flot
Fondamental Z t
Φvt (x) = x + vs ◦ Φvs (x) ds. (13.6)
0
Autrement dit,
Φv0 (x) = x Φ̇vt (x) = vt (Φvt (x)) (13.7)
On peut en fait montrer que l’application x 7→ Φvt (x) est un homéomorphisme de Rd dans
R . Les difféomorphismes qui vont nous servir sont donc les éléments de l’ensemble
d
AV = {Φv1 |v ∈ L1V } (13.8)

En effet, il suffit de considérer les flots au temps 1 – renormalisation en temps –, quitte à changer
le vecteur v en ṽ tel que ṽs = vs si s ≤ t et ṽs = 0 sinon.
Cette définition des difféomorphismes sur notre espace nous permet d’établir une métrique, et
ainsi va nous permettre d’évaluer le coût associé à l’utilisation d’un difféomorphisme pour défor-
mer notre espace.
Proposition 13.1. AV est un groupe et un espace complet pour la métrique :
dV (id, Φ) = inf { kvkL1V | v ∈ L1V , Φ1V = Φ }. (13.9)
que l’on peut étendre par invariance à droite :
dV (Φ, Ψ) = dV (id, Ψ ◦ Φ−1 ). (13.10)
En fait nous disposons d’un lemme qui nous permet de nous restreindre à l’étude des champs
de vecteurs avec un contrôle L2 :
Lemme 13.1. Pour tout v ∈ L1V , il existe u ∈ L2V tel que Φu1 = Φv1 et kukL2V ≤ kvkL1V .
Ce qui nous permet de réduire la description de AV :
Proposition 13.2.
AV = {Φv1 | v ∈ L2V }, (13.11)
et pour tout Φ ∈ AV ,
dV (id, Φ) = inf{ kvkL2V | v ∈ L2V , Φv1 = Φ}. (13.12)
Si l’on prend deux difféomorphismes de AV , il existe une géodésique entre eux pour la métrique
que l’on a définie.
Proposition 13.3. Soient Φ, Ψ ∈ AV .
Il existe v ∈ L2V tel que Φv1 = Φ ◦ Ψ−1 et d(Φ, Ψ) = kvkL2V = kvkL1V . En fait pour un tel champ
v, la norme kvt kV est constante pour presque tout t.
On dira que AV est le groupe de difféomorphismes modelé sur V à partir de l’identité.
Exemple 13.1. Dans le cas “limite” où V est l’espace des champs constant, identifié à Rm muni
de la métrique euclidienne, AV est tout simplement l’espace des translations muni de la distance
euclidienne naturelle.
Exemple 13.2. De même, si V est l’espace des translations + rotations infinitésimales, alors AV
est l’espace des isométries affines qui préservent l’orientation.
En prenant un espace V plus souple, on fait exploser le nombre de degrés de libertés, et
donc la complexité de l’espace des difféomorphismes AV . Tout l’objet de cet exposé sera de voir
comment choisir V pour garder un problème raisonnable, résoluble numériquement.
13.3. Retour sur le problème d’appariement 153
13.3 Retour sur le problème d’appariement

Revenons sur le problème d’appariement. Nous avons définit dans les sections précédentes :
1. L’espace E dans lequel vivent les formes est l’ensemble des nombres finis de points de Rd
avec souvent d = 2 ou 3.
2. Notre groupe déformant l’espace est AV qui agit de la manière suivante :
Φ.O = Φ(O) = {Φ(x) , x ∈ O} (13.13)
C’est bien ça ? ?
3. Pour la distance à définir sur les formes pour quantifier la différence entre O2 et Φ.O1 il
nous faut une distance dE sur E.
Le point 3 est assez subtil dans le cas de formes continues, de surfaces, etc, mais ce n’est pas
l’objet de cet exposé.
Nous supposons ici disposer d’un nombre fini de landmarks, qui sont des points de références
numérotés : pensez à un biologiste qui aurait annoté à la main une série d’images de poissons, en
cliquant sur le bout du nez, la commissure des lèvres, les bouts de nageoires... On peut alors définir
un terme d’attache aux données naïf, si O1 et O2 ∈ E sont de la forme : O1 = {xi , i ∈ [[1, n]]} et
O2 = {yi , i ∈ [[1, n]]} décrit par leurs points de références, on définit :
n
X
dE = |xi − yi |2 . (13.14)
i=1
Tout ceci nous permet alors de poser un coût pertinent à la transformation de O1 à O2 , qu’on
notera J et on peut définir proprement le problème d’appariement :
Définition 13.3. Soit A : AV 7→ [0, +∞[ une fonctionnelle (appelée attache aux données), et
λ > 0 fixé. Le problème d’appariement pour A consiste à minimiser sur AV
J(Φ) = λdV (id, Φ) + A(Φ). (13.15)
ou encore de manière équivalente à minimiser sur L2V la fonctionnelle :
Z 1
J(v) = λ kvt k2V dt + A(Φv1 ). (13.16)
0
Remarque 13.2. L’équivalence entre les deux formulations provient du théorème d’existence de
géodésiques sur AV . Attention : en dimension infinie, c’est un résultat compliqué !
Pour résoudre ce problème d’appariement, on possède un premier théorème d’existence de
solution, qui nous assure que ceci n’est pas vain et qu’il existe effectivement des difféomorphismes
qui vont nous permettre en pratique de passer d’une forme à une autre de façon optimale.
En pratique, il s’agira de trouver un difféomorphisme Φ, qui déforme une forme X en une
forme Φ(X) proche de X e : on prendra typiquement pour A une attache quadratique du type
kΦ(X)− Xk avec une norme à préciser sur l’espace E des observations. La forme optimale Φ(X)
e 2
pourra alors être vue comme un barycentre des points X – de poids λ – et X e – de poids 1.
Le réel λ est un poids de régularisation, qui force Φ(X) à rester dans un voisinage de X :
on prendra souvent 0 < λ << 1, de façon à avoir un modèle Φ(X) proche de l’observation X, e
mais qui reste à distance “finie” de la forme X. Comme nos normes RKHS – définies ci-dessous –
pénalisent de manière exponentielle les discontinuités de Φ à une échelle inférieure à une longueur
caractéristique σ, résoudre le problème d’appariement sera alors un moyen de trouver, parmis
les déformations σ-lisses de X, la forme la plus proche de X. e
[Gla05]
Vadim Lebovici
et Arthur Touati
Fondamental
(a) Échelle du noyau σV = 2. (b) Échelle du noyau σV = 0.2.
Figure 13.2 – Matching d’un carré sur un cercle, à l’aide d’un noyau gaussien (k(x, y) =
2
exp(−kx − yk /2σ 2 )). Un tel noyau force la préservation des structures plus fines que σ, en
corrélant fortement les points tels que k(x, y) ' 1.
13.4 Élargissement du modèle aux déformations rigides

Il ne s’agit pas d’oublier que l’espace des champs de vecteurs que nous considérons pour
construire nos difféomorphismes sont des champs de vecteurs nuls à l’infini et donc qu’ils ne
permettent pas de prendre en compte les déformations rigides, c’est-à-dire les translations, les
rotations et éventuellement les dilatations.
On construit ici un modèle qui traite indépendamment les déformations élastiques et les défor-
mations rigides. Sinon, on peut plutôt que de quotienter l’espace par toutes les déformations
rigides, identifier des axes de références sur les formes que nous cherchons à comparer et les
faire coïncider avant la comparaison à l’aide des difféomorphismes. Ceci donne une souplesse
supplémentaire.
13.5 Méthodes à noyaux

On l’a vu, pour arriver à des logiciels riches et pratiques, il nous faut considé-
rer (et pénaliser) des déformations infinitésimales plus complexes que des simples transla-
tions/rotations/dilatations. On présente ici une modélisation possible de notre espace de champ
de vecteur, qui se révélera extrêment féconde du point de vue théorique, et efficace au point de
vue algorithmique.
13.5.1 Espaces de Hilbert

Si H est un espace de Hilbert, on note h·, ·iH son produit scalaire et k · kH la norme associée.
On rappelle que le théorème de représentation de Riesz nous donne une isométrie bijective KH
entre H 0 le dual topologique de H et H qui vérifie :
∀η ∈ H 0 , ∀h ∈ H, η(h) = hKH η, hiV (13.17)
13.5. Méthodes à noyaux 155
13.5.2 Espace reproduisant et noyaux

Définition 13.4. Soit S un ensemble, et H un espace de Hilbert de champs de vecteurs S → Rm
où m ≥ 2. Si S = Rm , on parlera de champs de vecteurs denses, et discrets si S = [|1, n|].
H est dit espace à noyau reproduisant (ou RKHS) lorsque les formes linéaires δxα : f ∈ H 7→
f (x) · α où x ∈ S et α ∈ Rm sont continues.
On peut alors appliquer le théorème de Riesz aux δxα et définir le noyau reproduisant d’un
RKHS :
Définition 13.5. Si H est un RKHS, le noyau reproduisant de H est l’application kH : S 2 7→

L(Rm ) telle que :
∀x ∈ S, kH (x, ·)α = KH δxα (13.18)
c’est-à-dire que kH (x, ·)α est l’unique élément de H tel que :
∀h ∈ H, δxα (h) = hkH (x, ·)α, hiH = h(x) · α (13.19)
Définition 13.6. On appelle noyau vectoriel positif de dimension m sur S toute application
k : S 2 7→ L(Rm ) telle que
∀(x, y) ∈ S 2 , k(x, y) = k(y, x) (13.20)
X
∀(x1 , ..., xn ) ∈ S n , ∀(α1 , ..., αn ) ∈ (Rm )n , αj · k(xi , xj )αi ≥ 0 (13.21)
1≤i,j≤n
En terme de matrice, c’est demander que la matrice des noyaux

 
k(x1 , x1 ) k(x1 , x2 ) ··· k(x1 , xn )
 k(x2 , x1 ) k(x2 , x2 ) ··· k(x2 , xn ) 
Kx =  .. .. .. .. (13.22)
 
. . . .

 
k(xn , x1 ) k(xn , x2 ) · · · k(xn , xn )
définie par blocs soit symétrique positive.
Le noyau est dit strictement positif si lorsque les xi sont distincts, l’expression ci-dessus est
nulle si et seulement si les αi sont tous nuls. On montre l’équivalence entre la notion de noyau
reproduisant et la notion de noyau vectoriel positif :
Théorème 13.2. 1. le noyau reproduisant d’un RKHS est un noyau positif.

2. A tout noyau positif k sur S de dimension m , il existe un unique RKHS inclus dans
(Rm )S dont le noyau reproduisant est k.
Dans le cas d’un RKHS séparable, si on se donne une base orthonormée (en )n∈N , un simple
calcul nous donne que :
n
X
∀(x, y) ∈ S 2 , ∀α ∈ Rm , kH (x, y)α = lim (α · en (x))en (y) (13.23)
n→+∞
k=0
[Gla05]
Vadim Lebovici 13.5.3 Application au problème d’appariement

et Arthur Touati
Fondamental L’intérêt principal des noyaux reproduisant est de fournir une méthode simple pour la
construction de l’espace des champs des déformations S. On choisit d’abord le noyau k puis
grâce au théorème 13.2, on définit V comme l’unique RKHS correspondant à k. On rappelle
l’expression de la fonctionnelle :
Z 1
J(v) = λ kvt k2V dt + A(Φv1 ).
0
Le premier terme correspond au coût de la déformation, évalué par la norme du champ v

dans L2V . Le plus souvent les objets que l’on va vouloir déformer se situent dans une région de
l’espace S ⊂ Rd . On suppose donc que le terme d’attache aux données n’est plus fonction de
toute la déformation Φv1 mais seulement de Φv1|S . Si V est un espace de champs de déformation
dans Rn et kV son noyau, on peut alors énoncer la proposition cruciale suivante :
Proposition 13.4. Soit S ⊂ Rd .

1. VS := {v ∈ V, v|S = 0} est un sous-ensemble fermé de V et
VS⊥ = Vect{kV (x, ·)α, x ∈ S, α ∈ Rd }. (13.24)
2. Pour tout v0 ∈ V il existe un champ v0S ∈ VS⊥ tel que v0|S = v0|S
S
. Le champ v0S est le
champ de norme minimale dans V interpolant v0 sur S.
Démonstration. Un champ v est dans VS si et seulement si α·v(x) = 0 pour tout x ∈ S et α ∈ Rd

donc si et seulement si hkV (x, ·)α, viV pour tout x ∈ S et α ∈ Rd . Ainsi VS = Vect{kV (x, ·)α, x ∈
S, α ∈ Rd }⊥ . La deuxième assertion découle juste de la définition du projeté orthogonal.
On montre maintenant comment le noyau kV nous permet d’interpoler n’importe quel champ
de vecteur en minimisant la norme.
Théorème 13.3. Supposons que kV soit strictement positif. Soient x1 , ..., xn des points tous
distincts de Rd et γ 1 , ..., γ n des vecteurs de Rd . Il existe une unique solution v∗ ∈ V au problème
d’interpolation suivant :
v(xi ) = γ i

(13.25)
kvkV minimal
La solution v∗ s’écrit
n
X
v∗ = kV (xi , x)αi (13.26)
i=1
où les αi ∈ Rd sont solutions du système linéaire suivant :

n
X
kV (xi , xj )αi = γ j , 1 ≤ j ≤ n. (13.27)
i=1
Démonstration. Le système linéaire précédent admet une unique solution par stricte positivité
du noyau. Le champ v∗ satisfait par construction la condition d’interpolation. On est dans la
situation de la proposition précédente avec S = {xi , 1 ≤ i ≤ n} et v0 = v∗ . Par construction v∗ ∈
VS⊥ donc c’est l’unique solution du problème d’interpolation et v∗ est bien de norme minimale.
13.5. Méthodes à noyaux 157
On s’attaque maintenant au principe de réduction. On entend par là l’opération qui consiste

à prouver qu’un problème de minimisation d’une fonctionnelle dans un espace revient au même
problème de minimisation dans un espace plus petit. Dans la suite le noyau est toujours supposé
strictement positif. On va s’intéresser au cas où le terme d’attache aux données n’est fonction
que du déplacement des points de S :
Z 1
J(v) = λ kvt k2V dt + A((Φv1 (x))x∈S ). (13.28)
0
La minimisation se fait a priori sur L2V . Notons L2V,S le sous-ensemble fermé de L2V suivant :
L2V,S = {v ∈ L2V , ∀t ∈ [0, 1], vt ∈ VΦ⊥vt (S) }. (13.29)
On a le résultat suivant :
S
Théorème 13.4. Pour tout champ v ∈ L2V , il existe v S ∈ L2V,S tel que Φv1|S = Φv1|S et kvtS k ≤
kvt kV pour tout t ∈ [0, 1].
Démonstration. Pour t ∈ [0, 1], on définit vtS comme le champ minimal interpolant vt sur Φvt (S).
S
Par construction on a kvtS k ≤ kvt kV pour tout t ∈ [0, 1]. De plus, par unicité du flot, Φv1|S = Φv1|S
pour tout t ∈ [0, 1]. D’après la proposition 13.4, vtS ∈ VΦ⊥v (S) = V ⊥vS donc v S ∈ L2V,S .
t Φt (S)
On énonce alors le principe de réduction sous la forme du corollaire suivant :
Corollaire 13.1. La solution du problème optimal

Z 1
J(v) = λ kvt k2V dt + A((Φv1 (x))x∈S )
0
peut être cherchée dans L2V,S .

Les vt optimaux sont donc typiquement nuls sauf au voisinage des points de Φvt (S).
Démonstration. Si v ∈ 2V , et si v S est définit par le théorème précédent, les termes d’attache

S
aux données dans J(v) et J(v S ) sont égaux vu que Φv1|S = Φv1|S . Les inégalités kvtS k ≤ kvt kV
impliquent par croissance de l’intégrale que J(v S ) ≤ J(v).
13.5.4 Cas des Landmarks

Dans le cadre de l’appariement de nuage de points, S = {xi , 1 ≤ i ≤ n}, avec des points xi
distincts. Nous allons décrire l’ensemble L2V,S . Si v S ∈ L2V,S , alors pour t dans [0, 1], vt ∈ VΦ⊥v (S) =
t
Vect{kV (Φvt (xi ), ·)α, 1 ≤ i ≤ n, α ∈ Rd }, donc il existe des vecteurs αti dans Rd tels que :
n
X
vt (x) = kV (Φvt (xi , x)αti . (13.30)
i=1
où les trajectoires xit = Φvt (xi ) vérifient :
xi0 = xi

Pn (13.31)
∂t xit = vt (xit ) = j=1 kV (xj , xi )αtj .
[Gla05]
Vadim Lebovici On voit que l’on peut paramétrer l’espace de minimisation LV,S par les vecteurs αt . Un des
2 i
et Arthur Touati intérêts majeurs de la formule définissant vt est de pouvoir calculer facilement la norme de vt :
Fondamental
n
X
kvt k2V = αtj · kV (xj , xi )αtj (13.32)
i,j=1
Nous pouvons énoncer le résultat final suivant :

Proposition 13.5. Supposons que le noyau kV soit strictement positif. Alors lorsque S =
{xi , 1 ≤ i ≤ n}, les points xi étant distincts, la fonctionnelle d’appariement peut être écrite
comme fonction des paramètres αi , éléments de L2 ([0, 1], (Rd )n ) :
Z 1 n
X
J((αti )) = λ αtj · kV (xj , xi )αtj dt + A((xi1 )) (13.33)
0 i,j=1
où les trajectoires xit ∈ Rd sont calculées par résolution du système différentiel 13.31.
13.6 Équations Hamiltoniennes

En considérant des espaces RKHS de champs de vecteurs, nous avons donc ramené le problème
de trouver une trajectoire optimale vt ∈ V de dimension infinie à un simple problème de contrôle
en dimension finie, sur les coefficients αt . A priori, cela semble être un simple tour de passe-
passe : après avoir complexifié un modèle – des nuages de points aux difféomorphisme –, le voilà
de retour en dimension finie sous une forme légèrement différente. En réalité, il s’agit d’un résultat
extrêmement profond sur la nature des géodésique, connu par les physiciens depuis 1833, mais qui
n’était pas encore complètement assimilé par la communauté du traitement d’image au moment
de l’écriture de l’article, en 2005 : élaborée à l’origine par des probabilistes (oui oui !), cette
théorie des déformations difféomorphes a mis plusieurs années à assimiler tous les progrès réalisé
depuis cent-cinquante ans par les théoriciens du contrôle optimal, spécialistes des trajectoires
géodésiques.
Dans cette section, on présente donc un théorème de structure très fort sur les équations
géodésiques, dû à Hamilton, qui n’est que rarement présenté en cours de géométrie Riemannienne
“mathématique”, pour des raisons culturelles.
Cotangent plane and cometric Consider a Riemannian manifold (M, g) of dimension m.

For every pair (q, v) in its tangent bundle T M , we can consider the quadratic length
2
kvkgq = (v, gq v). (13.34)
Thinking in terms of coordinates, we are often used to say that gq is an m-by-m positive definite
symmetric matrix, thus working with the usual dot product (u, v) = uT v. However, as we will now
discover the proeminent role played by the cotangent bundle T ? M , we have to be more careful
and disambiguate the distinction between Tq M and Tq? M = (Tq M )? . The so-called bilinear “dot
product” shall then be reserved to couples (u, v) ∈ Tq? M × Tq M , with
(u, v) = u(v) = (v, u). (13.35)
At each location q ∈ M , the metric tensor gq can now be seen as a linear isomorphism
gq : Tq M → Tq? M, (13.36)
13.6. Équations Hamiltoniennes 159
and we will pay special attention to its inverse, the kernel or co-metric tensor
Kq : Tq? M → Tq M. (13.37)
The symmetry of gq ensures that Kq is also symmetric : Kq? = Kq , i.e.
∀ p1 , p2 ∈ Tq? M, (p1 , Kq p2 ) = (Kq p1 , p2 ). (13.38)
Dual norm A remarkable fact about the positive definite symmetric tensor Kq is that it
encodes on Tq? M the dual norm of gq :
!2
2
∀p ∈ Tq? M, kpkgq? = sup (p, v) = (p, Kq p). (13.39)
(v,gq v)=1
Eventually, if v = Kq p – that is, if p = gq v – one has :

2 2
kvkgq = (v, gq v) = (Kq p, p) = kpkKq (13.40)
13.6.1 The reduced Hamiltonian

Assume we are given a smooth path qt = q(t) in M . Considering the lifted smooth path
(qt , vt ) = (qt , q̇t ) (13.41)
in the tangent bundle T M makes no difficulty : undergrad physics courses have taught us how
insightful it can be to study dynamical systems in the “phase plane”.
Pushing even further, we can define the smooth trajectory
(qt , pt ) = (qt , gqt vt ) = (qt , gqt q̇t ) (13.42)
in the cotangent bundle T ? M . Kinetic energy can now be expressed smoothly as a function –
the so-called Hamiltonian – of the phase points (q, v) or (q, p) :
1 1
E(q, v) = (v, gq v), H(q, p) = (p, Kq p). (13.43)
2 2
At first sight, those two formalisms are completely equivalent, and we barely see the need for
a non-intuitive “co-tangent” phase space...
Théorème 13.5 (Hamiltonian formulation of the geodesic equations).

Given the above notations, (qt ) is a solution of the geodesic equation on M if and only if (qt , pt )
is a solution of the Hamiltonian equation :
(
q̇t = + ∂H ∂p (qt , pt ) = +Kqt pt
(Ham) : . (13.44)
ṗt = − ∂H ∂q (qt , pt ) = −∂q (pt , Kq pt )(qt )
Otherwise said, the geodesics of M are exactly the projection on the space coordinate “q” of
the integral trajectories – in phase space T ? M – of the hamiltonian dynamical system
(q̇, ṗ) = “Rot−90◦ ”∇H(q, p), (13.45)

[Gla05]
Vadim Lebovici and we have an equivalence between the two shootings Cauchy problems, associated respectively
et Arthur Touati to the geodesic and hamiltonian equations :
Fondamental
q(0) = q0 q(0) = q0
(Shootq0 ,v0 ) : , (Shoot?q0 ,p0 ) : . (13.46)
q̇(0) = v0 = Kq0 p0 p(0) = p0 = gq0 v0
The above theorem is a stunning result : it reduces the geodesic equation – a priori, an order 2
ODE given through highly non-trivial Christoffel coefficients – to a sole order 1 equation in phase
space, whose vector field happens to be the rotated gradient of the “kinetic energy”.
The standard proof of this result relies on the calculus of variations, and is very much related
to the fact that geodesics locally minimize the length. In this report, for a change, we will give
an elementary proof : The only “hard to prove” lemma will be the fact that our m-manifold M
can be isometrically embedded in the euclidean space Rn , at least locally – the global statement
is true, and has been proved by Nash, but is way too hard to be detailed here. This fits well
within the spirit of the lecture group “Introduction to Riemannian Geometry through the study
of shapes spaces”, given to undergrad students at the Ecole Normale Supérieure in the autumn
of 2016.
Main proof : Hamiltonian formulation of the geodesic equations.
Lemme 13.2 (Locally, M can be isometrically embedded in a euclidean space Rn ).
Let q0 be a base point in M . Then there exists a neighborhood Ω of q0 in M , a euclidean space Rn
– with n > m – and a smooth diffeomorphism
ϕ : (Ω, g) → (Rn , geucl ) (13.47)
which is an isometry – i.e. such that g = ϕ? geucl .

Démonstration.
A well-written proof of the global Nash embedding theorem can be found on Terence Tao’s blog :
http://terrytao.wordpress.com/2016/05/11/notes-on-the-nash-embedding-theorem/.
I shall provide here a brief sketch within a few days.
Simplifications Now, consider a smooth trajectory qt = q(t) in M such that q(0) = q0 . For
all time t, we can define pt = gqt q̇t , and the above lemma gives us a neighborhood Ω of q0 , and
an embedding ϕ : Ω → Rn .
We want to characterize on pt the property « qt is a solution of the geodesic equation » :
as this is a local problem, we can restrict our study to the case where M = Ω. Restricting the
neighborhood even further, we can even assume that Ω is covered by a single coordinate chart :
we can safely assume that M = Ω is an open set of Rm , endowed with a smooth metric g.
Notations Our diffeomorphism ϕ is an isometry :
∀ q ∈ M, ∀ u, v ∈ Tq M, (u, gq v) = hdϕq u, dϕq vieucl . (13.48)
Denoting dϕ?q the euclidean adjoint of dϕq – in coordinates, it’s nothing but the transpose –, we
then have :
gq = dϕ?q dϕq , Kq = (dϕ?q dϕq )−1 . (13.49)
The well-known linear algebra formula

⊥
∀A ∈ Mn,m (R), πVect(A) = A(AT A)−1 AT (13.50)
then becomes :
∀ q ∈ M, πT⊥ϕ(q) ϕ(M ) = dϕq (dϕ?q dϕq )−1 dϕ?q (13.51)

= dϕq Kq dϕ?q . (13.52)
Finally, we remind the reader that since ϕ is of class C 2 , it has an order two differential at
every point q,
d2 ϕq : Tq M → L(Tq M, Rn ), (13.53)
which is such that, according to Schwarz’s theorem,
∀ q ∈ M, ∀ u, v ∈ Tq M, (d2 ϕq · u) · v = (d2 ϕq · v) · u. (13.54)
First calculation : acceleration of the moving point ϕ(qt )

The diffeomorphism ϕ is an isometry, hence we know that
« qt is a geodesic in (M, g) » (13.55)

⇐⇒ « ϕ(qt ) is a geodesic in (ϕ(M ), geucl ) » (13.56)
¨
⇐⇒ ∀ t, πT⊥ϕ(q) ϕ(M ) ϕ(q
[ t) = 0 (13.57)
¨
⇐⇒ ∀ t, dϕqt Kqt dϕ?qt ϕ(q
[ t) = 0 (13.58)
¨
⇐⇒ ∀ t, dϕ?qt ϕ(q
[ t) = 0 (13.59)
since dϕq is injective and Kq is invertible for all q.

It is therefore necessary to compute an expression for the acceleration of the moving
point ϕ(qt ) as a function of the phase coordinates (qt , pt ). We have, using the chain rule :
˙
[
ϕ(q t ) = dϕqt · q̇t (13.60)
¨
[
ϕ(q 2
t ) = (d ϕqt · q̇t ) · q̇t + dϕqt · q̈t (13.61)
Replacing the time derivative q̇t by its phase-space expression Kqt pt , we also know that :
˙
q̈t = K
\ qt pt (13.62)
= (dq Kq · q̇t ) pt + Kqt ṗt (13.63)
= (dq Kq · Kqt pt ) pt + Kqt ṗt . (13.64)
Computing dq Kq is not that hard : we know that
∀ δq ∈ Tq M, dq gq · δq = dq (dϕ?q dϕq ) · δq (13.65)

= (d 2
ϕ?q · δq) dϕq + dϕ?q 2
(d ϕq · δq), (13.66)
and, since gq Kq = IdTq? M for all q ∈ M ⊂ Rm ,
0 = (dq gq )Kq + gq (dq Kq ), (13.67)

i.e. dq Kq = −Kq (dq gq )Kq . (13.68)
Combining all of the above, we have
dq Kq · Kqt pt = −Kqt (d2 ϕ?qt · Kqt pt ) dϕqt + dϕ?qt (d2 ϕqt · Kqt pt ) Kqt . (13.69)

[Gla05]
Vadim Lebovici Eventually,

et Arthur Touati ¨ 2
t ) = (d ϕqt · Kqt pt ) · Kqt pt
Fondamental [
ϕ(q
+ dϕqt · − Kqt (d2 ϕ?qt · Kqt pt ) dϕqt + dϕ?qt (d2 ϕqt · Kqt pt ) Kqt pt (13.70)

+ Kqt ṗt
= (d2 ϕqt · Kqt pt ) · Kqt pt
+ dϕqt Kqt · − (d2 ϕ?qt · Kqt pt ) dϕqt + dϕ?qt (d2 ϕqt · Kqt pt ) Kqt pt (13.71)

+ ṗt
Null tangential acceleration condition This expression is pretty frightening, as no symme-

try is assumed on d2 ϕ... Thankfully, most terms will soon cancel out as we are only interested in
the projection of the above acceleration vector on the tangent plane. Indeed, the condition (13.59)
now reads
¨
0 = dϕ?qt ϕ(q
[ t) (13.72)
i.e. 0 = dϕqt (d ϕqt · Kqt pt ) · Kqt pt + dϕqt dϕqt Kqt · · · ·
? 2 ?
(13.73)

i.e. 0 = dϕqt (d ϕqt · Kqt pt ) · Kqt pt + · · ·

? 2
(13.74)

i.e. 0 = dϕ?qt (d2 ϕqt · Kqt pt ) · Kqt pt

− (d2 ϕ?qt · Kqt pt ) dϕqt + dϕ?qt (d2 ϕqt · Kqt pt ) Kqt pt (13.75)

+ ṗt
i.e. ṗt = (d2 ϕ?qt · Kqt pt ) dϕqt Kqt pt (13.76)
Interpretation of ṗt as a gradient The last step of our proof is to see that the above
expression is nothing but the opposite of the Hamiltonian’s q-gradient. Indeed, according to the
very definition of what is a gradient and the expression computed equation (13.68), we know
that for any displacement δq ∈ Tqt M ,
1 1
pt , Kqt (d2 ϕ?qt · δq) dϕqt + dϕ?qt (d2 ϕqt · δq) Kqt pt (13.77)

− ∂q pt , Kq pt · δq =
2 2
Now, developping by linearity :
1 1 1
− ∂q pt , Kq pt · δq = pt , Kqt (d2 ϕ?qt · δq) dϕqt Kqt pt + pt , Kqt dϕ?qt (d2 ϕqt · δq)Kqt pt (13.78)
2 2 2
1 1
= Kqt pt , (d2 ϕ?qt · δq) dϕqt Kqt pt + Kqt pt , dϕ?qt (d2 ϕqt · δq)Kqt pt (13.79)
2 2
1 2 1
= (d ϕqt · δq) Kqt pt , dϕqt Kqt pt + dϕqt Kqt pt , (d2 ϕqt · δq)Kqt pt (13.80)
2 2
= (d2 ϕqt · δq) Kqt pt , dϕqt Kqt pt (13.81)
since Kqt is symmetric (i.e. Kq?t = Kqt ) and dϕ?? qt = dϕqt . The last step is then to remember
that, according to Schwarz’s theorem,

(d2 ϕqt · δq) Kqt pt , dϕqt Kqt pt = (d2 ϕqt · Kqt pt ) δq, dϕqt Kqt pt (13.82)

= δq, (d2 ϕ?qt · Kqt pt ) dϕqt Kqt pt (13.83)
Otherwise said,
1
− ∂q pt , Kq pt = (d2 ϕ?qt · Kqt pt ) dϕqt Kqt pt (13.84)
2
in the sense of the space of linear forms Tq? M .
Conclusion All in all, we have proved that given pt = gqt q̇t the only trajectory in the space
of co-vectors (« momentums ») such that
∂H(q, p)
q̇t = + (qt , pt ) = Kqt pt , (13.85)
∂p
then ϕ(qt ) is a geodesic of the surface ϕ(M ) embedded in the the euclidean space Rn if and only
if the acceleration of this kinematic point is purely normal, i.e.
¨
∀ t, πT⊥ϕ(q) ϕ(M ) ϕ(q
[ t ) = 0, (13.86)
which is verified if and only if
∂H(q, p)
∀ t, ṗt = − (qt , pt ) = (d2 ϕ?qt · Kqt pt ) dϕqt Kqt pt . (13.87)
∂q
The theorem has therefore been proved.
Now, a word about our proof. It is filled with elementary but cumbersome calculations, no
doubt about it. But it also allowed us to interpret the co-metric in a rather unusual way : denoting
X = ϕ(M ) the embedded m-hypersurface and ψ = ϕ−1 : X → M our isometry, we have seen
that
∀ x ∈ X, Kψ(x) = dψx πT⊥x X dψx? , (13.88)
which means that the action of Kq = Kψ(x) can be decomposed as follow :
1. Given a linear-form/momentum p ∈ Tq? M , consider its isometric representant dψx? p in the
?
dual euclidean space Rn .
? ?
2. Taking advantage of the canonical identification (Rn , geucl ) ' Rn , geucl , orthogonally
project this representant onto Tx X ' Tx? X – in all of the above, we have ommitted to
write explicitely the Riesz mapping In : (Rn )? → Rn .
3. In the end, push(“-back”) the projected tangent vector towards Tq M .
Kq could therefore be seen as a projection operator, which forgets about irrele-
vant/inaccessible/inefficient directions to concentrate on the sole tangent plane.
13.6.2 Point de vue hamiltonien

Comme expliqué ci-dessus, il y a donc équivalence entre l’équation des géodésiques et les
équations d’Hamilton. Nous montrons ici comment faire le lien entre ce que nous venons de faire
et ce formalisme, pour obtenir une nouvelle interprétation de la minimisation de la fonctionnelle
J en terme de géométrie riemannienne et surtout une nouvelle étape de réduction, qui justifie à
elle seule tout le travail fait dans la première moitié du cours. Nous modifions les notations pour
coller avec celles du formalisme hamiltonien. On pose alors :
pit = αti qti = xit (13.89)

[Gla05]
Vadim Lebovici On considère aussi les éléments de (R ) suivants :

d n
et Arthur Touati  1
qt1
 
Fondamental pt
pt =  ...  qt =  ...  (13.90)
   
pnt qtn
Enfin on définit :
Kqt = (kV (xit , xjt ))1≤i,j≤n (13.91)
La matrice Kqt est inversible pour tout t dans [0, 1] par stricte positivité du noyau. On a alors
vt = q˙t = Kqt pt , on retrouve bien le formalisme hamiltonien. De plus, kvt k2V = (pt , Kqt pt ).
On montre maintenant comment réduire à nouveau le problème de minimisation.
Etape 1 : on est sur une géodésique R 1 Si la trajectoire qt est telle que vt = q˙t minimise la
fonctionnelle J(v), alors elle minimise 0 kq˙t kV dt c’est-à-dire la longueur du chemin parcouru,
c’est donc une courbe minimisante. Comme on l’a vu en géométrie riemannienne, les courbes mi-
nimisantes sont des géodésiques. On a montré que si une trajectoire minimise notre fonctionnelle,
c’est une géodésique. Le couple (qt , pt ) vérifie donc les équations de Hamilton :

q˙t = Kqt pt
(13.92)
p˙t = −∂q (pt , Kq pt )(qt )
Etape 2 : réduction Si on est sur une géodésique, la vitesse est de norme constante c’est-à-dire
hvt , vt iV = (pt , Kqt pt ) (13.93)
est constant égal à (p0 , Kq0 p0 ). Dans les équations de Hamilton c’est un fait qui est reflété par
le fait que l’évolution suit un gradient de l’énergie cinétique... tourné de 90◦ ! La fonctionnelle
prend alors la forme très simple suivante :
J(p0 = λ(p0 , Kq0 p0 ) + A(p0 ) (13.94)
où p0 ∈ (Rd )n . On a considérablement simplifié le problème : grâce à nos connaissances ma-

thématiques sur l’équation des géodésiques, on a transformé un problème de minimisation sur
la trajectoire L2V en une minimisation “simple” sur le moment initial p0 , un vecteur de la même
dimension que notre forme.
Chapitre 14
Appariement de courbes et surfaces

polygonales Bonus
[CT13]
Arnaud Eteve et
Yohan Mandin
14.1 Introduction -Huble
Aspects
L’objectif de ce chapitre est d’apporter plusieurs solutions au problème de l’appariement pratiques
non-labellisé, c’est-à-dire entre deux nuages de points considérés globalement, où les points ne
sont plus regroupés par paires point source, point cible. On pourra travailler avec un nombre de
points source et un nombre de points cible différents, et s’affranchir de la nécessité d’associer les
points par paires (opération souvent arbitraire et non pertinente, comme dans le cas de points
répartis sur une courbe). Nous présenterons trois modélisations différentes : par les mesures, par
les courants et par les varifolds, avant d’en décrire les avantages et limitations respectives.
14.2 Transport et appariement de mesures

Une première manière de visualiser un nuage de points (ou plus généralement une courbe,
une surface) est de l’exprimer en termes de masse. Pour ce faire, on va se placer dans l’espace des
mesures boréliennes signées sur Rd . On verra un point comme la mesure de Dirac en ce point, un
nuage de points comme la somme des mesures de Dirac de ces points (avec éventuellement certains
coefficients, selon l’importance respective accordée aux différents points). On ne s’intéressera
qu’au cas des nuages de points, mais on peut de la même manière associer à une courbe ou
une surface une mesure. Autrement dit, nous nous plaçons dans l’espace vectoriel des mesures
boréliennes signées sur Rd , noté Ms (Rd ).
14.2.1 Sur le terme d’attache aux données

Comme on l’a vu à la séance précédente, résoudre le problème d’appariement revient à mini-
miser une fonction constituée de deux termes : un terme représentant le coût de la déformation,
sous forme d’une intégrale, et un autre exprimant la distance entre la forme obtenue par défor-
mation et la forme cible. Dans cette section nous conservons le premier terme sous sa forme déja
énoncée, mais nous modifions le second, appelé terme d’attache aux données. Nous cherchons
à définir une norme sur Ms (Rd ) (rappelons que les formes sont maintenant des mesures). Pour
cela, on peut simplement utiliser la caractérisation de Ms (Rd ) par dualité :
Ms (Rd ) = C0 (Rd )0 , (14.1)
165
Bonus 166 Chapitre 14. Appariement de courbes et surfaces polygonales
[CT13]
Arnaud Eteve et et, étant donné une norme k·k sur un sous-ensemble dense de C0 (R ), on peut définir la norme
d
Yohan Mandin duale associée sur Ms (R ) par

d
-Huble Z
Aspects ?
∀ µ ∈ Ms (Rd ), kµk = sup f dµ, kf k 6 1 . (14.2)
pratiques
Le problème est alors de trouver une norme sur les fonctions qui réalise un bon compromis entre :
— la simplicité mathématique/algorithmique.
?
— la pertinence pour nos problèmes de matching : la distance kµ − νk devrait se réduire au
fur et à mesure que l’objet représenté par µ se “rapproche” de l’objet représenté par ν.
Nous allons comparer, pour l’exemple, deux normes sur Ms (Rd ) (qui ne seront pas celles
utilisées in fine). Si, pour commencer, nous utilisons la norme infinie :
Z
?
kµk∞ = sup d
f dµ, f ∈ C0 (R ), kf k∞ 6 1 (14.3)
Rd
Cette mesure ne peut que donner de très mauvais résultats. En effet, si µ et ν correspondent
à deux nuages disjoints de points, chaque point ayant pour masse 1, on peut trouver une fonction
continue bornée par 1 valant 1 sur les points de µ et −1 sur ceux de ν. Autrement dit,
?
kµ − νk∞ = |µ| + |ν|, (14.4)
ce qui n’encode aucune information sur les positions relatives de µ et ν. Cela vient du fait que
la norme infinie n’interdit aucunement à une fonction de sauter du coq à l’âne entre le support
de µ et celui de ν, même s’ils sont géométriquement proches. On va donc tenter d’imposer une
certaine lissité à la fonction, en rajoutant un terme régularisant.
Nous définissons par exemple :
Z
?
kµk∞,λ = sup d
f dµ, f ∈ C1 (R ), kf k∞ + λ kdf k∞ 6 1 , (14.5)
Rd
où λ est un réel strictement positif à choisir. En pratique, ce paramètre λ représente le rayon
caractéristique d’une zone autour de µ où une proximité géométrique avec ν se traduit par une
petite valeur de kµ − νk∞,λ , ce qui est souhaitable : une fonction f telle que kdf k∞ 6 1/λ – i.e.
une fonction (1/λ)-lipschitzienne – ne saurait passer de 1 à −1 entre deux points λ-proches. En
pratique, il ne faudrait donc pas choisir λ trop petit, sous peine d’isoler µ et de retomber dans le
cas de la norme infinie, mais pas trop grand non plus, pour ne pas que n’importe quelle mesure
soit proche de µ (floutage trop important).
14.2.2 Transport de masse

A la séance précédente, on avait remarqué qu’un difféomorphisme agissait sur un ensemble de
points (en lui associant l’ensemble des images des points). Ici, il faut définir une action similaire
et intuitive d’un difféomorphisme sur une mesure, puisque l’on a adopté ce formalisme. Un
difféomorphisme ϕ de Rd agit naturellement sur Ms (Rd ) : à une mesure µ on peut associer la
mesure ϕ.µ définie par : Z Z
f d(ϕ.µ) = f ◦ ϕdµ (14.6)
R+ R+
Cette action est linéaire, et si on considère un point x, on a pour toute f :
Z Z
f d(ϕ.δx ) = f ◦ ϕdδx = f ◦ ϕ(x) (14.7)
R+ R+
14.2. Transport et appariement de mesures 167
Donc :
ϕ.δx = δϕ(x) (14.8)
D’où le résultat suivant pour un nuage de points :
X X
ϕ. ai δxi = ai δϕ(xi ) (14.9)
Ainsi, l’action de ϕ transporte la masse conformément à l’intuition : la masse totale de la mesure

est conservée.
14.2.3 Normes RKHS sur les mesures

Le problème des normes introduites précedemment sur l’espace des mesures est qu’elles ne
sont pas facilement et rapidement calculables. Pour accéder aux applications pratiques, nous
allons donc, une fois de plus, avoir recours à la notion d’espace à noyaux reproduisants.
Proposition 14.1. Soit I un espace reproduisant scalaire sur Rd , i.e. un espace de Hilbert qui
?
s’injecte continûment dans C0 (Rd ). Alors Ms (Rd ) (en tant qu’espace vectoriel normé pour k.k∞ )
0
s’injecte continûment dans le dual topologique de I, noté I .
Démonstration. Soit ϕ une injection continue de I dans C0 (Rd ), il existe une constante C telle
que pour tout f ∈ I :
kϕ(f )k∞ ≤ C kf kI . (14.10)
Posons alors :
0
θ : Ms (Rd ) → RI (14.11)
µ 7→ f 7−→ Rd
ϕ(f )dµ
On a :
? ?
|θ(µ)(f )| 6 kϕ(f )k∞ kµk∞ 6 C kf kI kµk∞ (14.12)
Donc :
?
kθ(µ)kI 0 6 C kµk∞ (14.13)
Voici maintenant la formule permettant de calculer la norme d’une mesure associée à un

nuage de points (i.e une somme de Dirac) (on identifie désormais Ms (Rd ) et son plongement
dans I 0 ).
Proposition 14.2. Soit µ = i ai δxi une mesure, ai ∈ R, xi ∈ Rd . Alors :
P
2
X
kµkI 0 = ai aj kI (xi , xj ) (14.14)
i,j
Démonstration. Par bilinéarité du produit scalaire, on a :

2
X
kµkI 0 = ai aj hδxi , δxj i (14.15)
i,j
Puis, si x et y sont deux points, comme KI est une isométrie :

hδx , δy iI 0 = hKI (δx ), KI (δy )iI (14.16)
Enfin :
hKI (δx ), KI (δy )iI = δy (KI (δx )) = KI (δx )(y) = kI (x, y) (14.17)
[CT13]
Arnaud Eteve et Attardons-nous quelque peu sur cette formule, en rappelant qu’on prendra typiquement
2
Yohan Mandin kI (x, y) = exp(−(x − y) /2σI2 ). Si on a par exemple
-Huble
Aspects µ = aδx ν = bδy , (14.18)
pratiques
on aura alors :
2
kµ − νk = hµ, µi − 2hµ, νi + hν, νi
(14.19)
= a2 − 2 ab · k(x, y) + b2 ,
ce qui, dans le cas d’une mesure de comptage – où a = b = 1 – se réduit à
2
(14.20)

kµ − νk = 2 · 1 − k(x, y)
Le point clé de tout ce chapitre est alors de comprendre que la fonction “noyau” de corréla-
tion entre deux formes élémentaires (ici, des points isolés, représentés commes des diracs) permet
en fait de coder une distance, un terme d’attache aux données bien défini. Ansi, si on suppose
que y est la cible et x le point à transporter, minimiser kµ − νk reviendra simplement à tenter
de maximiser la corrélation k(x, y), en suivant le gradient ∂x k(x, y).
Il est important de noter que l’attractivité de y est en pratique limitée à la zone de l’espace
où ∂x k(x, y) est “non nul”, i.e. une boule centrée sur y de rayon ' 3 · σI . Au delà de ce rayon,
les points x et y n’interargissent plus (au sens où bouger x et y ne change rien à kµ − νk), et un
algorithme de matching utilisant cette attache aux données échouera.
14.2.4 Appariement de mesures

On conserve les mêmes notations qu’à la séance précédente en ce qui concerne les champs de
vecteurs et les difféomorphismes associés par intégration.
Définition 14.1. Le difféomorphisme optimal sur Rd pour l’appariement de µ et ν est la solution

du problème d’optimisation sur V consistant à minimiser :
2 2
J(v) = λ kvkL2 + kϕv1 µ − νkI 0 (14.21)
V
Ce problème admet une solution en toute généralité sous l’hypothèse que µ est à support
compact, qui est vérifiée car on travaille avec des sommes finies de Dirac. Ceci tient à la présence
du λ > 0. En effet, celui-ci assure que les minima de J peuvent être cherchés dans une boule pour
la norme L2V centrée en 0. Celle-ci n’est pas compacte pour la norme sur L2V (c’est un espace
de dimension infinie), mais un travail non trivial permet d’obtenir des résultats qui assurent la
présence d’un minimum – c’est une conséquence du théorème de compacité faible de Banach-
Alaoglu, un des points culminants du cours d’analyse fonctionnelle. Cette solution peut être
obtenue par un algorithme de descente de gradient qui sera explicité plus loin dans le cadre
des varifolds. Nous allons enfin énoncer un théorème justifiant notre démarche (qui consiste à
échantilloner la courbe source et la courbe cible, trouver une déformation optimale d’un nuage
de points vers l’autre, et espérer que cette déformation fonctionne encore entre les deux courbes).
Théorème 14.1. Supposons que le noyau kI vérifie kI (x, y) > 0 pour tous x, y ∈ Rd et ∂1 log(kI )
borné sur tout compact. Soient µ et ν deux mesures sur Rd à support borné, et supposons que la
solution v ∗ associée au problème d’appariement de µ vers ν est unique. Soient (µn ) et (νn ) deux
suites dans Ms (Rd ) à support uniformément borné convergeant faiblement vers µ et ν respective-
ment. Alors les champs de déformation optimaux vn∗ associés au problème d’appariement de µn
vers νn convergent presque sûrement dans L2 ([0, 1| , V ) vers v ∗ .
Figure 14.1 – Principe de l’étiquetage partiel : µi sera matché sur νi , sans information supplé-
mentaires point-à-point.
A titre d’exemple de résultats pouvant être obtenus à l’aide de ce formalisme, mentionnons

un lemme utile à la démonstration de ce théorème. Il s’agit de contrôler de manière uniforme
sur un certain ensemble de mesures leurs déformations par des champs de vecteurs bornés, sous
quelques hypothèses concernant le noyau reproduisant de I.
Lemme 14.1. Si le noyau scalaire kI est tel que kI (x, y) > 0 pour tous x, y ∈ Rd et ∂1 log(kI )
est borné sur tout compact, alors, pour tout compact K et M > 0, il existe C > 0 tel que
pour tout µ dans Ms (Rd ) de support inclus dans K et tout v ∈ L1V vérifiant kvkL1 ≤ M , alors
v
kϕv1 µkI 0 ≤ C kµkI 0 .
Autrement dit, une déformation de coût fini ne peut pas faire exploser la norme, quelque soit la
mesure prise à support dans K.
Remarque 14.1. En pratique, kI est un noyau gaussien, qui vérifie donc les hypothèses du lemme
(et du théorème), et les mesures sont à support fermé borné, donc compact – ce sont des cœurs,
des cerveaux, des poissons, pas des hyperboloïdes !
14.2.5 Étiquetage partiel

En utilisant le formalisme des mesures, on peut non seulement gérer des données où les
éléments identifiés dans l’objet sont des points isolées, mais également celles où ce sont des
groupes de points (ce qui peut avoir un intérêt pratique). Chaque groupe de point est alors
associé à une somme de masses ponctuelles, et on peut appliquer les résultats et l’algorithme
déjà obtenus.
[CT13]
Arnaud Eteve et
Yohan Mandin
-Huble
Aspects
pratiques
Figure 14.2 – Expérience d’appariement de deux paires de courbes – des cercles sur les croix.
À gauche, les deux jeux de données ; à droite, le matching obtenu.
Figure 14.3 – Matching d’une courbe et de deux points – des cercles sur les croix.
Figure 14.4 – Robustesse vis-à-vis des données non significatives (0, 20, 40 et 60 points ajoutés
aléatoirement). La régularité imposée par la norme infinitésimale sur les déformations (RKHS
gaussien de déviation σV = 0.5) permet d’encaisser un bruitage conséquent : si la déformation
est très affectée sur les coins du domaine, le matching de la courbe ne se laisse pas distraire, et
reste satisfaisant sur les quatres images.
[CT13]
Arnaud Eteve et
Yohan Mandin
-Huble
Aspects
pratiques
Figure 14.5 – Evolution de la descente de gradient : on tente de matcher un cercle sur un

“triangle”. Les points vont peu à peu interargir via l’attache aux données, conduisant ainsi le
processus de tir géodésique à déformer le cercle en un triangle approximatif. On a donc “habillé”
le triangle rouge avec le cercle bleu.
Figure 14.6 – Comparaison de plusieurs tailles de noyaux avec données bruitées. σV correspond
à la taille du noyau de déformation, σI à celui de l’attache aux données.
[CT13]
Arnaud Eteve et
Yohan Mandin
-Huble
Aspects
pratiques
Figure 14.7 – Expérience avec données bruitées, avec σV = 0.5, σI = 0.5, pour un bruit blanc
gaussien de variances du bruit 0, 0.01, 0.03, et 0.1. On le voit, choisir des valeurs importantes pour
ces deux paramètres permet de considérablement lisser le matching : en diminuant la précision
de nos attaches, on diminue aussi la sensibilité au bruit. En pratique, le choix de paramètres
appropriés aux données aura une influence considérable sur la pertinence des résultats obtenus.
14.3. Courants 175
14.3 Courants
Le transport de masse nous a permis du surmonter le problème de l’étiquetage des land-
marks. Malheureusement, pour réussir des appariements de courbes/surfaces, il reste un outil
trop élémentaire : en représentant des segments/triangles par des diracs de masse, on perd toute
information sur l’orientation. Deux bouts de courbes seront “proches” au sens des mesures s’ils
sont géométriquement voisins – à une échelle définie par le rayon σI – et qu’ils on la même
longueur, sans plus de précisions.
Pour aller plus loin, et obtenir un recalage plus fin où l’alignement des espaces tangents est
mis en avant, plusieurs formalismes ont été proposés. Dans cette section, nous présenterons le
plus ancien d’entre eux, celui des courants : on manipulera les espaces tangents aux travers de
leurs normales sortantes, traitées de manière linéaire.
14.3.1 Définitions
Définition 14.2. Une forme différentielle de degré p sur Rd est une application continue de Rd
dans l’espace des formes p-linéaires alternées sur Rd . En d’autres termes, il s’agit d’un champ
continu sur Rd de forme p-linéaires alternées – i.e. quelque chose que l’on intègre sur une p-
surface. (Par exemple, si f est une fonction numérique différentiable, alors df est une forme
différentielle de degré 1.)
Définition 14.3. L’espace des p-courants sur Rd est l’espace des formes linéaires continues sur
l’espace des formes différentielles continues de dimension p sur E qui s’annulent à l’infini.
A toute sous-variété X de E de dimension d de volume fini on peut associer un d-courant,

défini par :
Z
CX : w 7→ w
X
Cette définition est l’analogue de celle de la circulation sur une courbe, ou du flux à travers une
surface. L’exemple le plus simple de courants est celui des courants de Dirac : si x est un point
et ξ un p-uplet, on définit le courant δxξ : ω 7→ ω(x)(ξ).
La question suivante qui se pose est : : comment encoder un nuage de points en termes de
courant ? Plaçons-nous par exemple dans le cas d’un nuage de points échantillonant une surface
dans R3 : C’est la donnée d’une famille de landmarks, et d’une triangulation présetnée comme
une liste de triplets d’indices. A chaque triangle (x1 , x2 , x3 ), on associe le 2-courant de Dirac
pour x = x1 +x32 +x3 et ξ = (x2 − x1 ) ∧ (x3 − x1 ) donnée comme une normale sortante, un élément
de surface → −
n · dS. Par cette méthode, on encode à la fois la localisation, l’aire du triangle et
l’orientation de la surface. C’est la principale différence pratique entre le formalisme des
courants et celui des mesures. Et si maintenant le nuage échantillone une courbe, alors à chaque
couple (x1 , x2 ) de points successifs (la courbe est orientée), on associe le 1-courant de Dirac pour
x = x1 +x
2
2
et ξ = x2 − x1 .
Tout comme on avait associé à chaque nuage de points (et plus généralement à chaque forme)
une mesure, on leur associe maintenant un courant. On cherche alors une norme sur l’espace
des courants pour définir le terme d’attache aux données qui soit calculable et qui traduise
notre intuition géométrique : de la même manière que dans la section précédente, on plonge
continûment l’espace des courants dans le dual d’un RKHS (sous l’hypothèse que le RKHS se
plonge continûment dans l’espace des formes différentielles de degré p). On peut ainsi utiliser la
norme de Hilbert sur le dual du RKHS, qui présente l’avantage d’être explicitement calculable
[CT13]
Arnaud Eteve et dans le cas de courants associés à des nuages de points (sommes finies de courants de Dirac) :
Yohan Mandin
(14.22)

ξ1 ξ2
-Huble
δx1 , δx2 W 0 = k(x1 , x2 ) hξ1 , ξ2 i
Aspects = k(x1 , x2 )µ1 µ2 cos(θ) (14.23)
pratiques
où les ξi doivent être compris comme des normales sortantes dans le cas des surfaces, et comme
des vitesses dans le cas des courbes, où µi = kξi k la masse associée à l’élément de courbe/surface,
et où θ est l’angle entre les deux vecteurs ξi . Le formalisme des courants permet donc d’encoder
une courbe/surface comme une superposition de courants élémentaires, données d’une position et
d’un vecteur “aire · direction orientée”. La corrélation donnée par la formule ci-dessus permettra
alors de comparer ces nuages de courants, et calculer son gradient nous permettra d’obtenir des
“désirs” d’alignements pertinents.
14.3.2 Le problème de l’orientation

Les courants ne peuvent modéliser que des objets déjà orientés. Ceci pose plusieurs problèmes
en pratique : si un objet a N composantes connexes (typiquement, un cerveau), il y a 2N orien-
tations possibles, et il arrive que rien a priori ne donne de raisons d’en privilégier une. Notons
par ailleurs d’une orientation aléatoire ne donnera pas de résultats satisfaisants de matching, et
qu’il existe des courbes ou des surfaces non orientables.
Un autre problème se pose : celui de l’évanouissement de la masse du à des compensations
entre courants avec des orientations opposées dans un petit domaine de l’espace. En effet, si X est
un objet et si X ∗ représente le même ensemble avec une orientation opposée, on a CX = −CX ∗ .
De plus, dans le cas d’un noyau gaussien d’échelle σ(cas le plus courant) :
−|x−y|2
δx − δx−ξ 0 = 2 |ξ|2 (1 − e σ2 ). (14.24)
ξ
1 2 W
Cette distance s’annule lorsque la distance entre x et y est petite devant σ. Il en découle certaines
pathologies : des courbes orientées de longueur plus grande que 2 dont la norme du courant
associée est arbitrairement petite, des difficultés à matcher des structures épineuses commes les
oreilles de lapin... Ceci motive l’introduction d’un nouvel objet mathématique, modélisant des
courbes et surfaces non orientées : les varifolds.
14.4 Varifolds
Dans toute la suite E est l’espace ambiant dans lequel sont plongées nos variétés – en pratique,
on a donc E = R2 ou R3 .
14.4.1 Grassmannienne
Pour contourner le problème posé par l’orientation, on introduit un nouvel objet : les va-
rifolds, ceux ci ne prennent en compte que la direction. Précédemment on pouvait représenter
une direction par un vecteur – typiquement, la vitesse ou la normale sortante – et l’espace des
orientations était un espace vectoriel : ce n’est plus possible avec les directions simplement.
Définition 14.4 (Grassmannienne). La variété grassmannienne de dimension d dans E est
l’ensemble des sous-espaces de dimension d de E. On la note Gd (E).
On peut le voir comme l’ensemble des familles de d vecteurs libres quotienté par la relation
d’équivalence :
(x1 , . . . , xd ) ∼ (y1 , . . . , yd ) ⇐⇒ Vect(x1 , . . . , xd ) = Vect(y1 , . . . , yd ) (14.25)
14.4. Varifolds 177
Représentation En pratique, la grassmanienne peut être décrite simplement :

— Si d = 1, elle correspond au cercle/sphère unité quotienté par x ∼ −x.
— Si d = 2 en dimension 3 (codimension 1), on peut se ramener au cas précédent en repré-
sentant un plan par sa droite orthogonale.
— Dans les autres cas (jamais recontrés pour le matching de formes), il est possible de plonger
Gd (E) de manière continue dans End(E) en représentant un espace V par la projection
orthogonale sur V .
14.4.2 Mesure de Hausdorff

Soit (X, ρ) un espace métrique, δ > 0, on pose pour une partie S quelconque de X
∞
X ∞
\
Hδd (S) = inf{ (Diam Ui )d , S ⊂ Ui , Diam Ui < δ} (14.26)
i=1 i=1
Et on définit alors la mesure de Hausdorff par :
H d (S) = lim Hδd (S) (14.27)

δ→0
On vérifie alors que H d est une mesure extérieure, que sa tribu contient les boréliens. De
plus elle est bornée sur les parties compactes et est invariante par translations. Ainsi si E est
de dimension d, H d = Kλ où λ est la mesure de Lebesgue et K une constante. La mesure de
Haussdorf n’est autre que la généralisation de la d-aire aux objets non-lisses (voire fractals),
comme les collections dénombrables de segments/triangles.
14.4.3 Varifolds
Définition 14.5. Un varifold de dimension d sur E est une mesure borélienne finie sur E×Gd (E).
En particulier c’est un élément de C0 (E × Gd (E))0 , le dual topologique de C0 (E × Gd (E)).
Cette notion tirée de la théorie de la mesure géométrique semble a priori hors de propos, trop
sophistiquée pour être utilisable. On va pourtant voir qu’elle permet de représenter facilement
une surface à l’ordre 1, et qu’elle légitimera un hack bien pratique de la formule donnée équa-
tion (14.23). Étant donné X une variété de dimension d, µX est le varifold associé à X, et on le
définit par :
« µX (A) = H d (x ∈ X, (x, Tx X) ∈ A) pour tous les boréliens A ⊂ E × Gd (E) ». (14.28)

De manière équivalent, on voit cette mesure agir sur C0 (E × Gd (E)) par :
Z
∀ω ∈ C0 (E × Gd (E)), µX (ω) = ω(x, V )dµX (x, V ) (14.29)
E×Gd (E)
Dans une optique plus computationnelle, on disposera de P diracs : δ(x,V ) (ω) = ω(x, V ), et on
approchera une mesure quelconque par une somme de diracs ci δ(pi ,Vi ) :
Pour d = 1, on considère une courbe, les points sont x1 , . . . , xN et les segments (fi1 , fi2 ) :
xfi1 + xfi1
pi = (14.30)
2
Vi = (xfi1 , xfi1 ) (14.31)
ci = k−
x− −−→
fi1 xfi2 k (14.32)
[CT13]
Arnaud Eteve et Pour d = 2, on considère une surface, de sommetsx1 , . . . , xN , et de faces triangulaires données
Yohan Mandin sous forme de triplets d’indices (fi1 , fi2 , fi3 ) :
-Huble
Aspects xfi1 + xfi1 + fi3
pratiques
p i = (14.33)
3
Vi = [−
x−−−→ −−−−→
fi1 xfi2 , xfi1 xfi3 ] (14.34)
1 −−−→ −−−−→
ci = k −x 1 x 2 ∧ xfi1 xfi3 k (14.35)
2 fi fi
Avec Vi le plan engendré par les deux vecteurs.
Enfin si ϕ est un difféomorphisme et µ un varifold on définit le transport (ϕ∗ µ)(ω) = µ(ϕ∗ ω)
où ϕ∗ ω = |ϕ0 (x)|ω ◦ ϕ.
Propriété 14.1. Si X est une sous variété de dimension d et ϕ un difféomorphisme alors
ϕ∗ µX = µϕ(X) . (14.36)
Démonstration. Tout repose sur la formule de changement de variable, on écrit
ϕ∗ µX (ω) = µ(ϕ∗ ω) (14.37)

Z
= ϕ∗ ω(x, Tx X)dH d (x) (14.38)
X
Z
= ω(ϕ(x), dx ϕ(Tx X))|dx ϕ.Tx X|dH d (x) (14.39)
X
(14.40)
Comme ϕ est un difféomorphisme d’après la formule de changement de variable on a :

Z
ϕ∗ µX (ω) = ω(y, Ty ϕ(X))dH d (x) = µϕ(X) (ω) (14.41)
ϕ(X)
14.4.4 Noyaux
|x−y|2
On sait déjà construire un noyaux sur E, par exemple le noyaux gaussien : kE (x, y) = e− 2σ2
L’objectif de cette partie est double : la construction d’un noyau kV sur Gd (E) , puis la construc-
tion d’un noyau sur E × Gd (E) que l’on obtiendra en considérant le produit tensoriel des deux
noyaux sur chacun des deux membres du produits.
Construction de deux noyaux

On a vu qu’en pratique, on pouvait représenter deux éléments V et W de Gd (E) par deux
vecteurs unitaires pV et pW définis aux signes près, que l’on peut aussi représenter matriciellement
comme des projections orthogonales sur V et W , pour obtenir simplement une norme. On définit
alors simplement deux noyaux sur cet espace de directions :
kCB (V, W ) = hpV , pW ik = cos(θ)2k (14.42)

2 2
−|pV −pW | /2σ −4 sin2 (θ)/σ 2
kG (V, W ) = e = e (14.43)
14.4. Varifolds 179
Figure 14.8 – Calcul de la distance entre les deux grilles, fonction de l’angle θ de rotation de
la grille rose par rapport à la noire. Le noyau spatial est d’une taille bien supérieure à celle
des figures – i.e. floutage complet en position –, et on utilise sur les orientations un noyau de
Cauchy-Binet (rouge) et un noyau gaussien (bleu) de faible déviation angulaire. Pour θ = 0 ou
π/2, les deux grilles coïncident : il n’est donc pas étonnant que la dissimilarité la plus impor-
tante soit obtenue avec un décalage angulaire θ = π/4. Sans surprise, il apparait que le noyau
gaussien sépare beaucoup mieux les orientations que Cauchy-Binet. On peut en effet calculer
explicitement les interactions entre une croix de la grille noire et une croix de la grille rose :
k(θ, 0) + k(θ, π/2) = cos2 (t) + cos2 (π/2 − t) = 1 pour le noyau Cauchy-Binet (d’où l’indiscer-
nabilité, qui n’est qu’approchée numériquement vu que la grille n’est pas découpée de manière
régulière par le cercle) ; par contre, ce même terme d’interaction peut prendre des valeurs inté-
ressantes si k est un pic plus resseré autour de 0.
Produit tensoriel de deux noyaux

Lemme 14.2. Si A et B sont des ensembles et kA et kB sont des noyaux positifs sur A et B
alors le produit tensoriel :
kA ⊗ kB ((a, b), (a0 , b0 )) = kA (a, a0 )kB (b, b0 ) (14.44)
est un noyau positif sur A × B.

Propriété 14.2. Soit ke un noyau réel sur E, tel que ke est continu et borné, et que la fonction
ke (x, .) s’annule à l’infini. Soit kt un noyau sur Gd (E) qui est aussi continu, alors le noyau ke ⊗ kt
génère un RKHS qui s’injecte continuement dans C0 (E × Gd (E))
Notons W le Hilbert généré par les fonctions du type k((x, V ), ·), on a W ⊂ C0 ((E × Gd (E)).
Ceci implique qu’il y a une application continue C0 ((E × Gd (E))0 → W 0 , il en resulte que l’on
peut representer les sous variété X de E dans le dual par µX , et on obtient la norme suivante
pour la corrélation entre deux éléments de surface :
hδ(x1 ,V1 ) , δ(x2 ,V2 ) iW 0 = ke (x1 , x2 )kt (V1 , V2 ) (14.45)
Nous avons donc desormais une méthode simple pour construire des noyaux sur les varifolds.*
Cependant il n’est pas certain que le la norme obtenue sur W 0 soit bien séparante : cela requiert
l’injectivité de la fonction i∗ : C0 ((E × Gd (E))0 → W 0 , qyu n’est pas toujours vérifiée. Pour le
[CT13]
Arnaud Eteve et noyau de Cauchy Binet ce n’est en effet pas le cas, on l’a bien vu lorsque celle-ci ne séparait pas
Yohan Mandin les deux grilles tournées l’une par rapport a l’autre, et ce quelque soit l’angle de rotation. On
-Huble dira que i∗ est C0 universelle si elle est injective.
Aspects
pratiques
Propriété 14.3. Prenons k = ke ⊗ kt un noyau défini comme dans la proposition précédente, et
supposons que ke est C0 universel. Supposons de plus que kt est tel que kt (V, V ) > 0 pour tout
V ∈ Gd (E).
SN SM
Alors la norme induite sur les formes est séparante, au sens où, si X = i=1 Xi et Y = i=1 Yi
sont deux unions finies de sous variétés compactes de dimension d de E, on a kµX − µY k = 0 si
et seulement si X = Y .
Propriété 14.4. Si k = ke ⊗ kG et ke est C0 universel et kG est le noyau gaussien défini comme
précédemment alors k est C0 universel sur E × Gd (E).
La conclusion des deux propriétés précédentes est que si on choisit le noyaux gaussien sur
Gd (E) alors on est certain que la norme que l’on obtient est bien séparante.
14.4.5 Propriété des Varifolds

Premièrement regardons ce qui se passe lorsqu’on brouille complètement l’image, on prend
sur E le noyau gaussien avec un σ = ∞ (ou tout simplement, σ bien supérieur au diamètre de
nos formes), si bien que ke (x, y) = 1 uniformément. Si on prend X une sous variété de dimension
d alors la norme du courant associé s’exprime :
Z Z DZ Z E
kCX k2W 0 = hξ(x), ξ(y)i = ξ(x), ξ(y) (14.46)
X×X X X
,
ce qui d’après la formule de Stokes ne dépend que du bord de X. Aussi, toute information sur
l’intéreur de X est-elle perdue... ce qui n’est pas le cas pour le varifold : la norme s’exprime en
effet (on remarquera qu’elle ne dépend que du la partie sur Gd (E) ce qui est normal puisqu’on
a tué toute l’information sur la position) :
Z Z
kµX k2W 0 = kt (Tx X, Ty X)dH d (x)dH d (y) (14.47)
X×X
Cette dernière intégrale n’est à priori pas nulle même pour une variété sans bord ce qui
traduit l’idée que l’on a pas perdu toute l’information sur la structure, il reste encore l’infor-
mation concernant l’agencement des plans tangents, encodée comme une sorte de norme sur
l’histogramme des orientations.
On obtient en particulier l’inégalité suivante :
Propriété 14.5. Soit X une sous variété de E inclue dans la boule unité, on suppose les noyaux
choisis comme dans les propriétés précédentes. Alors il existe une constante K indépendante de
X telle que
kµX kW 0 ≥ KH d (X) (14.48)
C’est une très bonne nouvelle : la destruction de masse est ainsi évitée.
Étant donné un shoot sur l’espace des formes on peut se demander comment Évolue µX .
Propriété 14.6. Soit X une sous variété compacte et orientable et µX le varifold associé. Soit v un
champ de vecteur C 1 à support compact défini sur E, et considérons le groupe à une dimension
généré par le flot de v , t 7→ ϕt . Alors si Xt = ϕ(X) la variété transportée, pour toute fonction
ω, C 1 de E × Gd (E) on a
14.5. Retour au problème d’appariement 181
Z Z
d ∂ω ∂ω ∂ω ⊥
|t=0 µX (ω) = ( − divX ( ) − ωHX |v ⊥ ) + hν, ωv > + ( |v )i (14.49)
dt X ∂x ∂x ∂X ∂V
où v ⊥ et v > sont les parties tangentielle et normale de v le long de X, et ν est la normale unité
le long de ∂X.
Nous pouvons faire quelques remarque sur cette expression. Tout d’abord, les variations de
la norme du varifold ne dependent que de v et pas de sa dérivé. Ensuite il y a des termes qui
dépendent de ∂X et cela caractérise l’extension tangentielle de X (autrement dit si X est très
étiré la norme du varifold associé est assez grande). Enfin sur la partie se trouvant à l’intérieur
de X, la variation ne dépend que de v > , ce qui traduit le fait que le gradient de la distane
d’appareillement est orthogonal à X.
14.4.6 Récapitulons
On a vu comment réduire le problème de l’attache aux données à l’obtention d’une formule
simple donnant la corrélation entre deux éléments de courbe/surface élémentaires. Les trois for-
malismes développés, s’ils peuvent sembler éloignés conceptuellement, sont en fait extrêmement
proches d’un point de vue algorithmique : nous rappelons ici les principales formules obtenues
aujourd’hui, utiles en pratique.
Mesures Courants Varifolds
Repr. d’un segment [x1 → x2 ] : kx2 − x1 k δ x1 +x2 δ xx21−x1
+x2 kx 2 − x k
1 δ x1 +x2 , x2 −x1

2 2 2 kx2 −x1 k
Repr. d’un triangle [x1 , x2 , x3 ]
de normale ξ = (x2 − x1 ) ∧ (x3 − x1 ) : kξk δ x1 +x2 +x3 δ ξx1 +x2 kξk δ( x1 +x2 +x3 ,ξ/kξk)
3 2 3
Corrélation entre deux diracs : hµδx , νδy i hδxξ , δyζ i hµδ(x,u) , νδ(y,v) i
= µνkσI (x, y) = kσI (x, y)hξ, ζi = µνkσI (x, y) cos2 (θ) ou
= µνkσI (x, y) cos(θ) µνkσI (x, y) exp(−4 sin2 (θ)2 /σ 2 )
En rappelant que, pour deux formes données par des collections de segments/triangles, la
mesure/courant/varifold totale est la somme des diracs associés, avec :
2
X X X X X X X X
(14.50)

δ xi − = h
δyj δ xi , δxi i − 2h δ xi , δyj i + h δyj , δyj i
i j i i i j j j
XX XX XX
= hδxi , δxi0 i − 2 hδxi , δyj i + hδyj , δyj0 i (14.51)
i i0 i j j j0
14.5 Retour au problème d’appariement

Maintenant que nous avons bien étudié les propriétés des varifolds, et souligné les garanties
que nous offre une telle représentation, il nous faut maintenant un algorithme pour calculer la
solution du problème d’appareillement :
Étant donné deux formes : O1 et O2 repectivement la source et le but, On cherche la déforma-
tion optimale dans le groupe de difféomorphisme engendré par L2V ([0, 1]) où V est un espace de
[CT13]
Arnaud Eteve et Hilbert de champs de vecteurs sur E. Cela revient à résoudre le problème d’optimisation suivant :
Yohan Mandin
1 1
Z
γ
-Huble inf J(v) = |vt |2 dt + d(ϕv1 · O1 , O2 ) (14.52)
Aspects 2
v∈LV ([0,1]) 2 0 2
pratiques
où le premier terme est le coût de la déformation et le deuxième est l’écart restant. Ici γ est le
paramètre du barycentre de la séance précédante, (ie un γ grand forcera la solution à être proche
de O2 )
On a vu à la séance précédente que ce problème se ramenait à une optimisation sur le moment
de tir initial p0 : la seule difficulté était de trouver un gradient sur p0 , une direction de descente
qui nous permettrait de modifier ce tir de manière intelligente. En prenant d(ϕv1 .O1 , O2 ) =
2
kϕv1 .O1 − O2 k pour une des trois normes que nous avons défini aujourd’hui, nous sommes capable
de calculer rapidement le gradient en q1 = ϕv1 .O1 du terme d’attaches aux données.
Étant donné une forme q0 (un nuage de points) que l’on cherche à matcher sur une forme qe1 , on
procédera de manière itérative pour trouver un moment de tir optimal p0 , permettant d’obtenir
une déformation q1 = ϕv1 · q0 proche de qe1 . À chaque itération de l’algorithme de descente sur p0 ,
il s’agira donc de répéter les actions suivantes :
1. Étant donné p0 , tirer la géodésique qt par intégration du flot hamiltonien, partant de
(q0 , p0 ) pour arriver en (q1 , p1 ).
2
2. À l’arrivée, calculer l’opposé du gradient de l’attache aux données −∂q1 γkµq1 − µqe1 k /2
pour obtenir un désir de mouvement δq1 .
3. “Transporter en arrière” ce désir δq1 pour obtenir un pas de descente δp0 .
4. Régulariser δp0 , en lui ajoutant l’opposé du gradient du terme de longueur,
−∂p0 (p0 , Kq0 p0 )/2 = −Kq0 p0 – il s’agit d’une descente de gradient L2 .
5. Suivre le pas de descente régularisé : p0 ← p0 + δp0 .
14.5.1 Applications
|x−y|2
−
Dans la suite on prendra le noyau gaussien ke (x, y) = e σe2 sur E. On a presenté que
deux noyaux sur Gd (E) à savoir le noyau gaussien et le noyau de Cauchy-Binet, le deuxième est
nettement moins bon en terme de séparation mais il a l’avantage d’être plus rapide à calculer
(c’est juste un produit matriciel) donc facilement parallélisable et de ne pas ajouter de paramètre,
le noyau gaussien permet quand à lui de bien mieux séparer les éléments selon l’agencement des
plans tangents (ie des directions). Toutes les images qui suivent sont tirées du papier de Nicolas
Charon et d’Alain Trouvé et ont été calculées en utilisant les noyaux gaussiens sur les deux
espaces.
14.6 Conclusion
On a ainsi présenté trois manières de résoudre le problème d’appariement entre deux surfaces a
priori non étiquetées. L’appariement simple de mesure, la méthode des courants puis les varifolds,
rangés par ordre de précision, mais aussi de coût algorithmique : en pratique, il s’agira de trouver
un bon compromis entre temps de calcul et précision souhaitée. Dans tous les cas toutes ces
méthodes sont facilement parallélisables (il s’agit de simples produits matriciels . calculs de
noyaux point par points), ce qui permet de les faire tourner sur des données réelles à l’aide
de cartes graphiques – des fermes de quelques centaines/milliers de petits processeurs mis en
parallèle, qui ont permis une révolution dans les méthodes de traitement d’images ces dix dernière
années.
14.6. Conclusion 183
Figure 14.9 – On cherche à appareiller ici le cercle bleu (au centre) avec l’étoile ninja en rouge,
la version avec les courants lisse la structure complète alors que l’algorithme avec les varifolds
donne un résulat bien meilleur.
Figure 14.10 – Application au suivi de fibres – fiber tracking : grâce aux progrès effectués ces
dernières années dans le design des séquences IRM, on dispose en chaque point d’une petite
flèche (en réalité, c’est bien souvent un ellipsoide) caractérisant la diffusion de l’eau dans les
tissus observés. À partir de ces informations d’un genre nouveau, on peut typiquement repérer
des hémorragies cérébrales (importante diffusion isotrope), ou inférer le tracé des fibres neuronales
dans la matière blanche et la moelle épinière. On cherche ici à matcher l’ensemble bleu à gauche
sur l’ensemble rouge : Les flèches de l’ensemble rouge ne sont pas orientées de manière cohérente
et les courants (à gauche) ont donc beaucoup de mal à approcher correctement la structure ;
cette absence d’orientation canonique ne pose aucun problème à l’attache varifolds (à droite) :
le matching est bien plus satisfaisant, d’une fibre sur une autre.
[CT13]
Arnaud Eteve et
Yohan Mandin
-Huble
Aspects
pratiques
Figure 14.11 – On cherche à déformer la boule sur le lapin (ligne du haut, avec deux vues
différentes). Là encore, les courants (ligne du milieu) ont un effet lissant tandis que les varifolds
(ligne du bas) sont plus précis.
Chapitre 15
Construction d’Atlas, étude

statistique et aide au diagnostic Bonus
[CCT14]
Eva Philippe
et Robin Lemaire
15.1 Introduction Applications
réelles
Dans le domaine médical, on a souvent besoin d’étudier un paramètre, tout en s’affranchissant
de la variabilité géométrique entre deux sujets. Par exemple, dans une rétine la présence d’un
glaucome se traduit par une élévation de la pression au niveau du nerf optique. Pour comparer
deux relevés d’épaisseur de la rétine, on veut pouvoir passer outre les différences physiologiques
intrinsèques des individus.
L’étude des espaces de formes réalisées dans les chapitres précédents nous fournit de bons
outils pour matcher une forme en une autre. On va donc s’intéresser maintenant au transport
d’un signal numérique sur ces formes.
15.2 Ajout d’un terme fonctionnel

Dans les chapitres précédents, on a vu comment définir un espace de formes géométriques,
lui donner une métrique ou y définir des varifolds. On s’intéresse maintenant au cas où en plus
de notre forme géométrique X, on a un champ scalaire sur cette forme f : X → R. On va donc
définir un espace F de formes fonctionnelles (fshapes) (X, f ), qui soit correctement structuré,
ainsi qu’ une distance qui prenne en compte la composante géométrique et la composante fonc-
tionnelle, qui assureront l’existence de géodésiques entre deux formes fonctionnelles quelconques
de F. Néanmoins F est un espace de formes fonctionnelles idéales qui ne peut pas contenir des
formes fonctionnelles trop bruitées observées en réalité. Pour prendre en compte plus de formes
fonctionnelles, on étendra la notion de varifolds étudiée la semaine dernière avec des varifolds
fonctionnels (fvarifolds).
15.2.1 Définition des fshapes

Soit E l’espace vectoriel de dimension finie dans lequel sont plongées nos formes.
On a vu à la séance 9 comment construire un espace de difféomorphismes en intégrant des
équations de flot sur des espaces à noyau reproduisant (RKHS) : soit donc V un RKHS de champs
de vecteurs sur E (V est donc plongé continûment dans C01 (E, E) l’espace des fonctions continû-
185
Bonus 186 Chapitre 15. Construction d’Atlas, étude statistique et aide au diagnostic
[CCT14]
Eva Philippe
et Robin Lemaire
Applications
réelles
(a) Au départ, q0 . (b) q1/7 . (c) q2/7 . (d) q3/7 .
(e) Au départ, q4/7 . (f) q5/7 . (g) q6/7 . (h) À l’arrivée, q1 .
Figure 15.1 – Exemple de métamorphose entre deux visages, tirée du clip Matilda du groupe
Alt-J (∆). Observez comme des features géométriques (forme des oreille, coiffure) sont continû-
ment déformées, tandis que des informations fonctionnelles (lunettes, foulard) sont obtenues par
modification de l’image, via un simple fondu. Un matching “par métamorphose” permet donc de
distinguer ces deux informations et, in fine, de comparer des images définies sur des supports
géométriques différents. Notez que ce morphing n’est pas parfait (je ne sais pas comment il a été
obtenu, probablement par un étiquetage automatique ou manuel des points saillants du visage +
déformations localement affines) : le changement de nez est ici compris comme une information
fonctionnelle, alors que nous voudrions l’inclure dans la partie géométrique.
(a) Au départ, q0 . (b) q1/3 . (c) Au départ, q2/3 . (d) À l’arrivée, q1 .
Figure 15.2 – Exemple de transformation d’une fshape le long d’un tir géodésique.
15.2. Ajout d’un terme fonctionnel 187
(a) Obtention de nos données : plutôt que de travail avec un mille-feuille de couches
rapprochées, on préfèrera assimiler nos rétines à des feuillets simples, sur lesquels
un signal donne l’épaisseur en microns.
(b) Illustration de l’idée principale de ce chapitre : la construction d’atlas.
(c) Sur la première ligne, quatre données typiques. Sur la seconde, les
modèles obtenus par shooting, caractérisés dans la carte exponentielle
par les moments de tir initiaux. Notez comme les zones de répartition de
l’épaisseur dans le “carré” dépendent du cadrage et de la vascularisation
sous-jacente, propre à chaque individu.
Figure 15.3 – Notre jeu de donnée “cas d’école” : scan de rétines optenus par tomographie à
cohérence optique. L’objectif est d’arriver à une détection automatique du glaucome (une patho-
logie dûe à une surpression intra-oculaire, caractérisée par la dégénerescence de la rétine autour
du point de branchement du nerf optique selon des patterns qui correspondent typiquement à la
vascularisation sous-jacente, variable selon les individus). Ces images sont tirées de l’article d’ap-
plication des idées exposées ici, Atlas-based Shape Analysis and Classi cation of Retinal Optical
Coherence Tomography Images using the Functional Shape (fshape) Framework, par Sieun Lee,
Nicolas Charon, Benjamin Charlier, Karteek Popuri, Evgeniy Lebed, Marinko V. Sarunic, Alain
Trouvé et Mirza Faisal Beg
.
[CCT14]
Eva Philippe ment différentiables de E dans E qui s’annulent à l’infini) et G le groupe des difféomorphismes
et Robin Lemaire associé obtenu en intégrant les champs de vecteurs dans L2 ([0, 1], V ).
Applications Soit χ0 l’espace homogène engendré par un sous-ensemble X0 compact et de volume d-
réelles dimensionnel fini de E (i.e χ0 = {ϕ(X0 )|ϕ ∈ G}.
On note L2 (X) l’espace des fonctions de carré intégrable sur X pour la mesure de Hausdorff
en dimension d, i.e
n Z o
2
L (X) = f : X → R f 2 (x)dHd (x) < +∞ . (15.1)

X
Définition 15.1. On définit alors l’espace des fshapes :
F = {(X, f )|X ∈ χ0 , f ∈ L2 (X)} (15.2)
15.2.2 Distance de métamorphose

Pour une déformation uniquement géométrique ϕ ∈ G, un transport naturel d’une fshape
(X, f ) serait ϕ.(X, f ) = (ϕ(X), f ◦ ϕ−1 ). Néanmoins, cela ne prend pas en compte la variation
du signal elle-même. Nous allons voir comment considérer des transformations qui agissent si-
multanément sur la composante géométrique et la composante fonctionnelle, ce qui permettra
de définir une distance sur F.
Soit (X, f ) ∈ F et (v, h) ∈ L2 ([0, 1], V × L2 (X)) des vitesses instantanées (pour t ∈ [0, 1], vt
est donc un champ de vecteurs de V et ht est une fonction sur X de carré intégrable). On peut
alors définir un chemin
(ϕv , ζ h ) : t ∈ [0, 1] 7→ (ϕvt , ζth ), (15.3)
où ϕvt est le difféomorphisme obtenu en intégrant l’équation de flot de v à partir de l’identité

Rt
(pour tout x ∈ Rd , ϕv0 (x) = (x) et ϕ̇vt (x) = vt (ϕvt (x))) et t 7→ ζth = 0 hs ds est le chemin de
L2 (X) de vitesse instantanée donnée par h.
Puis on peut définir t 7→ (Xt , ft ) un chemin sur F par :
(Xt , ft ) = (ϕvt .X, (f + ζth ) ◦ (ϕvt )−1 ). (15.4)
On note (ϕv1 , ζ1h ) l’extrémité finale de ce chemin.

On associe à un tel chemin un coût :
Z 1
γf 1
Z Z
γV
EX (v, h) = kvt k2V + |ht |2 (x)|dx ϕvt |T xX |dHd (x) (15.5)
2 0 2 0 X
où |dx ϕvt |Tx X | est le Jacobien au point x de ϕvt restreint à Tx X l’espace tangent à X en x et
γV ,γf sont deux paramètres strictement positifs que l’on peut ajuster pour donner plus de poids
à la variation géométrique ou à la variation fonctionnelle.
La présence de ce Jacobien est une conséquence de la formule de changement de variables et
s’explique par le fait qu’on comptabilise plus ou moins les variations du signal selon "l’aire" (qui
varie) de la région concernée.
Définition 15.2. On peut maintenant définir pour (X, f ), (X 0 , f 0 )dans F :
21
dF ((X, f ), (X 0 , f 0 )) = inf{EX (v, h)|X 0 = ϕv1 .X, f 0 = (f + ζ1h ) ◦ (ϕv1 )−1 } . (15.6)
Théorème 15.1. La fonction dF définit une distance sur F.

15.2. Ajout d’un terme fonctionnel 189
Démonstration. dF est bien définie et est finie car F a été bien défini.
La symétrie vient du fait qu’on peut inverser le sens de parcours des chemins.
L’inégalité triangulaire est obtenue par concaténation de chemins.
On vérifie aussi que si dF ((X, f ), (X 0 , f 0 )) = 0, alors X = X 0 et f = f 0 .
15.2.3 Existence de géodésiques

Maintenant que le cadre a été bien posé, on a un théorème d’existence d’une géodésique
minimisante entre deux fshapes quelconques de F :
Théorème 15.2. Pour (X, f ) et (X 0 , f 0 ) dans F, il existe (v, h) ∈ L2 ([0, 1], V × L2 (X)) tel que
1
EX (v, h) 2 = dF ((X, f ), (X 0 , f 0 )). (15.7)
En particulier, le chemin
Z t
t 7→ (Xt , ft ) = (ϕvt .X, (f + hs ds) ◦ (ϕvt )−1 ), (15.8)
0
peut être considéré comme une géodésique minimisante entre (X, f ) et (X 0 , f 0 ).
15.2.4 Modèle tangentiel

La distance de métamorphose définie précédemment, qui calcule l’évolution fonctionnelle
t 7→ ζt selon une métrique L2 (Xt ) qui dépend du temps :
Z 1 Z Z 1 Z
|ζ̇t (x)|2 |dx ϕvt |Tx X |dHd (x)dt = |ζ̇t ◦ (ϕvt )−1 |2 (y)dHd (y)dt, (15.9)
0 X 0 Xt
pose le problème suivant : si on ne pénalise pas du tout la variation géométrique et qu’on pénalise
la variation du signal selon "le volume" (ce qui correspond à la multiplication par le Jacobien),
une manière de minimiser le coût pourrait être de compresser la forme géométrique, faire varier
le signal à moindres frais sur un petit volume puis redilater.
Pour éviter cette solution peu satisfaisante, on peut geler la métrique à sa valeur initiale sur
X0 = X et négliger la variation de la mesure.
On obtient alors le coût suivant :
Z 1Z
|ζ˙t ◦ (ϕvt )−1 |2 (y)dHd (y)dt, (15.10)
0 X
soit après application du théorème de Fubini :

Z Z 1
|ζ˙t (x)|2 dHd (x)dt. (15.11)
X 0
Or, à x ∈ X fixé et étant données les extrémités ζ0 = 0 et ζ1 , le plus court chemin est la
droite t 7→ tζ1 (x). On obtient donc le coût habituel sur L2 (X) :
Z
2
|ζ1 |X = |ζ1 (x)|2 dHd (x). (15.12)
X
[CCT14]
Eva Philippe Avec ce nouveau coût on peut à nouveau définir une application d˜F sur F :
et Robin Lemaire Z 1 21
Applications
γV γf 2
d˜F ((X, f ), (X 0 , f 0 )) = inf{ |vt |2V dt + |ζ|X |X 0 = ϕv1 .X, f 0 = (f + ζ) ◦ (ϕv1 )−1 }
réelles 2 0 2
(15.13)
d˜F n’est plus une distance mais on a quand-même un résultat d’existence d’un chemin optimal
pour matcher deux fshapes quelconques.
La méthode tangentielle est également plus rapide à calculer mais présente l’inconvénient qu’il
faut "se souvenir de la paramétrisation au temps initiale" à chaque instant de la métamorphose
pour la pénaliser de manière adéquate.
15.2.5 Fvarifolds (varifolds fonctionnels)

Jusque-là on a considéré des comparaisons de fshapes qui appartiennent à un même espace
F, mais cette hypothèse est trop forte pour les données concrètes qu’on voudra comparer dans
des situations pratiques (elle impose par exemple que les supports géométriques puissent être
matchés par une déformation appartenant au groupe G). Pour résoudre ce problème, on va
procéder comme lors des séances précédents : réaliser un matching imparfait et introduire une
mesure de dissimilarité entre la fshape obtenue et celle désirée grâce au terme d’attache aux
données. On peut adapter l’approche des varifolds présentée lors de la séance 10 pour prendre
en compte la composante fonctionnelle.
Comme précédemment, on considère E l’espace vectoriel de dimension n où sont plongées les
supports géométriques des fshapes, et comme la semaine dernière, Gd (E) est la Grassmanienne
de E : la variété de tous les sous-espaces de dimension d de E.
Définition 15.3. On dit que µ est un varifold fonctionnel (ou fvarifold ) de dimension d si
µ est une mesure borélienne finie sur l’espace E × Gd (E) × R, ou de manière équivalente :
µ ∈ C0 (E × Gd (E) × R)0 .
La corrélation entre deux fshapes (par exemple des triangles colorés) δ(x,V,c) et δ(x0 ,V 0 ,c0 ) (où
x code la position, V l’orientation (la normale pour un triangle) et c le signal) est alors donnée
par une formule à noyau :
hδ(x,V,c) , δ(x0 ,V 0 ,c0 ) i = ke (x, x0 )kt (V, V 0 )kf (c, c0 ) (15.14)
pour des diracs, où ke est un noyau positif sur E continu, borné et tel que ke (x, ·) s’annule
à l’infini pour tout x, kt est un noyau continu sur la variété Gd (E) et ff est un noyau sur R
continu, borné et tel que kf (c, ·) s’annule à l’infini pour tout c.
De la même manière que les métriques à noyaux poussent les points à s’aligner, on pousse ici
les signaux à s’ajuster.
15.3 Etude de population avec moyenne à estimer

Lors d’une expérience réelle, on obtient un jeu de données éventuellement bruitées et pour
pouvoir réaliser les appariements, on cherche à définir un modèle moyen (template) (X, f ) qui
va permettre les comparaisons de fshapes. On s’intéresse dans cette partie à l’optimisation d’un
tel template. En formalisant l’estimation d’atlas comme un problème variationnel, on obtient
des résultats d’existence. Les deux parties suivantes seront consacrées à deux algorithmes qui
permettent le calcul effectif d’un template.
15.3. Etude de population avec moyenne à estimer 191
On approximera dans cette section une forme fonctionnelle (Xc , fc ) par un ensemble discret
de points x reliés, associé à la fonction restreinte à cet ensemble de points. On obtient ainsi un
polyèdre fonctionnel (X, f ), qui est la seule approximation discrète raisonnable, bien qu’on ne
discutera pas de la convergence de ce modèle. On approximera de même la mesure µX,f par la
somme de Diracs µx,y .
Comme on souhaite minimiser la fonctionnelle du coût, les trajectoires de la déformation sont
des géodésiques. Ainsi nous avons vu que les géodésiques sont déterminées de manière unique
par le vecteur vitesse initiale. (Nous sommes ici en présence d’un vecteur de dimension dP où d
est la dimension de l’espace et P le nombres de points de notre approximation.)
Il suffit alors de minimiser la fonctionnelle
Z 1 Z 1
γV γf
|vt |2V dt + (D(xt )ht |ht )dt (15.15)
2 0 2 0
Avec (x0 , f0 ) et (x1 , f1 ) fixés et

(
ẋt = vt .xt
(15.16)
ḟt = ht
en notant v.x = (v(xk ))1≤k≤P .
Ainsi en introduisant les quantités de mouvements et hamiltonien, on obtient
geo

 ẋ = ∂p Hr (x, p)

ṗ = −∂x Hrgeo (x, p) (15.17)

ft = f + tζ

Une fois ces bases de modèle posées, tentons de voir comment obtenir notre template moyen.
15.3.1 Hypertemplate
Le premier algorithme présenté part d’un hypertemplate, que l’on déformera afin d’obtenir
un template moyen entre les observations.
La méthode est telle que présentée dans la figure :
L’algorithme prend en entrée N observations (xi , f i ), un hypertemplate (x0 , f0 ) où f0 = 0, les
quantités de mouvements p0 et les p1 , . . . , pN ainsi que les fonctionnelles f et ζ 1 , . . . , ζ N .
On écrit d’abord un algorithme calculant l’énergie Jtan 0 .
N
γV0 p0 2 γf0 X γV 0 γf γW
Jtan i i
0 (p0 , f , (p , f )1≤i≤N ) = |v |V0 + |f |2x + ( |v p |2V0 + |ζ i |2x + g((x̃i , f̃ i ), xi , f i ))
2 2 i=1
2 2 2
(15.18)
Où g calcule le terme d’attache aux données pour aller du template moyen en cours de
construction vers les observations.
L’algorithme calcule x en intégrant la quantité de mouvement initiale p0 , puis les (x̃i , f̃ i en
intégrant les pi et par f̃ i = f + ζ i .
i
On ajoute ensuite les coûts |v p |2V et |v p0 |2V0 et les coûts |ζ i |2x et |f |2x .
On écrit ensuite un algorithme calculant le gradient de cette énergie en calculant simplement
le f gradient de chaque terme en chaque variable.
L’algorithme final optimisera des déformations de notre hypertemplate pour se rapprocher
au plus d’un template moyen entre les observations. Nous le verrons après la deuxième méthode.
[CCT14]
Eva Philippe
et Robin Lemaire
Applications
réelles
Figure 15.4 – Méthode de l’hypertemplate
Figure 15.5 – Méthode de la moyenne libre
La sortie est alors une estimation du template moyen, les moments p1 , . . . , pN et les fonc-
tionnelles résiduelles ζ 1 , . . . , ζ N .
Cet algorithme pose le problème du choix de l’hypertemplate. En effet il faut utiliser une forme
topologiquement proche des observations, sous peine de se retrouver avec quelque chose d’absurde
et très loin des observations. Néanmoins il n’est pas conseillé d’utiliser une des observations
sous peine de biaiser l’atlas, le template "moyen" que l’on obtient étant plus proche d’une des
observations, choisie arbitrairement.
15.3. Etude de population avec moyenne à estimer 193
15.3.2 Forme moyenne "libre"

La deuxième méthode proposée est proche de la première, mais au lieu d’avoir un hyper-
template que l’on déforme, nous allons mettre à jour le template moyen lors de la descente de
gradient. A chaque pas, le template moyen se modifiera un peu.
Cette méthode a le mérite d’avoir moins de contraintes sur l’évolution du template que la
première, en effet il est "libre" de se déplacer lors du processus d’optimisation. Cela lui permet
probablement d’être moins dépendant aux conditions initiales.
Néanmoins, si l’on peut montrer la correction de la méthode précédente, celle-ci n’a pas les
mêmes garanties théoriques.
Elle prend les mêmes entrées que la première méthode, moins la quantité de mouvement p0 ,
et telle que le template initial est (xinit , finit ) où finit n’est pas forcément identiquement nulle.
L’énergie pour cette méthode est la même que celle de la méthode précédente, moins le terme
dû au passage de l’hypertemplate au template moyen estimé temporaire. On la calcule de la
même manière, ainsi que son gradient.
Cette deuxième méthode renvoie les mêmes sorties que la première, à savoir une estimation
du template moyen, les moments p1 , . . . , pN et les fonctionnelles résiduelles ζ 1 , . . . , ζ N .
15.3.3 Optimisation
L’algorithme d’optimisation est une descente de gradient dite adaptative. En effet, les va-
riables sont nombreuses et de types différents : ce sont les f , p, f i , pi . Ces variables vivant dans
des espaces différents, ça n’aurait que peu de sens de les incrémenter de la même manière. On uti-
lise donc quatre tailles de pas différentes. L’algorithme consiste à voir les quantités de mouvement
comme des désirs d’avancer. Ici, on utilise seulement le gradient de l’énergie, laquelle pénalise
les écarts quadratiques aux observations (ceux-ci incluant les coûts de déformation et les coûts
d’attache aux données). Quand on l’implémente, on peut de plus ajouter un coefficient sur ses
deux composantes (fonctionnelle et géométrique) afin d’accorder plus ou moins d’importance à
chacune, selon le travail que l’on veut effectuer avec.
On remarquera avec profit qu’appliquer cet algorithme plusieurs fois avec des noyaux de plus
en plus fins permet d’améliorer la pertinence du template obtenu, si l’on applique à chaque
itération l’algorithme en le template d’arrivée.
Dans tous les cas l’algorithme se fait ainsi :
1. Entrées : La fonctionnelle J, énergie initiale, et son gradient initial ∇J = (∇ui J)K i=1 .
Les variables f init , pinit , fiinit , pinit
i et les tailles de pas (δ init init init init
f , δp , δfi , δpi )
2. Début
3. Initialisation : On initialise les f , p, fi , pi et (δf , δp , δfi , δpi ), et breakLoop à False
4. Tant que "Nombre d’itérations inférieur au nombre maximal d’itérations"
. et "les pas ne sont pas trop petits" et "la descente n’est pas trop petite" :
5. . Calculer J actuel ← J et son gradient ∇u J actuel ← ∇J. Où u est f , p, fi ou pi .
6. . Mettre à jour toutes les variables unew
i ← u + δu ∇u J actuel et calculer J new .
7. . Adapter les pas
8. . Tant que "breakLoop = False" et "les pas ne sont pas trop petits" :
9. . Calculer l’énergie en mettant à jour chaque variable séparément :
. (Jˆinew ) et la calculer en mettant les variables à jour en même temps : Jˆnew
10. . Garder la meilleure configuration (pour minimiser l’énergie) :
. on obtient des f ∗ , p∗ , fi∗ , p∗i et (δf∗ , δp∗ , δf∗i , δp∗ i ).
[CCT14]
Eva Philippe 11. . Si J(f ∗ , p∗ , fi∗ , p∗i ) < J actuel

et Robin Lemaire 12. . Alors
Applications
réelles 13. . Mettre à jour les u ← u∗ et δu ← δu∗
14. . breakLoop ← True
15. . Sinon
16. . Diminuer les tailles de pas
17. . Fin Si
18. . Fin Tant que
19. Fin Tant que
20. Fin
21. Sortie : Les variables f , p, fi , pi
15.3.4 Pourquoi deux algorithmes ?

La différence entre les deux algorithmes est que la méthode utilisant l’hypertemplate impose
des contraintes au template moyen calculé. Il reste relié à l’hypertemplate par un difféomor-
phisme, qui l’empêche de partir à l’infini. Ainsi la méthode est bien fondée mathématiquement,
car les templates provisoires obtenus à chaque itération vont converger. Néanmoins elle implique
d’être un peu attachée à l’initialisation.
En ce qui concerne le template "libre", aucune contrainte ne nous permet d’affirmer que les
templates obtenus à chaque itération vont converger (souvenons nous qu’en dimension infinie,
une boule n’est pas compacte). Même si en pratique cet algorithme tourne bien et plus vite que
le premier, il peut créer des problèmes, notamment en bordure de forme comme nous le verrons.
Sa limitation principale vient du fait qu’il tente de répondre à une question mal posée, car il
cherchera une "vraie" forme moyenne entre les différentes observations, alors que rien n’indique
qu’elle existe. De son côté, le premier algorithme restreindra sa recherche aux formes qui sont en
un sens proches de l’hypertemplate, ce qui assure l’existence de l’optimum.
15.4 Limitations et contraintes d’implémentation

15.4.1 Perte de masse
Le fait d’avoir ici des formes fonctionnelles, et la norme associée, induit des problèmes lors-
qu’on veut matcher des formes de tailles différentes. En effet nous nous intéressons au produit
scalaire de diracs, or nous avons
|hδx1 ,V1 ,f1 , δx2 ,V2 ,f2 iW 0 | ≤ |ke (·, ·)|∞ |kt (·, ·)|∞ kf (f1 , f2 ) (15.19)
Ainsi comme kf (f1 , ·) est continue et tend vers 0 en l’infini, on obtient que ce produit scalaire
peut être arbitrairement petit si l’on choisit une fonction variant beaucoup. Cela entraîne des
comportements problématiques quand on laisse une grande liberté à l’algorithme pour changer
le signal (paramètre γf ).
Par exemple, si l’on souhaite envoyer un grand carré de signal uniforme 0 sur un petit carré
de signal uniforme 1
Si l’on laisse une liberté totale à l’algorithme (γf = 0), il créera des oscillations déraisonnables
de f dans le complémentaire du but, ce qui l’annule artificiellement d’après lui. En augmentant un
peu γf , les oscillations sont plus faibles, mais le signal du but est moins précis et un peu plus faible.
15.4. Limitations et contraintes d’implémentation 195
(a) La source (1600 points) (b) Le but (400 points) (c) Source et but superposés
Figure 15.6 – Nous allons tenter d’envoyer le grand carré sur le petit, en refusant toute trans-
formation géométrique.
15 4
0.4
1
1
−4
−15
(a) γf = 0 (b) γf = 4 (c) γf = 20
Figure 15.7 – On obtient en sortie de descente de gradient ces formes pour différentes valeurs
de γf .
[CCT14]
Eva Philippe Enfin si l’on augmente encore γf , les oscillations disparaissent presque, et le complémentaire du
et Robin Lemaire but garde un signal faible, mais le signal du but est d’intensité faible (ici environ 0.25 et non
Applications plus 1)
réelles Une solution envisageable serait de régulariser le gradient de J par rapport à f , de manière
analogue à ce que nous ferons au paragraphe suivant, avec la partie géométrique de l’énergie.
15.4.2 Problèmes de bordures

Lorsqu’on laisse le template moyen se déplacer librement lors de sa création, on observe
expérimentalement des problèmes d’ordre topologique (le signal n’a ici pas d’influence) lorsqu’on
manipule des formes possédant des bordures.
Dans notre approximation discrète, nous avons un polyèdre formant un réseau entre les points.
On peut donc définir un point qui serait sur un bord comme suit :
Le problème est que si l’on regarde les désirs de se déplacer de chaque point, les points
intérieurs de la forme étudiée n’ont que peu de désirs. Alors le gradient de l’énergie n’est important
que proche des bords, où il explose.
Par exemple on souhaite matcher les formes ci-dessous :
Alors l’algorithme proposé donne cette descente de gradient :
Une solution proposée est de définir un nouveau gradient grâce à une nouvelle métrique,
obtenue grâce à un noyau gaussien Kreg . On note Kx,x reg
= (Kreg (xk , xk ))1≤k,k0 ≤P et on pose
˜ x Jgeo (x) = Kx,x

∇ reg
∇x Jgeo (x) (15.20)
Ce nouveau gradient est alors plus régulier, ce qui donne une descente de gradient plus
progressive et de meilleure facture.
15.4.3 Problèmes dûs aux observations

Cette technique permet notamment de repérer des anomalies dans des organes humains en
établissant un organe "moyen", qui servira d’étalon pour discriminer les organes sains de ceux
présentant une anomalie. Néanmoins on ne peut pas rentrer un organe dans l’algorithme, et les
images réalisées à partir des organes (observations) peuvent présenter des divergences dues au
praticien ou au hasard. Dans le cas des images de rétines, le cadrage, la taille du modèle, etc.
peuvent varier d’une observation à l’autre. Malheureusement ce modèle ne prend pas en compte
de telles différences dans les observations, ce qui fausse invariablement les résultats.
Cette technique permet notamment de repérer des anomalies dans des organes humains en
établissant un organe "moyen", qui servira d’étalon pour discriminer les organes sains de ceux
présentant une anomalie. Néanmoins on ne peut pas rentrer un organe dans l’algorithme, et les
images réalisées à partir des organes (observations) peuvent présenter des divergences dues au
praticien ou au hasard. Dans le cas des images de rétines, le cadrage, la taille du modèle, etc.
peuvent varier d’une observation à l’autre. Malheureusement ce modèle ne prend pas en compte
de telles différences dans les observations, ce qui fausse invariablement les résultats.
15.5 Conclusion
Ainsi, on a des outils très bien théorisés permettant de construire un template moyen à partir
de ces observations ainsi que des cartes renvoyant à ces observations. On peut donc effectivement
comparer des signaux sur des formes (par exemples des rétines) en s’affranchissant de la variabilité
géométrique entre individus. La méthode développée est assez coûteuse en calcul mais elle est plus
15.5. Conclusion 197
(a) Initialisation (b) But
Figure 15.8 – On prend ici une forme ressemblant à celle d’une coupe de rétine.
10
(a) Les flèches représentent le gradient à l’ini- (b) Après quelques pas de descente de gradient,
tialisation, la couleur représente la norme du on obtient ceci.
gradient avec une échelle logarithmique.
Figure 15.9 – Descente de gradient sur l’énergie par la méthode du template moyen libre.
0.6
0.5
0.4
0.3
0.2
0.1
(a) Les flèches représentent le nouveau gradient (b) Après quelques pas de descente de gradient,
à l’initialisation, la couleur représente la norme on obtient cette forme.
du gradient avec une échelle logarithmique.
Figure 15.10 – Descente de gradient régularisée.

[CCT14]
Eva Philippe
et Robin Lemaire
Applications
réelles
Figure 15.11 – Ces deux observations diffèrent en leur géométrie (taille et position du trou
central, qui dénote le nerf optique). Pourtant le cadrage différent sera considéré comme étant
une différence de forme.
efficace que mettre à la main des étiquettes sur les points pertinents pour réaliser un matching
car elle prend en compte l’information globale (sur un cerveau par exemple, on ne peut pas
reconnaître localement les régions à matcher). De plus, la construction d’atlas donne également
de l’information pertinente. Néanmoins, on ne réussit pas à s’affranchir des biais dûs aux manières
différentes dont les données ont été collectées.
Troisième partie
Critiques et perspectives
199
Chapitre 16
Conséquences pratiques du choix

des métriques à noyaux Séance 12
[MMM12]
Manolis Perrot
16.1 Introduction.
Il est nécessaire de pouvoir comparer deux formes, dans le domaine médical, afin de détecter
des pathologies par exemple. Pour ce faire, on considère nos formes comme des nuages de points,
puis on définit une distance entre les deux formes comme le coût de la déformation minimale
de l’une sur l’autre. On travaille donc avec des méthodes à noyau pour l’appariement de nuages
de points (chapitre 9), mais en imposant que l’appariement soit exact. Dans ce chapitre, nous
allons montrer comment calculer numériquement cette déformation minimale, qui revient à un
calcul de géodésiques, puis nous verrons différents comportements des géodésiques en lien avec
la courbure de cet espace de formes, lesquels peuvent biaiser l’interprétation des données.
16.2 Le modèle de déformation et son exploitation.

16.2.1 Notations et rappels.
Nous allons regarder nos formes comme des ensembles landmarks, i.e. des éléments de
LN (RD ) = {x1 , ..., xN : xa ∈ RD }. Soit V un RKHS de champs de vecteurs (applications de
RD dans RD ), de produit scalaire h., .i, et de noyau scalaire k(x, y) x, y ∈ RD .
Remarque 16.1. En toute rigueur, k doit être une application à valeurs dans RD , mais comme
on le prendra de la forme f (x, y)ID , on se restreint directement à un noyau scalaire. Prendre un
noyau de cette forme signifie qu’il n’y a pas de direction de déformation privilégiée.
Typiquement, on aura k(x, y) = γ(kx − yk) (γ noyau de Gauss, Bessel, Cauchy...), donc on
notera souvent k(x − y). On note également l’ensemble des courbes de landmarks
Q := {t → q(t) = (q 1 (t), ..., q N (t))} = C 1 ([0, 1], LN (RD )). (16.1)
Pour v ∈ L2 ([0, 1], V ), le système dynamique :

(
ż = vt (z)
(16.2)
z(0) = x
201
Séance 12 202 Chapitre 16. Conséquences pratiques du choix des métriques à noyaux
[MMM12]
Manolis Perrot admet une unique solution du type ψ(t, x). Si on regarde tous les points obtenus au temps 1, v
induit alors un difféomorphisme ϕv de RD , défini par :
ϕv (x) = ψ(1, x). (16.3)
Ceci nous permet de définir une distance entre deux ensembles de landmarks X = (x1 , ..., xN )
et Y = (y 1 , ..., y N ) comme :
Z 1
d(X, Y ) = inf E[v] = kv(t, .)kV dt : v ∈ L2 ([0, 1], V ), ∀a ϕv (xa ) = y a . (16.4)
0
Remarque 16.2. Il n’y a pas de terme d’attache aux données dans cette énergie, contrairement à
ce qui a été vu dans les chapitres antérieurs. Cela indique que pour notre modèle, on considère
un appariement exact. Ainsi, ϕv est un difféomorphisme de RD , donc son injectivité implique
qu’il ne peut y avoir de collision dans les trajectoires des points (car dans ce cas les trajectoires
seraient confondues), et aussi que tous les landmarks sont distincts à tout temps.
Si on fixe un chemin q ∈ Q, et qu’on se place à t, cela défini N couples
q 1 (t), q̇ 1 (t) , ..., q N (t), q̇ N (t) que l’on peut interpoler, d’après un théorème vu au chapitre
9, par vt∗ ∈ V , de norme minimale. En regardant ce minimiseur pour tout t, on a donc construit
R1
un unique v ∗ ∈ L2 ([0, 1], V ) vérifiant q̇(t) = vt (q(t)) et tel que 0 kv(t, .)k2 dt soit minimale,
donné par :
N
X
v ∗ (t, x) := pa (t)k(x − q a (t)), (16.5)
a=1
où les moments pa sont donnés par

N h
X i−1
pa (t) = K q(t) q̇ b (t) (16.6)
ab
b=1
avec K q(t) = k(q a (t) − q b (t)) a,b=1,...,N .

Ainsi on peut poser Ẽ[q] := E[v[q] ∗

]. Nous allons maintenant calculer explicitement cette
énergie en fonction de k et de q. La définition (16.5) de v ∗ donne :
X
kv ∗ k2V = hk(q a , .)pa , k(q b , .)pb iV , (16.7)
a,b
or la définition d’un noyau reproduisant (scalaire) donne que
∀v ∈ V ∀x, p ∈ RD hp.k(x, .), v(.)iV = hp, v(x)iRD (16.8)
d’où X
kv ∗ k2V = k(q a , q b )hpa , pb iRD , (16.9)
a,b
ce qui s’écrit :
kv ∗ k2V = hp, Kq piRN D , (16.10)
si on note  
p1
p =  ...  ∈ (RN )D (16.11)
 
pN
16.2. Le modèle de déformation et son exploitation. 203
et
 
Kq (0)
Kq =  .. (16.12)
.
 

(0) Kq
Kq la matrice N D × N D bloc diagonale, dont les blocs diagonaux sont Kq . Enfin, il suffit de
remarquer que (16.6) se réécrit :
p = Kq −1 q̇, (16.13)
ce qui donne finalement :

kv ∗ k2V = hq̇, gq q̇iRN D (16.14)
où gq = K−1q est la métrique associée à la cométrique Kq . E est donc une énergie riemannienne,
−1
qui est minimale si q est une géodésique reliant I à I . Trouver cette géodésique revient à résoudre
0
le système hamiltonien :
( PN
q̇ a = b=1 k(q a − q b )pb
PN . (16.15)
ṗa = − b=1 ∇k(q a − q b )hpa , pb i
Remarque 16.3. Pour comprendre le comportement de nos points, PN on peut garder à l’esprit que
les pa sont les intentions de bouger de chaque point, et q̇ a = b=1 k(q a − q b )pb indique que le
déplacement réel de q a dépend de l’intention de bouger de tous les autres points.
La réduction du problème à un calcul de géodésiques simplifie grandement la tache, car on
peut aisément implémenter leur calcul en intégrant le système hamiltonien (avec un schéma
d’Euler par exemple).
16.2.2 Analyse statistique sur les espaces de formes.

Le modèle ci-dessus est notamment utilisé en analyse d’IRM. Dans ce domaine, le but est
d’arriver à créer, à partir d’un jeu de données, des modèles pour un cerveau sain typique et pour
un cerveau à un certain stade d’une pathologie, qui a modifié sa géométrie et sa structure (par
exemple la maladie d’Alzheimer). L’objectif étant bien sûr de créer un logiciel de diagnostic.
La démarche est la suivante : étant donné un jeu d’observations B = {J1 , ..., JM } ⊂ LN (RD ),
on calcule la moyenne intrinsèque, ou moyenne de Karcher (on remarquera l’analogie avec la
méthode des moindres carrés) :
X
m := argminI∈I d(I, J)2 . (16.16)
J∈B
Puis on détermine les vecteurs wi ∈ Tm I tels que expm (wi ) = Ji (i.e. la géodésique partant
de m avec une vitesse initiale wi arrive en Ji au bout d’un temps 1). L’analyse statistique se
déroule alors sur les wi , c’est-à-dire qu’on a une interprétation des données dans un espace plat.
Par conséquent, nous allons voir que les comportements des géodésiques et la courbure non nulle
de l’espace des formes donnent des interprétations erronées des données dès que l’on s’éloigne un
peut trop de la position initiale du tir. Ainsi l’analyse des données à partir des tirs géodésiques
n’est pertinente que pour de faibles déformations, ce qui, fort heureusement, est le cas en pratique
(par exemple pour des cerveaux, il ne faut qu’un faible recalage).
[MMM12]
Manolis Perrot 16.3 Un cas typique pour comprendre la dynamique des

landmarks.
Nous allons nous intéresser à la dynamique du mouvement de landmarks dans un cas simplifié.
Pour autant, il est porteur d’une grande richesse, car il permet de comprendre qualitativement
les trajectoires avec lesquelles nous auront affaire dans les sections suivantes. Considérons un jeu
de landmarks q constitué trois groupes éloignés de points :
- un point isolé q1 ;
- trois points en triangle d’arrête d,q2 , q3 , q4 ;
- deux points proches à une distance d, q5 , q6 .
Si on pose a = k(d), et que l’on considère que les points éloignés n’interagissent pas entre eux,
la cométrique est alors :  
1 0 0 0 0 0
0 1 a a 0 0
 
0 a 1 a 0 0
Kq = 0 a a 1 0 0 .
 (16.17)
 
0 0 0 0 1 a
0 0 0 0 a 1
Analyse spectrale de la métrique Afin de regarder quelles sont les vitesses privilégiées, il
faut calculer l’inverse de cette matrice, ce qui revient à calculer l’inverse de chaque bloc. Le bloc
suivant correspond à un regroupement de n points équidistants :
 
1
 1 (a) 
(16.18)
 
M =  1 .

 (a) 1 
1
 
1
Un vecteur propre de M est (1) =  ... , associé à la valeur propre 1 + (n − 1)a. M étant
 
1
diagonalisable, car symétrique, on peut l’écrire :
X
M= λi ei eTi , (16.19)
(1)
avec (ei ) une famille orthonormée de vecteurs propres. Posons e = √ , on a alors :
n
M − (1 + (n − 1)a)eeT = In (1 − a) + a(1)(1)T − (1 + (n − 1)a)eeT = (1 − a)(In − eeT ). (16.20)
En vérifiant que 1 − a est valeur propre, la décomposition de M est :
1 1
M = (1 + (n − 1)a) eeT + (1 − a)(In − eeT )etg = M −1 = eeT + (In − eeT ).
1 + (n − 1)a 1−a
(16.21)
Ainsi, pour v un champ de vitesses sur nos landmarks, il est aisé de calculer son coût qua-
dratique v T M v en l’écrivant
v = e(eT v) + (v − e(eT v)) (16.22)
= vcol + vncol , (16.23)
16.3. Un cas typique pour comprendre la dynamique des landmarks. 205
où vcol est la composante colinéaire de v, et où le résiduel orthogonal vncol est de moyenne nulle.
On trouve alors simplement
Résultats limites D’une part, lorsque les points sont très éloignés (d grand donc a ∼ 0), on
a : et on retrouve que tous les points sont indépendants, il n’y a pas d’influence. En revanche,
s’ils sont proches (d petit, a ∼ 1)) : où la dernière écriture est un abus, et doit être compris par
bloc. Pour être plus précis, il faut voir que le défaut de colinéarité sera très fortement pénalisé, ce
qui incitera des points proches à bouger dans la même direction : à la limite, un vecteur vitesse
de norme finie s’écrira nécessairement
v = (w1 , w2 , w2 , w2 , w3 , w3 )T , (16.24)
et sera pénalisé en
1 1
v T gq v = w12 + (w22 + w22 + w22 ) + (w32 + w32 ) (16.25)
3 2
= w12 + w22 + w32 . (16.26)
Un groupe de n points très proches se déplaceront donc comme un seul ! On retrouve là notre
interprétation “mécanique des fluides” des métriques de déformations à noyaux, où le coût d’une
déformation est assimilé à l’effort nécessaire à un opérateur extérieur pour “déformer la nappe
élastique” de l’espace ambiant, sans considération pour ce qui est dessiné ici.
Les outils que nous avons développé dans la première section ont un aspect pratique in-
déniable, et apparaissent adéquats à nos problèmes d’appariement. Cependant, la pénalisation
introduite induits des comportements indésirés lors du transport des points, que nous allons
maintenant décrire.
[MMM12]
3 3
Manolis Perrot
2 2
1 1
0 0
−1 −1
−2 −2
−3 −3
−3 −2 −1 0 1 2 3 −3 −2 −1 0 1 2 3
(a) Un effet de covoiturage. Les géodésiques de (b) Une trajectoire de contournement dans
cette figure et de toutes les suivantes sont tra- L2 (R2 ). Les points (•) et les cercles (◦) sont
2
cées avec γ = e−x /2 . les ensembles initiaux et finaux de landmarks.
La grille représente le difféomorphisme final de
l’espace.
Figure 16.1 – Au sens des métriques à noyaux, les trajectoire optimales ne sont pas toujours
celles auxquelles on s’attendrait de prime abord. C’est qu’en plus de pénaliser les déchirures,
ces métriques induisent un effet “de covoiturage”, de mutualisation du coût de transport entre
particules proches.
16.4 Intuitions sur les géodésiques et comportements pro-

blématiques.
Nous allons voir dans cette section une conséquence directe du fait que les trajectoires de
moindre coût sont celles qui ont tendances à faire bouger les points proches en bloc.
16.4.1 Compression des géodésiques, effets de "covoiturage".

Nous venons de voir que le déplacement de n points proches dans une même direction coûtait
autant que le déplacement d’un seul point. Ainsi les points assez proches qui désirent aller dans
une direction similaire vont avoir tendance à se rapprocher pour abaisser le coût du trajet :
c’est le principe du covoiturage. La figure 16.1a montre cet effet. Out-of-the-box, les métriques
à noyaux ne génèrent donc pas de translations, et auront tendance à comprimer puis dilater les
objets pour les transporter sur de longues distances.
16.4.2 Phénomène de contournement.

La figure 16.1b nous montre comment deux points qui désirent se déplacer en sens opposé
doivent s’éviter afin de parcourir un chemin de moindre coût (en effet, deux vitesses effectives
opposées pour des points corrélés, i.e. proches, sont fortement pénalisées dans notre modèle).
Encore une fois, ce n’est pas vraiment souhaitable.
Les deux exemples ci-dessus nous montrent que dans certain cas, le modèle exclut les simples
translations de points, car elles ne sont pas optimales au sens de notre modèle.
16.5. Courbure positive et points conjugués. 207
0.2 12
0.15
10
0.1
8
0.05
q2
0 6
"
−0.05
4
−0.1
2
−0.15
GEODESIC 1
GEODESIC 2
−0.2 0
0 0.5 1 1.5 2 2.5 3 3.5 4 4.5 5 0 2 4 6 8 10 12
! q1
Figure 16.2 – A gauche : courbure sectionnelle κ pour L2 (R1 ). A droite : deux trajectoires
dans L2 (R1 ) dans le plan (q 1 , q 2 ). Les deux géodésiques ont la même origine, et restent dans la
région où κ > 0 (la ligne supérieure en pointillés bleus indique κ = 0) ; elles ont comme moments
initiaux (p1 , p2 ) = (1, 1) et (p1 , p2 ) = (1, 0.4).
16.5 Courbure positive et points conjugués.

16.5.1 Étude du cas L2 (R1 ).
Dans le cas de deux points sur une droite, on peut calculer explicitement la courbure section-
nelle, qui ne dépend que de la distance ρ =| x − y | entre les points :
γ0 − γ(ρ) 00 2γ0 − γ(ρ)

κ= γ (ρ) − (γ(ρ))2 . (16.27)
γ0 + γ(ρ) (γ0 + γ(ρ))2
Remarque 16.4. Voilà comment on peut interpréter le signe de la courbure. Une courbure négative
provoque une divergence des géodésiques issues d’un même point, alors qu’une courbure positive
se traduit par un croisement ultérieur, et donc l’apparition de points conjugués (i.e. des points
qui peuvent être reliés par plus d’une géodésique).
Sur la figure 16.2, on remarque que la courbure est négative lorsque les points se rapprochent,
et est positive pour des plus grandes valeurs de ρ, puis que la variété “s’aplatit” quand ρ −→ ∞
(les points ne sont plus corrélés). La courbure positive induit notamment l’existence de points
conjugués.
Essayons de comprendre les deux géodésiques présentées sur la figure16.2. Supposons que
les deux points veuillent se déplacer d’une distance fixée vers la droite. S’ils sont assez éloignés,
ils peuvent se déplacer plus ou moins indépendamment (c’est la géodésique 1). Mais si (i) le
point de derrière accélère tandis que celui de devant ralentit, alors (ii) une fois que les points
sont proches, ils se déplacent en tandem en utilisant moins d’énergie car ils sont proches et
finalement (iii) le point de derrière ralentit et celui de devant accélère lorsqu’ils sont vraiment
très proches (géodésique 2).
[MMM12]
Manolis Perrot 6
−2
−4
GEODESIC 1
GEODESIC 2
−6
−6 −4 −2 0 2 4 6
Figure 16.3 – Points conjugués dans L2 (R2 ).
Remarque 16.5. Cette figure nous montre l’existence de points conjugués. L’exemple le plus
simple de tels points se voit sur la sphère ; en partant d’un pôle, on peut rejoindre l’autre par
n’importe quel grand cercle. Ce phénomène pose un problème pour l’analyse des données. En
effet, rappelons qu’on procède à cette analyse en regardant les wi , vecteurs de tirs initiaux.
Ainsi, deux vecteurs différents (par exemple opposés dans le cas de la sphère), et donc traités
comme tels, aboutiront à la même forme. On voit ici l’importance de faire uniquement de faibles
déformations, donc de “petits tirs”, pour éviter ce genre d’interprétations erronées.
16.5.2 Points conjugués dans le cas L2 (R2 ).

La figure 16.3 met également en évidence l’existence de points conjugués dans R2 . Ces deux
exemples permettent d’extrapoler l’existence de comportements similaires pour un nombre de
points et des dimensions supérieures.
16.6 Courbure négative et comportements chaotiques.

Le calcul explicite de la courbure sectionnelle à partir de la cométrique Kq montre l’existence
de points où elle est négative. Ceci entraine l’existence de comportements chaotiques à plus ou
moins long terme.
16.6. Courbure négative et comportements chaotiques. 209
! 4
" 3
# 2
$ 1
% 0
!$ −1
!# −2
!" −3
!! −4
!! !" !# !$ % $ # " ! −4 −3 −2 −1 0 1 2 3 4
Figure 16.4 – Effet de charriage avec un noyau gaussien, pour un seul porteur de moment non
nul q 1 . A gauche : configuration initiale. A droite : configuration à t = 1. La courbure négative
s’interprète aisément à partir de cette figure. Considérons en effet le triangle (AOB), où A est la
configuration de droite, O (pour origine) celle de gauche, et où B est simplement obtenue comme
A à partir de O, mais avec une direction de tir différente. Les côtés [OA] et [OB] du triangle
sont donc les tirs géodésiques décrits ci-dessus, avec effet de charriage. Maintenant, quelle est la
géodésique [AB], le troisième côté du triangle ? Pour passer d’une grille déformée à une autre, les
points “comprimés” doivent prendre des trajectoires différentes les unes des autres. Pour éviter
de payer le coût de “déchirure”, la trajectoire optimale aura donc tout intérêt à détendre la grille,
à espacer les points comprimés en revenant de A sur O, avant de les redéformer sur B.
Autrement dit, le troisième côté [AB] est très proche de la trajectoire [AO] + [OB], le triangle
est fin, pincé : c’est bien ce que nous avons appris à associer à une courbure négative.
16.6.1 Déplacement d’un seul point, effet de charriage.

Imaginons que l’on désire déplacer qu’un seul point q1 . C’est un cas où la courbure est toujours
négative. Le point q 1 qui porte le moment se déplace en ligne droite à vitesse constante, tandis
que les points q a (a > 1) sont portés par le mouvement général que le déplacement de q 1 cause et
se déplacent à la vitesse q̇ a = k(q a , q 1 )p1 , qui est parallèle à p1 (mais pas constante). On voit bien
que plus les points sont proches, plus ils sont charriés fortement par q 1 . La courbure négative
implique la divergence rapide des géodésiques, et donc un comportement chaotique. En effet, si
l’on imagine que l’on modifie légèrement la direction de p1 , la configuration finale des landmarks
(à t=1) sera très différente de celle générée par le moment de référence p1 .
Remarque 16.6. Il faut garder en tête que nos méthodes sont faites pour être calculées numéri-
quement, donc avec une précision finie (et même faible, par exemple on prend pour un schéma
d’Euler dt = 0.1). On désire donc qu’une faible erreur sur la connaissance des conditions initiales
donne tout de même les bonnes formes. Cette sensibilité aux conditions initiales de tir n’est pas
souhaitable, car cela signifie aussi que deux vecteurs wi proches seront interprétés comme très
corrélés, alors qu’ils donnent en réalité des déformations très différentes.
En modifiant légèrement les rapports entre certaines composantes des moments et l’énergie
totales, on peut même exhiber des comportements totalement désordonnés, comme l’illustre la
figure 16.5.
[MMM12]
1 1
Manolis Perrot
0.8 0.8
0.6 0.6
0.4 0.4
0.2 0.2
0 0
−0.2 −0.2
−0.4 −0.4
−0.6 −0.6
−0.8 −0.8
−1 −1
−1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1 −1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1
Figure 16.5 – Trajectoires convergentes et divergentes de deux landmarks. Remarquons que les
tracés sont effectués pour (q 1 (0), (q 2 (0)) = ((0, −1), (0, 1)), (p1 (0), p2 (0)) = ((−10, 9), (10, 9)) à
gauche, et (p1 (0), p2 (0)) = ((−10, 8.6), (10, 8.6)) à droite.
16.6.2 Conclusion
On l’a vu, le cadre LDDMM + métriques à noyaux est, au sens de la complexité algorithmique,
l’une des plus simples structures riemannienne “sans déchirure” dont on peut munir un espace
de landmarks : on sait depuis Hamilton qu’un tir géodésique efficace reposera sur la cométrique
Kq , et quelle manière plus efficace d’associer une matrice à un nuage de point que la formule
totalement parallèle
2
Kq,ij = k(xi , xj ) = exp(−kxi − xj k /2σ 2 ) ? (16.28)
Cette simplicité algorithmique est la grande raison de la popularité des métrique “à noyaux”.
Il ne faut néanmoins pas nous leurrer sur leur pertinence : si les résultats obtenus sont crédibles
pour des déformations d’une taille inférieure au diamètre des formes, la séance d’aujourd’hui aura
eu le mérite de montrer le manque de fiabilité/pertinence de ces métriques pour des trajectoires
de tir plus longues.
Un sujet de recherche actuel serait donc de chercher à dépasser la théorie présentée lors de
la séance 9, pour combiner les propriétés désirables des métriques de Wasserstein (i.e. transport
optimal, qui se comportent très bien vis à vis des translations, mais n’imposent aucune corrélation
aux particules voisines) et des métriques à noyaux (qui permettent justement d’imposer – à un
coût raisonnable – des a priori de régularité spatiale sur le plan de déformation).
Chapitre 17
Remise en question du cadre

d’étude riemannien Séance 13
[LP13], [Ash07]
Nicolas Masson
17.1 Introduction
Au cours des séances précédentes, nous nous sommes penchés sur des techniques de recalage
d’image LDDMM (Large Deformation Diffeomorphic Metric Mapping) utilisant la géométrie
Riemannienne, dans le but de construire un atlas permettant une analyse statistique sur des
données biologiques. Cependant, malgré la pertinence et le bien-fondé de ces méthodes, celles-ci
sont très coûteuses, voire à la limite du praticable dans certains contextes. De plus, si l’on s’est
jusqu’ici concentrés sur une application en particulier, l’intérêt du matching ne se limite pas
à l’étude de population. Le problème du recalage concerne aussi bien l’encodage d’une vidéo
que le suivi individuel d’un patient ; il faut donc bien avoir à l’esprit que les exigences varient
considérablement selon l’utilisation que l’on cherche à en faire. En ce sens, il est légitime de
s’interroger sur la nécessité des méthodes LDDMM, et de se demander si d’autres approches
ne pourraient pas nous fournir un meilleur rapport efficacité/coût que l’approche Riemannienne
dans certains cas. L’objet de cette séance sera donc d’étudier une idée "concurrente" : le matching
SVF (pour Stationary Velocity Field), et de le comparer aux procédés LDDMM. On commencera
par une brève introduction aux groupes de Lie, qui constituent le cadre mathématique adapté
pour la méthode SVF, avant d’exposer le principe de ladite méthode, pour enfin donner quelques
éléments de comparaison avec le point de vue Riemannien.
17.2 Éléments de théorie des groupes de Lie

Un groupe de Lie G est une variété lisse munie d’un élément neutre id, d’une loi de composition
lisse (g, h) ∈ G×G → gh et d’une loi d’inversion également lisse g → g −1 , toutes deux compatibles
avec la structure de variété différentielle. On appellera champ de vecteurs toute application lisse
X sur G telle que ∀g ∈ G, X(g) ∈ Tg G, que l’on peut identifier à la dérivée directionnelle d’une
fonction scalaire ϕ le long du champ : ∂X ϕ(g) = ∂ϕ(g+tX(g))
∂t . On définit le crochet de Lie entre
deux champs X et Y comme suit :
[X, Y ]ϕ = ∂X ∂Y ϕ − ∂Y ∂X ϕ
Notons que celui-ci qui agit comme une multiplication interne sur l’algèbre des champs de
211
Séance 13 212 Chapitre 17. Remise en question du cadre d’étude riemannien
[LP13], [Ash07]
Nicolas Masson vecteurs. Si a ∈ G, on définit la translation à gauche La : g → ag. On dit qu’un champ de vecteurs
est invariant à gauche s’il reste inchangé sous l’action de la différentielle de la translation, au
sens où : dLa (g).X(g) = X(ag), c’est-à-dire (La )? X = X en reprenant les notations du cours.
L’ensemble des champs de vecteurs invariants à gauche, noté G, forme une sous-algèbre de Lie de
l’espace des champs de vecteurs. Dans la mesure où un champ invariant à gauche est entièrement
déterminé par sa valeur en id, on pourra identifier G à Tid G grâce à la carte x ∈ Tid G → X ∈ G
défini par X(g) = dLg (id).x. Par conséquent, on notera indifféremment X un champ de vecteur
invariant à gauche ou un élément de Tid G. On remarque que les éléments de G sont complets, au
sens où leur flot est défini en tout temps, et que celui-ci vérifie ϕtX (g) = gϕtX (id) par invariance
à gauche. Ces propriétés nous permettent de définir l’exponentielle de Lie comme suit :
exp : G → G
X → ϕ1X (id)
En particulier, l’exponentielle permet de définir le sous-groupe à un paramètre associé à X
comme le morphisme :
R → G
t → exp(tX)
qui vérifie ϕtX = exp(tX). Ainsi, pour tout vecteur tangent X ∈ Tid G, le sous-groupe à un
paramètre qui lui est associé est une courbe qui part de l’identité avec X pour vecteur tangent
initial.
Il faut bien le reconnaître, la théorie est au premier abord un peu indigeste pour le lecteur
profane, mais l’utilisation que nous en feront est à la fois limitée et illustrative.
17.3 La méthode SVF

Le principe de la méthode est assez aisé à comprendre compte tenu des séances précédentes,
dans la mesure où elle apparaît (du moins au début) comme une simplification des méthodes
LDDMM. En effet, les difféomorphismes que l’on avait utilisés pour le matching étaient obtenus
en intégrant une équation différentielle à champ de vitesse variable. Ici, l’idée est simplement
d’utiliser des champs ne dépendant pas du temps.
Avant de continuer, il convient tout d’abord de questionner la pertinence de ce choix. Il

n’est pas aisé de le justifier a priori, dans la mesure où le procédé SVF semble au premier
abord clairement moins adapté que le LDDMM pour l’imagerie médicale. Prenons l’exemple du
suivi longitudinal d’un patient : on réalise de manière régulière et assez espacée dans le temps
plusieurs images du cerveau (par exemple) d’un patient, et on cherche à avoir un indicateur
révélant le développement d’une pathologie. Pour ce faire, on effectue un matching, et on regarde
le champ de vitesses qui a engendré ce recalage. Ainsi, les zones où les champs de vecteurs
sont non-négligeables nous renseignent sur ce qui a bougé et nous disent donc si une pathologie
s’est développée. Cependant, la contrainte de constance dans le procédé SVF empêche le champ
de vecteurs d’être localisé sur ce qui bouge, d’où une perte d’information, contrairement à la
méthode LDDMM qui va permettre au champ de "suivre" les particules mouvantes. En fait,
le problème apparaît lorsque les déformations sont trop grandes, et seule une expérience nous
permettra de conclure sur ce point.
17.3. La méthode SVF 213
Même si l’on accepte pour un temps la pertinence de l’approche pour les petites déformations,
le procédé apparaît à première vue comme un appauvrissement du LDDMM. Cependant, le
changement n’est pas des moindres, car il permet d’utiliser la théorie des groupes de Lie, le flot
d’une ODE (équation différentielle autonome) étant en fait un sous-groupe à un paramètre d’un
certain groupe de Lie, ce qui n’est pas du tout le cas des flots dans le cadre Riemannien. Ce qui
fait tout l’intérêt du cadre Lie est que le matching est considérablement plus rapide à la fois au
niveau de la recherche du meilleur champ de vitesses que du calcul de la déformation.
17.3.1 Calcul de l’exponentielle : le scaling and squaring algorithm

Si le cadre Lie permet autant de rapidité pour l’intégration du flot, c’est parce que la théorie
remet la composition à l’honneur au sens suivant : si X est un vecteur tangent, on a, pour n
suffisamment grand :
2n 2n
X X
exp(X) = exp ' id + (17.1)
2n 2n
Ainsi, au lieu d’intégrer un flot à proprement parler, ce qui en terme de complexité est
forcément linéaire en le temps, on compose simplement 8 fois un procédé peu coûteux (on prend
typiquement n = 256) !
17.3.2 Recherche du champ de vitesses optimal et formule BCH

Dans les séances précédentes, on a vu comment trouver le champ de vitesses optimal : on
tirait une première fois avec un moment p0 pour arriver en q0 . Le gradient de l’attache aux
données nous donnait un "désir de mouvement" δq0 vers notre cible, que l’on transformait en
"désir de mouvement" δp0 sur le moment, avant de tirer à nouveau avec un moment p0 + δp0
et de réitérer le processus. Cependant, cette transformation d’un "désir" en un autre est loin
d’être évidente, et consiste dans ses grandes lignes en une intégration inverse du flot, avec un
coût conséquent.
Ici, le principe est le même, mais la théorie des groupes de Lie nous aide beaucoup en nous
donnant la formule Baker-Campbell-Hausdorff (BCH) :
1 1
log(exp(X) ◦ exp(δX)) = X + δX + [X, δX] + [X, [X, δX]] · · · (17.2)
2 12
Il est assez clair que calculer une somme est nettement plus rapide que d’intégrer un flot,
d’où une efficacité nettement accrue en comparaison au LDDMM.
Maintenant qu’il est établi que la méthode SVF dépassait largement sa concurrente en terme
de rapidité, il reste à déterminer au moyen d’expériences dans quels contexte l’approche Lie
trouve sa pertinence.
[LP13], [Ash07]
Nicolas Masson
(a) Champ de vecteurs stationnaire. (b) Champ LDDMM, t = 0.
(c) Champ LDDMM, t = 0.5. (d) Champ LDDMM, t = 1.
Figure 17.1 – Le cadre “Champs de Vecteurs Stationnaires” et la théorie LDDMM n’ont pas
la même manière d’interpréter le matching du point de gauche sur le point de droite. Là où
le premier repose sur la théorie des groupes de Lie, et construit la déformation par intégration
d’un champ de vecteurs stationnaire au cours du temps, le second s’appuie sur une notion de
“transport à coût minimal” qui sera concentré autour des particules en mouvement (principe de
réduction). Dans les deux cas, un a priori de régularité gaussien est utilisé, que ce soit sous la
forme d’une simple pénalisation ou d’une métrique RKHS.
Si la théorie des champs de vecteurs stationnaires permet d’obtenir des transports difféomor-
phiques à moindre coût, elle souffre de sévères limitations pour l’analyse : l’extrapolation (i.e.
laisser filer les trajectoires jusqu’à t = 1.5, t = 2) sera généralement médiocre, et l’information
peu localisée. Là où le champ LDDMM pris en t = 0 (peu ou prou le moment de tir initial)
permet de bien voir que c’est la particule de droite qui est en mouvement (et pas le reste de
l’image), cette trajectoire a complètement “bavé” dans l’espace avec la théorie “groupe de Lie”.
Sur une image complexe, cette diffusion de l’information le long des trajectoires peut grandement
compliquer l’analyse, qui pourrait se résumer à prendre la norme L2 du moment de tir initial
dans le cas Riemannien.
Cette figure est l’exact analogue de la Figure 17.3.
(a) Champ de vecteurs stationnaire. (b) Champ LDDMM, t = 0.
(c) Champ LDDMM, t = 0.5. (d) Champ LDDMM, t = 1.
Figure 17.2 – Pour un déplacement plus petit par rapport à l’échelle de régularisation, ce pro-
blème de dilution de l’information est moins gênant. Avec un coût numérique bien inférieur,
on aura donc tendance à privilégier les méthodes “Lie” pour du matching intra-sujet où aucune
extrapolation sur le long terme n’est nécessaire. Pensons par exemple à une application de suivi
longitudinal, avec comparaison de scans IRM d’un même sujet âgé/dément pris à un an d’in-
tervalle : une forte norme du champ de déformation autour de l’hippocampe est un indicateur
anatomique pertinent (souvent corrélé à la maladie d’Alzheimer), que l’on peut analyser auto-
matiquement et faire remonter au radiologue.
Cette figure est l’exact analogue de la Figure 17.4.
[LP13], [Ash07]
Nicolas Masson
Figure 17.3 – Comparaison inter-sujet. En bleu : champ de vitesses optimal pour le matching
avec les différentes méthodes. En A), SVF, en B) C) C’), LDDMM respectivement aux temps 0,
0.4, et 0.8. En D), magnitude associée mesurée avec la norme L2 .
Figure 17.4 – Suivi longitudinal intra-sujet. En bleu : champ de vitesses optimal pour le matching
avec les différentes méthodes. En A), SVF, en B) C) C’), LDDMM respectivement aux temps 0,
0.4, et 0.8. En D), magnitude associée mesurée avec la norme L2 .
[LP13], [Ash07]
Nicolas Masson 17.4 Récapitulatif des notions vues dans les théories Rie-
manniennes et Lie
Notion Riemann-LDDMM Lie-SVF
Espace étudié Diff(Rd ) Diff(Rd )

Qui agit sur : des formes q – des landmarks. des images I.
Métrique RKHS sur un espace

Opération de composition ◦,
Outil élémentaire : V ⊂ (Rd → Rd ), à choisir de manière
fixée par les mathématiques.
biologiquement pertinente.
Trajectoires Courbes géodésiques, Sous-groupes à un paramètre,

recherchées : qui minimisent la longueur. morphismes de (R, +) dans (Diff, ◦).
Description Hamiltonienne des géodésiques, Les sous-groupes à un paramètre

Résultat théorique qui sont uniquement déterminées par de Diff sont les t 7→ exp(tX),
fondamental : les conditions de Cauchy position-moment initiaux. au sens de l’intégration des flots.
Principe La déformation optimale se concentre Le champ optimal est concentré

de réduction : autour des particules en mouvement. autour des trajectoires.
Moment de tir initial p0 , Flot stationnaire X,

Représentant :
porté par les particules. sur l’espace ambiant.
γreg T γreg 2
Critère à minimiser : 2 p0 Kq0 p0 + 2 Att(q1 , q
γatt
e) 2 kXkreg + 2 Att(ϕ
γatt
· I0 , I1 )
Routine forward, exp : Shoot Hamiltonien, p0 7→ q1 , Exponentiation rapide, X 7→ ϕ.
Routine backward, Flot rétrograde des équations adjointes, Basée sur la formule BCH,
(dp0 /X exp)? : ∂q1 C 7→ ∂p0 C. ∂ϕ C 7→ ∂X C.
Complexité d’une Linéaire en la précision Logarithmique en la précision

itération : temporelle 1/dt. temporelle 1/dt.
Le cadre le plus “crédible” biologiquement est celui de la géométrie Riemannienne, qui permet
d’encoder dans la métrique un a priori anatomique. En délaissant ce degré de liberté “géométri-
que” pour gagner en structure algébrique comme le fait la méthode SVF, le gain algorithmique est
considérable : on passe du linéaire au logarithmique en la précision temporelle pour le matching
d’images pleines – en opposition au recalage de nuages de points épars, de surface de codimension
1 pour lesquelles stocker un flot sur l’espace ambiant est un gros gachis.
17.5. Comparaison expérimentale 219
17.5 Comparaison expérimentale

Les expériences qui feront l’objet de notre étude ont été réalisées dans deux contextes très
différents : la comparaison inter-sujet et le suivi longitudinal intra-sujet. Le premier cas corres-
pond à ce que l’on a étudié lors des dernières séances du cours : on étudie plusieurs sujets que
l’on cherche à comparer (par exemple afin de construire un atlas), impliquant des déformations
relativement importantes. Dans le second, l’objectif est celui qui a été un peu plus haut : étu-
dier un même individu au cours du temps afin d’observer son évolution, ce qui nécessite des
déformations beaucoup plus faibles.
17.5.1 Suivi longitudinal intra-sujet

Pour le suivi longitudinal intra-sujet, les résultats expérimentaux sont présentés Figure 17.4.
On constate que dans ce cas, les résultats sont assez similaires avec les méthodes SVF et
LDDMM : le champ de vitesses est localisé à peu près aux mêmes endroits, nous procurant
les mêmes informations. De plus, on constate également que le champ de vitesses dans le cas
LDDMM ne présente pas de variations pertinentes. Les résultats sont donc très similaires, mais
avec des coûts incomparables !
17.5.2 Comparaison inter-sujet

Pour la comparaison inter-sujet, les résultats expérimentaux sont présentés Figure 17.3.
La situation est ici radicalement différente : les champs de vitesse ne sont pas du tout localisés
au même endroit, synonyme d’une grande perte d’information et d’un manque de pertinence pour
la méthode SVF. Ce n’est si étonnant : comme on l’a remarqué précédemment, la pertinence de
la méthode SVF repose sur de petites déformations, et il y bien évidemment une différence
beaucoup plus importante entre deux sujets qu’entre un sujet à deux instants différents.
17.6 Conclusion
Le champ d’applications du recalage d’image est vaste, et les méthodes utilisées en sont
donc d’autant plus variées. Les exigences différant considérablement entre deux applications, il
est nécessaire de bien savoir dans quel contexte on se trouve pour évaluer l’adéquation d’une
méthode. Ainsi, l’approche Riemannienne, bien que très séduisante et relativement efficace dans
certains domaines (notamment la comparaison inter-sujet), peut être largement dépassée en
terme de rapport précision/coût par des méthodes Lie comme il a été vu ici. Notons tout de
même afin de nuancer le propos que la présentation des résultats a volontairement été simplifiée
et que certains paramètres sous-jacents ayant leur importance n’ont pas été présentés.
[LP13], [Ash07]
Nicolas Masson
Figure 17.5 – Exemple de matching SVF ϕ obtenu entre une boule f et une image de “C” g. Dans
cette image tirée d’un article “pratique” présentant une implémentation efficace des idées SVF,
[Ash07] de John Ashburner, on voit que la continuité du difféo est bien assurée numériquement.
Chapitre 18
Autres utilisations de la géométrie

Riemannienne en imagerie médicale Séance 14
[Pen09]
Pascal Millet
18.1 Synthèse sur la géométrie Riemannienne

18.1.1 Concepts théoriques principaux
Rappels de la première partie du cours Pour utiliser les outils de la géométrie rieman-
nienne, nous avons eu besoin d’introduire la notion de variété différentielle, qui permet de munir
l’espace topologique d’un espace vectoriel tangent en chaque point. On peut ainsi donner un sens
à la notion de vecteur tangent à une courbe ainsi qu’à la différentielle d’une fonction. Cepen-
dant, cela ne suffit pas pour définir la dérivée d’un champ de vecteur car l’espace tangent global
(comme union des espaces tangent en chaque point) n’est pas muni d’une structure d’espace
vectoriel. On a donc besoin de la notion de connexion pour savoir comment déplacer les vecteurs
d’un espace tangent à l’autre. Cela permet en outre de définir la notion de géodésique comme des
courbe de vecteur vitesse constant. Enfin, nous avons vu que l’ajout de la métrique Riemannienne
détermine de façon unique la connexion (connexion de Levi-Civita associée à la métrique).
La carte exponentielle Etant donné un espace de Riemann et un point P, on peut définir une
application lisse entre l’espace tangent et une partie de la variété en associant à chaque vecteur
~v le point de la géodésique de condition initiale ~v au temps 1 (c’est le flot géodésique au temps 1
comme défini en cours de calcul différentiel). Cependant, cette application n’est injective qu’au
voisinage de 0 car, car certains points peuvent être atteints au temps 1 par plusieurs géodésiques
(exemple du pôle sud de la sphère si on considère la carte exponentielle associée au pôle nord).
On peut définir le logarithme d’un point Q de la variété comme le vecteur de norme minimale
dont l’image par l’exponentielle est Q. Le logarithme est ainsi défini en tout point où un tel
vecteur existe et est unique. On appelle cut locus vectoriel, le bord de l’image du logarithme et
cut locus l’ensemble des exponentielles des point du cut locus vectoriel. Ainsi sur la sphère au
pôle nord, le cut locus vectoriel est le cercle de rayon πr.
Structure vectorielle transportée depuis le log-domaine Interprétation : On peut inter-

préter l’exponentielle comme une généralisation de la somme d’un point et d’un vecteur, ainsi
expP (v) est l’analoge dans un espace affine de P + ~v . De même logP (Q) est l’analogue de P~Q.
Garder ces analogies à l’esprit permet de généraliser facilement les algorithmes applicables dans
221
Séance 14 222 Chapitre 18. Autres utilisations de la géométrie Riemannienne en imagerie médicale
[Pen09]
Pascal Millet des espaces vectoriels au cas riemannien. Il existe des algorithmes efficaces pour calculer l’expo-
nentielle et le logarithme.
On peut également remarquer que la métrique riemannienne induit une mesure sur la va-
riété. Cela permet de définir l’intégrale d’une fonction de la variété dans un espace vectoriel de
dimension finie.
18.1.2 Extension des notions de moyenne et de covariance

Une fois ce cadre défini rigoureusement, il est possible de généraliser les notions de moyenne
et de covariance. Tout d’abord la moyenne de Fréchet qui est le minimiseur de la quantité
Z Z
2
σ 2 (P ) = dist(P, t)2 dt = klogP (t)k dt (18.1)
M M
soit pour une distribution discrète de n points sur la variété :

n
X 2
σ 2 (P ) = klogP (Qk )k . (18.2)
k=1
On
R a ensuite la définition barycentrique de Karcher qui consiste à trouver un point P tel que
M
logP (t)dt = 0 et dans le cas d’une distribution discrète
n
X
logP (Qk ) = 0. (18.3)
k=1
Lors du calcul de la moyenne de Fréchet, on est amené à calculer le gradient de σ 2 .
Proposition 18.1. Soit p ∈ M , si le cut-locus de p est de mesure nulle, alors σ 2 est différentiable
en p et on a : Z
~ 2 (p) = −2
∇σ logp (q)dµ(q) (18.4)
ou (dans le cas fini qui nous intéresse en pratique) :

n
X
~ 2 (p) = −2
∇σ logp (qi ). (18.5)
i=1
Démonstration. Nous allons démontrer la proposition dans le cas fini. Pour cela, il suffit de
calculer le gradient en p de d(p, q)2 . Rappelons le lemme de Gauss, vu à la fin de la première
partie du cours :
Lemme 18.1. Soit U une boule géodésique centrée en p ∈ M sur laquelle l’exponentielle est
∂
injective (pour que le champ radial soit bien définit), le champ de vecteurs radial ∂r est orthogonal
aux sphères géodésiques de U .
On aura besoin du corollaire suivant :
Proposition 18.2. La fonction distance radiale à q est différentiable sur U − {q} et
~ ∂
∇r(p) = (p) (18.6)
∂r
18.1. Synthèse sur la géométrie Riemannienne 223
Preuve du corollaire. Pour démontrer cette proposition, il suffit de remarquer que la carte ex-
ponentielle au point q fournit une carte locale de U donc la différentiabilité de r est équivalente
(par définition d’une fonction différentiable sur une variété) à la différentiabilité de r ◦ expq et
on peut calculer la différentielle dans cette carte (qui est pour l’instant une forme linéaire sur
Tlogq (p) (Tq M ) : le produit scalaire contre ∂r
∂
) qu’il faut ramener à une forme linéaire sur Tp M au
moyen du difféomorphisme d expq (p) induit par la carte entre Tlogq (p) (Tq M ) et Tp M . On obtient
d(r ◦ expq )(logq (p)) = dr(p) ◦ d expq (logq (p)) (18.7)

Quand on revient à la définition des espaces tangents (pour v vecteur de Tlogq (p) (Tq M )),
l’exponentielle envoie la classe de courbes passant par logq (p) en 0 et de vecteur dérivé en 0
égal à v sur une classe de courbe correspondant à un vecteur de Tp M ce qui définit l’application
d expq (p)), puisque que les courbes de niveaux de r ◦ expq sont envoyées sur les courbes de niveau
de r, d expq (p) induit un isomorphisme entre les espaces tangent à la sphère géodésique au point
p. Donc, d’après l’équation 18.7 le noyau de dr est exactement l’hyperplan tangent à la sphère
au point p. Enfin, par définition du champ radial (sur la variété) ∂r∂
est tel que
∂ ∂
(p) = d expq (p)( ) (18.8)
∂r ∂r
Cela signifie en évaluant 18.7 en ∂
∂r que
∂
dr(p)( (p)) = 1 (18.9)
∂r
Par le lemme de Gauss, ∂r ∂
(p) est orthogonal à l’espace tangent à la sphère donc dr(q) est
simplement le produit scalaire contre ∂r
∂
(p). C’est pourquoi on trouve bien le résultat annoncé.
Retour au calcul du gradient de la variance sur une variété Riemannienne On peut

maintenant démontrer la proposition. Dans les variétés riemanniennes que l’on considère ici, la
distance radiale est égale à la distance euclidienne. Soit q ∈ M qui n’appartient pas au cut-locus.
On définit le champ de vecteur radial par rapport au point q. La proposition précédente donne,
par composition avec la fonction carrée réelle (différentiable) :
∂
gradp d(p, q)2 = 2d(p, q) (p) (18.10)
∂r
Or, par définition,
∂ ∂
(p) = d expq (logq (p))( ) (18.11)
∂r ∂r
En revenant à la définition en terme de dérivée directionnelle, on a
∂ d ∂
(p) = (expq (logq (p) + t )|0 (18.12)
∂r dt ∂r
d logq (p)
= (expq (logq (p) + t )| (18.13)
dt d(p, q) 0
. Par le lemme de changement d’échelle (rescaling lemma vu dans la séance 5),
logq (p) t
expq (logq (p) + t ) = γ(1 + ) (18.14)
d(p, q) logq (p)
[Pen09]
Pascal Millet où γ est l’unique géodésique minimale telle que γ(0) = q et γ(1) = p. donc on obtient finalement :
∂ γ 0 (1)
(p) = (18.15)
∂r d(p, q)
On se place maintenant dans la carte exponentielle au point p. Par définition, si on note γ̃
l’unique géodésique minimale telle que γ̃(0) = p et γ̃(1) = q, on a :
˜
logp (q) = γ(0) (18.16)
Par unicité, on a γ(t) = γ̃(1 − t) et donc :
γ 0 (1) = −γ̃ 0 (0) = − logp (q) (18.17)
Finalement en rassemblant 18.10, 18.15 et 18.17, on obtient
gradp d(p, q)2 = −2 logp (q) (18.18)
On en déduit (par linéarité du gradient) la formule du gradient de la variance dans le cas fini (le
cas continu ne se déduit pas directement de ce qui précède car la dérivation sous l’intégrale ne
s’obtient pas simplement) :
X n
~ 2 (p) = −2
∇σ logp (qi ) (18.19)
i=1
dans le cas fini.
Bilan : un algorithme de minimisation de la variance On peut voir avec cette formule

que la moyenne de Karcher consiste à définir une moyenne comme un point critique de la variance.
La moyenne de Fréchet est donc une moyenne de Karcher ou un point en lequel la variance n’est
pas différentiable (donc un point dont le cut-locus n’est pas de mesure nulle). L’algorithme de
descente du gradient géodésique permet bien de trouver le minimiseur d’une énergie sur une
variété riemannienne. On va ainsi généraliser très facilement la notion de moyenne pondérée. Si
on se donne un poids wi pour chaque point de l’échantillon, on peut considérer l’énergie
X
E(p) = wi d(fi , p)2 (18.20)
i
et on constate, dans le cas euclidien que le minimiseur de cette énergie est bien la moyenne
pondérée des fi .
Formules pratiques Une fois que l’on a trouvé la moyenne, on peut s’intéresser à la variance
d’un ensemble continu ou discret de données. Si on note p̄ la moyenne des données, on peut se
placer dans le plan tangent (muni d’une base orthonormée) et calculer la quantité :
Z
Σ = logp̄ (q) logp̄ (q)T dP (q) (18.21)
ou dans le cas discret :

n
1X
Σ= logp̄ (qi ) logp̄ (qi )T (18.22)
n i=1
Ces formules sont obtenues par généralisation des formules vectorielles pour le calcul de la matrice
de covariance. Une telle matrice sert à effectuer une analyse statistiques des données (par exemple
par une analyse en composantes principales).
18.2. Quelques méthodes vectorielles utilisées en analyse d’image et leurs analogues
Riemanniennes 225
18.2 Quelques méthodes vectorielles utilisées en analyse

d’image et leurs analogues Riemanniennes
Le traitement d’images à valeurs réelles est un problème bien connu, pour lequel de nom-
breuses théories ont été développées. Avant de tenter de les généraliser à des images à valeurs dans
une variété riemannienne quelconque, on rappelle les problèmes et solutions les plus classiques
dans le cas vectoriel.
18.2.1 Interpolation
L’interpolation est le fait de retrouver la valeur d’une fonction à partir de l’image de quelques
points. On a donc pour une interpolation linéaire entre deux points d’antécédent 0 et 1.
f (x) = (1 − x)f (0) + xf (1) (18.23)
Sous cette forme, la valeur apparait comme une moyenne pondérée des données. On peut générali-
Pn+1
ser cette notion en dimension n en exprimant x comme barycentre de n+1 points x = i=1 λi xi .
On obtient donc une formule pour calculer l’image de x :
n+1
X
f (x) = λi f (xi ) (18.24)
i=1
Donc si f est à valeur dans une variété riemannienne, on comprend l’intérêt d’avoir généralisé
la notion de moyenne pondérée. On verra par la suite un exemple dans lequel l’interpolation
linéaire permet de reconstituer un champ de tenseurs à partir de quelques points.
18.2.2 Filtrage/lissage d’images

2
Les images que nous considérons ici peuvent être représentées par des fonctions L2 ([[0, n]] , R)
où n est le nombre de pixels par ligne et par colonne. Le principe lorsque l’on traite une image
(par exemple pour la débruiter) est de trouver, étant donnée une image donnée f˜, une image qui
minimise la quantité :
Reg(f ) + Similarite(f, f˜) (18.25)
Le terme Reg(f ) (critère de régularisation) est un terme qui permet de placer un a priori sur
l’image que l’on veut obtenir. Par exemple, on peut choisir de pénaliser les variations de f comme
nous le verrons plus loin mais on peut également vouloir imposer un certain spectre fréquentiel
et pénaliser l’écart par rapport à celui-ci. Similarite(f, f˜) est un terme qui pénalise l’éloignement
par rapport à l’image de départ. En général, sur des images denses, on le prend égal à kf − f˜k22 .
On peut bien sûr envisager une descente de gradient pour trouver f mais pour certains critères,
il est possible d’obtenir une expression explicite de f (par des calculs d’analyse de Fourier qui
seront vus en cours de “Traitement du signal”) comme une moyenne pondérée des images de f˜
ωi (x)f˜(i).
X
f (x) = (18.26)
i
On peut donc ranger dans ce cadre le simple floutage gaussien, ou convolution avec une gaussienne
1 ki−xk2
ωi (x) = √ e 2 . (18.27)
2π
[Pen09]
Pascal Millet
(a) Quelques filtrages linéaires d’une image “Lena” bruitée.
(b) Un tableau de Van Gogh... (c) Après application d’un algo de diffusion ani-
sotrope. Remarquons comme les structures “en
ligne”, les arêtes sont préservées.
Figure 18.1 – Exemples d’algorithmes de lissage d’images à valeurs réelles.

Images tirées de pybonacci.github.io/scipy-lecture-notes-ES/intro/scipy.html et Ani-
sotropic Diffusion in Image Processing, de Joachim Weickert.
18.2. Quelques méthodes vectorielles utilisées en analyse d’image et leurs analogues
Riemanniennes 227
On peut interpréter le calcul en disant que f (x) est la moyenne des f˜(i) pondérés selon une
gaussienne centrée en x. On comprend donc que la fonction f˜ est lissée par ce processus. Lorsque
la fonction est à valeur dans une variété riemannienne (nous allons en voir un exemple par la
suite), nous allons donc utiliser la notion de moyenne pondérée définie précédemment.
Il existe aussi des manière non-linéaires de filtrer le bruit sur un image. La diffusion harmonique
consiste à minimiser une quantité qui pénalise les fortes variations de la fonction :
1
Z
2
Reg(p) = k∇pkp(x) dx (18.28)
2 Ω
Par un calcul d’analyse fonctionnelle (équation d’Euler-Lagrange), on peut calculer le gradient
de cette quantité (qui est donc une fonction) :
∇Reg(p)(x) = −∆p(x) (18.29)
Suivre ce gradient pendant un temps δt revient à suivre l’évolution spontanée du système pen-
dant δt si on considère que la fonction donne la température en chaque point. On comprend
bien que ce procédé a tendence à lisser l’image. Il faut suffisemment d’itérations pour obtenir
une image débruitée mais pas trop pour ne pas obtenir une répartition de “température” ho-
mogène. En pratique, on ajoute donc à Reg, un terme qui pénalise l’éloignement par rapport
aux données initiales. Par exemple dans le cas d’un bruit gaussien, on peut ajouter le terme :
dist 2
(p(x), q(x))dx où q est la donnée initiale. Il peut également être intéressant de filtrer les
R
Ω
régions homogènes de l’image sans aténuer les contours de ces régions (on considère en quelque
sorte que l’image est constituée d’aplats). On utilise pour cela la diffusion anisotrope dans laquelle
on minimise Z
Regϕ (p) = ϕ(k∇p(x)kp(x) )dx (18.30)
Ω
Cela permet, en choisissant bien la fonction ϕ d’obtenir une diffusion anisotrope.
18.2.3 Analyse en composantes principales

Enfin, l’analyse en composante principale (CPA) est une méthode statistique permettant de
trouver les axes de variabilité maximaux dans un ensemble de données. Pour cela, on calcule la
covariance empirique sous la forme
1
C = MT M (18.31)
k
où M est la matrice des observations empiriques centrées sur leur moyenne (chaque ligne corres-
pond à une mesure conjointe des n d’une valeur dans les n direction de l’espace [pour certaines
applications, chaque direction représente une variable aléatoire] et on note k le nombre de me-
sures, ansi M est une matrice k par n). La matrice
Pn C est symétrique positive réelle et pour une
combinaison linéaire des n vecteurs de base i=1 λi ei , on note X le vecteur coordonnées. Ainsi
X T CX est la variabilité de l’échantillon selon la direction X. D’après le théorème spectral C
est diagonalisable dans une base orthonormée et cela permet de trouver les axes de variabilités
propres et en particulier l’axe de variabilité maximal. On peut utiliser cette technique pour ana-
lyser des données mais également pour les débruiter (on ne retient que les axes de variabilité
principaux pour décrire les données, les axes de plus faible variabilité corespondent au bruit).
Il existe plusieurs moyens de généraliser l’analyse en composante principale. L’analyse en géo-

désique principale consiste à trouver une sous-variété de faible dimension engendrée par un
ensemble de géodésiques qui expliquent la variabilité des données. On peut également envisager
une analyse en composantes principales dans l’espace tangent à la moyenne de l’échantillon.
[Pen09]
Pascal Millet 18.2.4 Questions pratiques : Robustesse

En statistique, il peut être intéressant que la moyenne ne soit pas trop sensible aux valeurs
extrêmes. Cette propriété s’appelle la robustesse. En géométrie Riemannienne, en prenant une
distance qui approxime localement la distance Riemannienne mais qui sous-estime cette distance
pour des points très éloignés, on peut obtenir une moyenne plus robuste. Une manière de définir
une telle distance est de considérer une fonction ϕ croissante concave telle que ϕ(0) = 0 et
ϕ0 (1) = 1 et de poser d0 (x, y) = ϕ(d(x, y)). En général, si l’espace est plongé dans Rn , la distance
euclidienne de Rn fournit automatiquement une distance robuste et simple à calculer. Cependant,
pour cette distance, la de moyenne de Fréchet, minimiseur de
Z
E(p) = d0 (p, q)2 dq (18.32)
Ω
n’est plus un barycentre de la distribution (i.e. un point tel que

Z 0
d (p, q)
logp (q)dq (18.33)
Ω d(p, q)
car
d0 (p, q)
Z
∇E(p) = −2 ϕ0 (d(p, q)) logp (q)dq (18.34)
Ω d(p, q)
Il faut donc choisir la définition qui convient le mieux. De manière générale, on utilise la métrique
intrinsèque pour évaluer la performance et le domaine de validité d’une métrique approchée (ce
domaine de validité est un domaine de variance des données).
18.3 Application de la géométrie Riemannienne à l’analyse

d’images de tenseurs
Miracle de la science moderne : les IRM permettent aujourd’hui d’obtenir des images à valeurs
tensorielles, où le produit scalaire en chaque point quantifie la diffusion de l’eau dans le corps
du patient. Avec des applications simples (diagnostic d’hémorragies vs ischémie rapide, ce qui
peut se révéler crucial en cas d’AVC) ou complexes (suivi de fibres neuronales, ...), cette nouvelle
modalité est appelée à jouer un rôle toujours plus important et stimule grandement la recherche
en traitement d’images.
18.3.1 L’espace des matrices symétriques définies positives

Rappels sur les produits scalaires L’espace Sn++ des matrices symétriques définies positives
(on appelera aussi une telle matrice un tenseur) est un cône dans l’espace des matrices symétriques
(ie si A ∈ Sn++ , ∀λ ∈ R∗+ , λA ∈ Sn++ et A est convexe). A priori on peut donc effectuer des
moyennes entre éléments de Sn++ sans sortir de l’espace. Cependant, ces moyennes ne sont en
général pas satisfaisantes et l’implémentation d’algorithme telle que la descente de gradient pose
des problème. On risque en effet de sortir de l’espace à cause de la discrétisation du problème !
(voir figure 18.2a). Pour pallier à cela, on va munir l’espace d’une structure riemannienne et
envoyer les bords à l’infini.
Métrique affine-invariante Pour choisir une métrique canonique, on va imposer que la mé-
trique soit invariante par changement de coordonnées affine. Ici les matrices que l’on considère
18.3. Application de la géométrie Riemannienne à l’analyse d’images de tenseurs 229
(a) Simulation d’un shoot géodésique avec diffé- (b) Interpolation géodésique entre deux ten-
rentes métriques. En haut, un shoot dans Sn++ seurs. La première ligne est une simple inter-
vu comme une sous-variété riemannienne de polation linéaire “coordonnée à coordonnée”, la
Sn , munie de la métrique euclidienne des ma- seconde est le shoot géodésique dans Sn++ muni
trices : les géodésiques sortent du cône. Au de la métrique affine-invariante, et la troisième
milieu, un shoot pour la métrique de Cho- correspond au cadre log-euclidien. À droite, on
lesky. En bas, un shoot pour la métrique affine- trace le volume de l’ellipsoïde en fonction du
invariante. La dernière ligne est bien la plus sa- temps : l’effet de gonflement des moyennes, in-
tisfaisante, avec des bords repoussés à l’infini : désirables dans l’interpolation naïve, est bien
un algorithme de descente de gradient (comme évité.
les diffusions) ne risque donc pas de sortir du
cône Sn++ .
(c) Comparaison entre les différentes méthodes. (a) : image initiale. (b) :
image bruitée. (c) : régularisation euclidienne. (d) : régularisation de Cho-
lesky. (e) : régularisation log-euclidienne
Figure 18.2 – Intérêt de la métrique affine-invariante et de son approximation algébrique “log-

euclidienne” pour le traitement d’images à valeurs tensorielles.
[Pen09]
Pascal Millet sont des matrices de diffusion donc l’action de GLn sur Sn est naturellement donnée par :
++
A ∗ Σ = AT ΣA (18.35)
En effet, ainsi, si Σ est la matrice de diffusion dans la base B, et si A = M atB0 ,B (id), A ∗
Σ est la matrice de diffusion dans la nouvelle base B 0 . Ainsi, intuitivement, on voudrait une
distance entre les diffusions qui ne doit donc pas dépendre du choix de la base utilisée pour
les représenter. Il faut maintenant préciser formellement ce que signifie une métrique invariante
sous l’action. Il faut notamment comprendre comment l’action transporte les vecteurs tangents.
L’espace tangent en tout point est Sn . L’action de A ∈ GLn induit un difféomorphisme de la
variété. On utilise la différentielle pour transporter les vecteurs tangent d’un point à un autre.
La condition d’invariance s’écrit donc :
∀V, W ∈ Sn , < V, W >Σ =< AT V A, AT W A >AT ΣA (18.36)
L’action est transitive donc une métrique vérifiant la condition d’invariance ci-dessus est entière-
ment déterminée par sa données en l’identité. De plus, puisque les transformations orthogonales
laissent l’identité invariante, on a, en notant O une matrice orthogonale :
∀V, W ∈ Sn , < V, W >Id =< OT V O, OT W O >Id (18.37)
On peut montrer que les métrique vérifiant cette condition sont de la forme
1
< V, W >Id = T r(V W ) + βT r(V )T r(W ) avec β > − (18.38)
n
Pour connaitre la métrique en un autre point Σ, on utilise la transitivité et l’invariance. On pose
1
A = Σ 2 ∈ GLn et on a alors (A est en fait symétrique définie positive) : A ∗ Id = Σ. Cela permet
très facilement de réécrire la métrique en Σ :
∀V, W ∈ Sn , < V, W >Σ = < A−1 V A−1 , A−1 W A−1 >Id (18.39)
= T r(V Σ−1 W Σ−1 ) + βT r(V Σ−1 )T r(W Σ−1 ) (18.40)
Il est intéressant de remarquer que toutes ces métriques sont associées à la même connexion de
Levi-Civita. En particulier, elles partagent toutes les même géodésiques, cependant la distance
le long d’une géodésique n’est pas la même d’une métrique à l’autre. On dispose également
d’expressions explicites de l’exponentielle et du logarithme.
1 1 1 1
ExpΣ (W ) = Σ 2 exp(Σ 2 W Σ 2 )Σ 2 (18.41)
1 1 1 1
LogΣ (V ) = Σ log(Σ V Σ )Σ
2 2 2 2 (18.42)
Avec la formule du logarithme, on peut calculer la distance et voir que les matrices qui ont une
valeur propre nulle (c’est à dire les bords du cône) ont bien été envoyées à l’infini !
Métrique Log-euclidienne Dans la métrique précédente, la moyenne est obtenue par une des-
cente du gradient. Il serait plus efficace d’avoir une formule explicite. La métrique log-euclidienne
permet d’obtenir une telle formule tout en restant satisfaisante en terme de précision. Ainsi, elle
se situe entre la métrique affine-invariante (très bien fondée mathématiquement) et la simple
moyenne dans Sn (très rapide à calculer mais présentant de nombreux défauts). Pour la définir,
il faut tout d’abord remarquer les faits suivants :
Proposition 18.3. L’exponentielle des matrices est une bijection de Sn dans Sn++
La preuve se fait simplement en utilisant le théorème spectral qui permet de diagonaliser la
matrice symétrique dans une base orthonormée. Cela permet également d’obtenir une formule
explicite pour le calcul de l’exponentielle et du logarithme.
L’intérêt d’une telle bijection est qu’elle permet de transporter la structure d’espace euclidien
de l’ensemble des matrices symétriques vers l’ensemble des matrice symétriques définies positives.
La métrique Log-euclidienne est alors la métrique ainsi transportée. Ainsi, on a donc un moyen
simple de traiter des données : On envoie les matrice de Sn++ dans Sn grâce au logarithme puis
on effectue les calculs (par exemple la moyenne) puis on prend l’exponentielle du résultat. Ainsi
on peut obtenir une formule explicite pour la moyenne et la calculer efficacement et appliquer
l’algorithme de descente du gradient sans craindre de rencontrer les bords du cône. Par ailleurs,
l’espace obtenu présente de nombreuses similarités avec l’espace muni de la métrique affine-
invariante. Par exemple, les géodésiques passant par l’identité sont les même pour les deux
métriques. Par ailleurs, les tests sur des données réelles montrent que les résultat obtenus lors
des calculs avec ces deux métriques sont très similaires (on observe typiquement un écart de 1%)
alors que les algorithmes implémentant la métrique Log-euclidienne tournent 4 à 10 fois plus
vite !
18.3.2 IRM de diffusion (DTI : diffusion tensor imaging)

On s’intéresse ici au débruitage d’images de tenseurs de diffusion obtenues par IRM. Chaque
pixel de l’image est maintenant une matrice symétrique définie positive donc une image peut être
vue comme une application à valeurs dans cette variété. On va donc pouvoir utiliser les outils de
géométrie riemannienne à deux niveaux : pendant la construction de l’image à partir des données
brutes fournies par l’IRM et pendant le traitement de l’image proprement dit.
Nous allons d’abord voir comment la géométrique riemannienne permet de mieux prendre en
compte la spécificité du bruit lors de la construction de l’image. En effet, le processus d’acquisition
est très bruité. Il consiste à observer la diffusion du signal pour différente direction du gradient
du champ électrique. Si on note Si le signal (valeur scalaire) et gi le gradient, on a la relation
suivante entre ces valeurs (fournie par l’analyse physique du phénomème) :
Si = S0 exp(−bgiT Dgi ) (18.43)
Comme D est symétrique il suffit en principe de 6 équations scalaires pour retrouver tous les
coefficients. Cependant, étant donné le niveau de bruit, il peut être intéressant de surdéterminer
le système (ie prendre plus de mesures que nécessaire) et trouver une solution au sens des moindre
carrés. Il s’agit donc de minimiser la quantité suivante :
X
SimG (D) = (Ŝi − Si (D))2 (18.44)
où Ŝi désigne la valeur mesurée et Si (D) la valeur calculée en prenant la matrice de diffusion égale
à D. Cependant, si l’on résout cela de manière naïve dans Sn R en cherchant quand le gradient (de
la fonction vue comme allant de Sn dans R) est nul, le résultat peut ne pas être une matrice de
Sn++ à cause de l’imprécision des mesures. Un meilleur choix est donc de considérer cette fonction
comme allant de la variété riemannienne Sn++ munie de l’une des métriques définies plus haut
dans R puis d’effectuer une descente du gradient. Par exemple pour la métrique Log-euclidienne,
cela correspond simplement à minimiser dans Sn la fonction suivante :
X
SimG (L) = (Ŝi − Si (exp(L)))2 (18.45)
car l’exponentielle est une isométrie entre Sn et Sn++ par définition de la métrique. L’avantage de
procéder ainsi est double : les valeurs obtenues sont toujours dans Sn++ et les résultats obtenus
sont plus satisfaisants. Le critère de régularisation est ici un critère des moindres carrées ce qui
[Pen09]
Pascal Millet correspond à un bruit gaussien. En pratique, le bruit est d’un autre type (bruit ricien) et le
critère de régularisation est différent mais le formalisme riemannien s’adapte bien à ce cas et
fourni un algorithme satisfaisant.
La seconde étape du débruitage consiste à traiter l’image de tenseurs obtenue précédemment. Il

s’agit donc simplement d’appliquer la généralisation des algorithmes de filtrage/lissage vus précé-
demment. En particulier un filtrage linéaire ou un algorithme de diffusion anisotrope permettent
de débruiter correctement l’image. L’avantage du formalisme riemannien est que les quantités
pertinentes telles que le volume initial du tenseur sont bien mieux retrouvées lors du débruitage
qu’avec l’utilisation d’algorithme plus simples pour lesquels on observe un net épaississement des
tenseurs. Les fibres obtenues sont bien plus nette et le nombre de fibres qui peuvent être correc-
tement reconstitué est aussi plus important. Cependant, une évaluation complète et quantitative
des avantages de la méthode reste à effectuer.
18.3.3 Analyse de la variabilité des lignes sulcales

Une autre utilisation ces métriques sur l’espace des tenseurs peut être faite dans le cadre de
l’étude de la variabilité des lignes sulcales. Après acquisition d’un échantillon d’images sur des
individus et un recalage rapide qui permet d’obtenir des corespondances de points le long des
lignes. On peut calculer pour chaque point la matrice de covariance qui est alors un tenseur.
On dispose ainsi également d’une fonction à valeur dans Sn++ . On peut alors chercher à réduire
la quantité d’information nécessaire pour encoder la variabilité. Pour cela on cherche un sous
ensemble optimal de matrices telles que une distance entre le champ de matrice empirique et
le champ interpolé linéairement à partir des matrices sélectionnées soit inférieure à une valeur
prescrite. On utilise ainsi la généralisation riemannienne de l’algorithme d’interpolation linéaire.
Il est intéressant de constater que seule 366 tenseurs suffisent à encoder la variabilité sans perte
d’information significative.
Figure 18.3 – Carte de variabilité des lignes sulcales obtenue par le protocole précédent. A
gauche, les tenseurs retenus pour expliquer la variabilité et à gauche l’interpolation linéaire entre
eux pour reconstituer la carte complète.
(a) Champ au repos S0 . (b) Exemple d’image mesurée Si – ici pour un

gradient gi = (1, 0, 1), bruitée.
(c) En répétant l’opération pour au moins 6 (d) Un algorithme de débruitage adapté permet
gradients, on peut estimer point-par-point un de diminuer le rapport signal/bruit, et d’aug-
champ de tenseurs bruité. menter la fiabilité des algorithmes de traite-
ment ultérieurs – suivi de fibre, par exemple.
Figure 18.4 – Exemple pratique de traitement d’image DTI, sur le haut de la moelle épinière -
rachis d’un patient.
[Pen09]
Pascal Millet 18.4 Pour aller plus loin : conclusion et perspectives

Quel bilan retirer de ces dix-huit séances ? Nous y avons développé la notion de métrique
locale, qui permet d’étendre le vocabulaire et les outils classiques de géométrie à de toutes
nouvelles classes de problème. Nous attarder sur l’anatomie computationnelle, un domaine de
recherche très actif, nous a ensuite permis de mettre ces idées en application, de faire le lien
entre mathématiques “fondamentales” classiques et questions concrètes posées par les médecins,
chercheurs ou non.
En difféomorphométrie comme en traitement d’images à valeurs tensorielles, on a pu mettre
en évidence la présence d’au moins trois méthodes :
— Une méthode “naïve” : flot optique ou moyennage coordonnées à coordonnées ; extrême-
ment rapide à calculer, adapté aux situations où l’on dispose de beaucoup de données peu
dégradées.
— Une méthode Riemannienne : LDDMM et métrique Affine-Invariante ; dotée de garanties
théoriques fortes, qui mettent en avant les a priori bien compris que l’on souhaite mettre
dans nos algos.
— Un compromis “tangentiel” : SVF et cadre log-euclidien ; en renonçant à la richesse et
l’homogénéité du cadre Riemannien, on accède à une structure algébrique qui accélère
grandement les algorithmes.
C’est bien l’interaction, la comparaison entre ces différentes méthodes qui intéressera le spécia-
liste : chaque point de vue a ses points forts et points faibles, qu’il importe de bien comprendre
pour arriver à des performances optimales dans une application voulue.
Perspectives de carrière J’espère vous avoir donné un bon aperçu de ce que peuvent être les
mathématiques appliquées au traitement d’image. Vous montrer que « problème concret » ne rime
pas toujours avec « idées simplistes » ! Aujourd’hui, les questions mathématiquement intéressantes
liées à des applications réelles ne manquent pas ; elles ouvrent de plus des perspectives de carrière
très intéressantes.
Dans le monde académique, d’abord : on en est rarement conscient en entrant à l’ENS,
mais le nombre de postes ouverts aux mathématiciens “appliqués” est bien supérieur à celui
proposé à leurs homologues algébristes, géomètres ou logiciens – voir à ce sujet la Figure 18.5.
Soyez conscients que se lancer dans les domaines les plus fondamentaux, c’est rentrer dans un
milieu extrêmement compétitif. Le confort matériel offert aux élèves normaliens ne doit pas vous
leurrer : même pour vous qui avez “réussi les concours” à vingt ans (...), il sera difficile de percer
et d’obtenir un emploi.
A contrario, se spécialiser en mathématiques appliquées, c’est s’ouvrir les portes du monde
des start-ups, de l’industrie. Les entreprises de haute-technologie ont grand besoin d’experts
qui puissent leur apporter des algorithmes à la pointe, une vraie plus-value sur des produits
extraordinairement complexes. Pour développer un scanner IRM par exemple, des dizaines de
compétences pointues sont mises à contribution. Un profil unique d’ingénieur généraliste ne peut
donc pas suffire, et, avec votre formation très poussée en mathématiques, vous disposez d’un
capital précieux. Les entreprises en sont bien conscientes, et sont prêtes à vous accueillir à bras
ouverts : je peux en témoigner comme bon nombre de camarades.
Je vous encourage donc très fortement à rester ouverts et curieux : au moment de décider de
votre orientation, de choisir votre domaine de spécialisation, prenez bien tous ces éléments en
considération. Soyez sûrs de faire un choix que vous ne regretterez pas.
18.4. Pour aller plus loin : conclusion et perspectives 235
200 Maths Fondamentales

Maths Appliquées
Informatique
150
Maîtres de conférence
100
50
0
2000 2002 2004 2006 2008 2010 2012 2014 2016 2018 2020
Année
Figure 18.5 – Postes de « maître de conférence » ouverts en France, selon les filières. On peut
ajouter à ceux-ci les postes de « chargé de recherches » CNRS, 8-10 par an au total pour les
filières mathématiques.
Données tirées du site de référence, postes.smai.emath.fr/2017/OUTILS/bilans.php.
Offre de cours Pour clore ce polycopié comme il se doit, voici donc quelques suggestions
de cours et références dans la continuité de notre groupe de lecture. De nombreuses questions
restent à élucider, tant du point de vue théorique que pratique, et, pour ceux qui souhaiteraient
s’y lancer, la route est encore pleine de surprises...
— Le cours de MM. Alain Trouvé et Joan Glaunès, Géométrie et espaces de formes, au M2
MVA – à l’ENS Cachan, de janvier à mars au deuxième semestre. C’est le cours qui sous-
tend les articles des séances 9, 10 et 11 ; la suite naturelle de ce groupe de lecture : le
cours demande du travail, mais est tout à fait accessible à des élèves maîtrisant les bases
de géométrie riemannienne présentées ici. C’est un bon exemple de cours de “traitement
d’images” solide sur le plan mathématique.
— Autre cours du M2 MVA : Advanced Medical Imaging, par MM. Hervé Delingette et Xavier
Pennec – semestres 1 et 2. Plus touche à tout, proche du milieu médical, ce cours est aussi
l’occasion de découvrir la variété des applications, la pluralité des approches coexistant en
anatomie computationnelle. Si le point de vue privilégié dans notre cours a été celui de la
géométrie Riemannienne, avec tracé de géodésiques dans un espace de difféomorphismes
de l’espace ambiant, il ne faut pas croire qu’il s’agit là de la seule manière de travailler :
on l’a bien vu au cours des deux dernières séances, portant sur des articles de M. Pennec !
[Pen09]
Pascal Millet Enfin, si l’esprit “maths appliquées à l’imagerie” de ce cours vous a plu, sachez que vous pour-
rez tout simplement le retrouver ici, au 45 rue d’Ulm : MM. Stéphane Mallat (au DI) et Bertrand
Maury ou Gabriel Peyré (au DMA) sont d’excellents enseignants, qui sauront parfaitement vous
conseiller et répondre à vos interrogations. Je ne saurais d’ailleurs trop vous recommander les
cours de Modélisation (1A) et de Data Science (2A) : on s’y intéresse aux foules, aux photos, et
à la musique plutôt qu’aux cerveaux et aux cœurs... mais le plaisir de découvrir et expérimenter
reste le même !

Geometrie Riemannienne Espaces de Formes

Transféré par

Droits d'auteur :

Formats disponibles

Geometrie Riemannienne Espaces de Formes

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Geometrie Riemannienne Espaces de Formes

Transféré par

Droits d'auteur :

Formats disponibles

Introduction à la Géométrie Riemannienne

par l’étude des Espaces de Formes

Polycopié co-écrit avec les élèves du groupe de lecture éponyme,

Basile Coron Arnaud Eteve

Lino Benedetto Raphaël Barboni

I Éléments de Géométrie Riemannienne 25

3 Métriques Riemanniennes 35 Séance 3

5.4 Voisinages normaux et coordonnées normales . . . . . . . . . . . . . . . . . . . . 62

Séance 6 6 Le plan hyperbolique 67

Séance 7 7 Distances et géodésiques 83

Séance 10 10 Travailler avec des données non-étiquetées 127

Séance 11 11 Géodésiques Riemanniennes, équations Hamiltoniennes 137

13 Méthodes à noyaux pour l’appariement de nuages de points 149 Bonus

14 Appariement de courbes et surfaces polygonales 165 Bonus

III Critiques et perspectives 199

17 Remise en question du cadre d’étude riemannien 211 Séance 13

18 Autres utilisations de la géométrie Riemannienne en imagerie médicale 221 Séance 14

[Arg14] Sylvain Arguillere. Géométrie sous-riemannienne en dimension infinie et applications

1.1 Géométries non-euclidiennes

Les géométries non euclidiennes — Toute conclusion suppose

On a longtemps cherché en vain à démontrer également le

La Géométrie de Lobatchevsky. — S’il était possible de déduire

1.2 Métriques locales sur un ouvert de Rn

ginaires, ce sera l’étude des lois suivant lesquelles se meuvent les

au sujet de la réfraction et de la courbure des rayons lumineux,

son champ de températures,

La forme quadratique d2x : dx 7→ d2 (x → x + dx), que l’on appellera métrique Riemannienne

Pour la métrique intrinsèque d2 , on a par contre

1.3 La géométrie Riemannienne : l’exemple du tore

1.4 Applications en vue : l’anatomie computationnelle

Matching et transfert de données Enfin, un dernier type de problèmes issu de la neuro-

(a) Courbe de croissance. (b) Exemples de malformations cardiaques.

(a) Construction de l’atlas (b) Cœur moyen, avec son mille-feuilles de

Figure 1.5 – Autre estimation d’atlas de données cardiaques – ventricules droits.

Figure 1.6 – Deux exemples de transfert de modèle anatomique.

Lnp = {(x1 , . . . , xn ) ∈ Rp | ∀i 6= j, xi 6= xj } , (1.13)

1.5 Variétés : un petit guide de survie

ϕ(U ∩ M ) = Rd × {0} ∩ ϕ(U ). (1.14)

Suivant le polycopié de géométrie différentielle de M. Viterbo, dont on s’inspirera ici forte-

Figure 1.7 – Carte pour une sous-variété de dimension 1 du plan.

Proposition 1.1. Soit M ⊂ Rn . Alors M est une sous-variété de dimension d si et seulement

U ∩ M = U ∩ A(z, f (z)) | z ∈ Rd . (1.15)

Équation Il existe une application F : U → Rn−d telle que

soit bijective, continue, d’inverse continue.

est une application C ∞ .

Rendez-vous la semaine prochaine pour la fin de cette introduction au vocabulaire de la

Figure 1.8 – Atlas de cartes sur une variété abstraite.

Intuitions sur la courbure,

2.2 Intuitions sur la courbure

Définition 2.1 (Courbure). Soit p un point de la courbe. La courbure de γ en p = γ(t) est

2.2.2 Dans l’espace

Définition 2.3 (Courbure Principale). Soit p ∈ S, on note n la normale à S en p. Soit Π un

2.4 Fibrés Vectoriels

mz̈ = −mg. (2.1)

(a) Fibres dessinées tangentes au cercle. (b) L’espace de base E = S 1 × R.

Le coup de génie est alors de remarquer que, pour le Hamiltonien

On note respectivement T k (V ), Tl (V ) et Tlk (V ) ces ensembles de tenseurs.

On a en particulier : T 1 (V ) = V ? , T1 (V ) = V et T11 (V ) = End(V ).

2.6 Fibré Tensoriels, Champs de Tenseur