Introduction rapide aux formes modulaires

Les deux premiers cours seront consacrés aux propriétés élémentaires des formes
modulaires. Il s’agit uniquement d’un survol, très loin d’être une présentation
sérieuse de ce sujet. Des références excellentes sont le livre de Serre, les notes
de Gaëtan Chenevier (cf. sa page web), le livre de Diamond-Shurman ou l’excellent
article de Diamond-Im. Pour plus d’exemples et des applications plus "exotiques"
des formes modulaires, cf. l’article de Zagier dans 1,2,3 of modular forms.

1 Formes modulaires: propriétés "élémentaires"

Les formes modulaires sont certaines fonctions holomorphes "très symétriques" sur
le demi-plan de Poincaré

H = {z ∈ C| Im(z) > 0},

les symétries étant fournies par l’action du groupe

GL2 (R)+ = {g ∈ GL2 (R)| det g > 0}

sur H , via !
a b az + b
.z = .
c d cz + d
On vérifie en effet que
!
az + b Im(z)
Im = det g · > 0.
cz + d |cz + d|2

Pour tout entier k on peut définir une action (à droite) "de poids k" du groupe
G = SL2 (R) sur l’espace O(H ) des fonctions holomorphes sur H en posant
!
1 a b
f |k γ(z) = f (γ.z), γ = .
(cz + d)k c d

Exercice 1.1. Vérifier qu’il s’agit bien d’une action de groupe.

Les deux groupes ci-dessus vont jouer un rôle crucial dans la suite

G = SL2 (R), Γ(1) = SL2 (Z).

Definition 1.1. Un sous-groupe arithmétique de Γ(1) sera (pour nous) un

sous-groupe d’indice fini de Γ(1).

1
 Des exemples importants sont le sous-groupe de congruence principal Γ(N ) de
niveau l’entier N ≥ 1, formé des matrices g ∈ Γ(1) telles que g ≡ 1 (mod N ), et
surtout (pour la théorie des formes modulaires) les groupes Γ0 (N ) (resp. Γ1 (N ))
formé des matrices g ∈ Γ(1) dont la réduction modulo N est triangulaire supérieure
(resp. triangulaire supérieure unipotente).
Exercice 1.2. Vérifier que Γ(N ) est distingué d’indice fini dans Γ(1), que Γ1 (N ) est
distingué dans Γ0 (N ) et que Γ0 (N )/Γ1 (N ) ' (Z/N Z)∗ via g = ( ac db ) → d.
Dans toute la suite de ce texte Γ sera un sous-groupe arithmétique de
Γ(1).
Le sous-espace
F Mk (Γ) = {f ∈ O(H )| f |k γ = f, ∀γ ∈ Γ}
des fonctions fixées par l’action de Γ est appelé l’espace des formes faiblement
modulaires de poids k et niveau Γ. Il s’agit souvent d’un espace de dimension
infinie. Pour se ramener à des espaces de dimension finie et enfin définir la notion
de forme modulaire, nous introduisons:
Definition 1.2. On dit qu’une fonction f ∈ O(H ) est à croissance modérée si
pour tout α ∈ Γ(1) la fonction f |k α possède une limite finie quand Im(z) → ∞. On
dit que f est nulle aux pointes de Γ si de plus cette limite est nulle.
Voir le paragraphe 5.2 pour les considérations géométriques implicites dans la
définition un peu étrange ci-dessus. Le point à retenir est que le quotient Γ\H
est une surface de Riemann non compacte, et que l’on peut la compactifier en lui
ajoutant un nombre fini de points, appelés pointes. La condition de croissance
modérée (resp. annulation aux pointes) est celle qu’il faut pour éviter qu’une telle
fonction explose (resp. s’annule) quand elle s’approche des pointes de la surface.
Definition 1.3. Soit Γ un sous-groupe arithmétique de Γ(1).
a) L’espace Mk (Γ) des formes modulaires de poids k pour Γ est le sous-
espace de F Mk (Γ) formé des fonctions à croissance modérée.
b) L’espace Sk (Γ) des formes cuspidales ou paraboliques de poids k et
niveau Γ est le sous-espace de Mk (Γ) formé des fonctions nulles aux pointes.
Nous verrons plus loin dans ces notes que grâce aux conditions de croissance
imposées, les espaces Mk (Γ) sont de dimension finie (c’est tout sauf évident vu leur
définition!).
Remarque 1.3. a) Prenons Γ = Γ(1). Il est classique (et pas difficile) de vérifier que
Γ est engendré par S = ( 01 −1 1 1
0 ) et T = ( 0 1 ), qui agissent par z → −1/z et z → z + 1
sur H . Ainsi
F Mk (Γ(1)) = {f ∈ O(H )| f (z + 1) = f (z), f (−1/z) = z k f (z)}
et Mk (Γ(1)) est le sous-espace des fonctions ayant une limite finie quand Im(z) → ∞.
b) Il est immédiat, mais très utile de voir que si f ∈ Mk (Γ) et g ∈ Ml (Γ),
alors f g ∈ Mk+l (Γ). Si g ∈ Sl (Γ) on a f g ∈ Sl (Γ). Voir l’exercice ci-dessous pour
P
une re-interprétation. Ainsi M (Γ) = k Mk (Γ) est une sous-algèbre de O(H ) et
P
S(Γ) = k Sk (Γ) en est un idéal.
Exercice 1.4. Montrer que les sous-espaces Mk (Γ) (k ∈ Z variable) sont en somme
directe dans O(H ).
Exercice 1.5. Montrer que Mk (Γ(1)) = 0 si k est impair.
Exercice 1.6. Si f ∈ Mk (Γ) et α ∈ Γ(1), alors f |k α ∈ Mk (α−1 Γα).

2
2 q-développement d’une forme modulaire
Soit Γ un sous-groupe arithmétique de Γ(1) et soit f ∈ F Mk (Γ). Comme Γ est
d’indice fini dans Γ(1), on a

Γ∞ := Γ ∩ ( 10 Z1 ) = ( 10 hZ
1 )

pour un (unique) entier h > 0. Alors f ∈ O(H ) et f (z) = f (z +h). Soit en utilisant
l’analyse de Fourier sur R combinée aux équations de Cauchy-Riemann, soit de
∗
manière plus savante en utilisant le biholomorphisme entre ( 10 hZ 1 ) \H et D =
2iπz/h
{z ∈ C|0 < |z| < 1} induit par z → qh : (z → e ), on obtient l’existence d’une
P n ∗
fonction holomorphe n∈Z an q dans D (la série étant absolument convergente sur
tout compact de D∗ ) telle que

an qhn , qh := e2iπz/h .
X
f (z) =
n∈Z

On appelle cela le q-développement à l’infini de f . Notons que si α ∈ Γ(1),

la fonction f |k α ∈ F Mk (α−1 Γα), donc f |k α possède aussi un q-développement à
l’infini (attention, h et les an changent!), qui n’a pas grand chose en commun avec
celui de f . Donc chaque f induit plusieurs q-développements à l’infini, sauf bien
sûr si Γ = Γ(1).
Si f (z) = n∈Z an qhn est le q-développement à l’infini de f , alors
P

X −2πyn 2iπnx
f (x + iy) = an e h ·e h

n∈Z

et donc
1Zh
−2πyn 2iπnx
an · e h f (x + iy)e− h .
=
h 0
Une application fort utile de cette discussion est l’énoncé suivant, qui explique
mieux la notion de croissance modérée.
Proposition 2.1. Soit f = n∈Z an qhn le q-développement à l’infini de f ∈ M Fk (Γ),
P

avec Γ∞ = ( 10 hZ
1 ). Les assertions suivantes sont équivalentes:
a) limIm(z)→∞ f (z) existe et est finie.
b) Il existe N ≥ 1 et c > 0 tels que |f (x + iy)| ≤ cy N pour tous x ∈ R et y ≥ 1.
c) On a an = 0 pour n < 0.
Les assertions suivantes sont équivalentes:
a) limIm(z)→∞ f (z) = 0
b) an = 0 pour n ≤ 0.
c) Il existe c > 0 tel que |f (x + iy)| ≤ ce−2πy/h pour x ∈ R et y ≥ 1.
Proof. Il est clair que a) entraîne b) et que c) entraîne a) (la limite est a0 , bien sûr).
Le fait que b) entraîne c) se déduit en faisant, pour n < 0, y → ∞ dans
Z h
2πny 2iπnx
h|an |e− h =| f (x + iy)e− h dx| ≤ cy N h.
0

ii) Vu ce qui précède, le seul point non évident est que b) entraîne c). Mais il
est aussi clair, car a1 + a2 q + ... est bornée sur le disque unité, et donc |f (z)| =
O(|qh |) = O(e−2πy/h ) uniformément en x.

3
 Attention: il ne suffit pas de tester l’annulation des an pour n < 0 pour conclure
que f est modulaire. En effet, il faut vérifier le même genre d’annulation pour les
q-développements à l’infini de toutes les fonctions f |k α, avec α ∈ Γ(1). Cela peut
être très pénible, mais on le résultat suivant permet d’éviter la fatigue inutile:

Théorème 2.1. Soit f (z) = n≥0 an qhn ∈ F Mk (Γ) telle que an = O(nN ) pour un
P

certain N ≥ 1. Alors f ∈ Mk (Γ).

Proof. Soit α = ( ac db ) ∈ Γ(1) et F := f |k α. Alors F ∈ F Mk (Γ1 ) avec Γ1 := α−1 Γα,

un sous-groupe arithmétique de Γ(1). D’après la proposition précédente, il suffit
donc de montrer que |F (x + iy)| ≤ Cy N pour y ≥ 1, avec C, N convenables. Par
périodicité par rapport à x, on peut supposer que x reste dans un compact fixé. Le
cas c = 0 étant trivial, on suppose dans la suite que c 6= 0 et que y ≥ 1.
y
Posons z = x + iy et α.z = u + iv, alors v = |cz+d| 2 et comme x reste dans
C 1
un compact, on a y ≤ v ≤ y pour une constante C et y ≥ 1. De plus, comme
|cz + d| ≥ y ≥ 1, on a

f (u + iv)|
|an |e−2πnv/h .
X
|F (x + iy)| = ≤ |f (u + iv)| ≤
(cz + d)k n≥0

L’hypothèse an = O(nN ) montre (exercice d’analyse réelle) l’existence d’une con-

0
stante C 0 telle que la dernière série soit majorée par vNC+1 pour 0 < v ≤ 1. Enfin,
v ≥ C/y, ce qui permet de conclure.

3 Séries de Poincaré et Eisenstein

Pour construire des fonctions dans F Mk (Γ), la manière la plus naturelle est de
considérer des "moyennes" selon Γ. La difficulté évidente est que Γ est infini.
Soit h > 0 tel que
Γ∞ = ( 10 Z1 ) ∩ Γ = ( 10 hZ
1 ).

Si ϕ ∈ O(H ) est h-périodique, on peut tenter de considérer

X
f= ϕ|k γ,
γ∈Γ∞ \Γ

qui est bien Γ-invariante...si la série converge. Prenons ϕ bornée et notons que si
deux matrices dans Γ diffèrent par un élément de Γ∞ (à gauche), alors elles ont la
même deuxième ligne, dont les éléments sont des entiers premiers entre eux. Donc
X X 1 X 1
|f (z)| = | ϕ|k γ(z)| ≤ ||ϕ||∞ · k
≤ ||ϕ||∞ .
γ∈Γ∞ \Γ pgcd(c,d)=1
|cz + d| (c,d)∈Z2 −{(0,0)}
|cz + d|k

D’autre part, on a le très utile et simple:

1
Lemme 3.1. La série (c,d)∈Z2 −{(0,0)} (cz+d)
P
k converge absolument et uniformément

sur tout compact de H si k ≥ 3. Elle est identiquement nulle si k est impair et

tend vers 2ζ(k) quand Im(z) → ∞ si k est pair.

4
Proof. Soit A un compact de H , il existe donc ε > 0 tel que y ≥ ε et |x| ≤ ε−1
pour z = x + iy ∈ A. Si (c, d) ∈ Z2 − {(0, 0)} et z = x + iy ∈ A on obtient
|cz + d| ≥ |c||y| ≥ ε|c|, mais aussi1

2 2 d2 y 2 2 2
|cz + d| = (cx + d) + c y ≥ 2 2
≥ Cd2
x +y
1 P
pour une constante C (dépendant de ε). Comme la série c,d max(|c|,|d|) k converge

pour k ≥ 3, cela finit le premier point. Le deuxième est laissé au lecteur.

Le même genre d’argument combiné avec l’observation que pour tout α ∈ Γ(1)
X
f |k α = ϕ|k γ,
γ∈Γ∞ \Γα

montre que f |k α est bornée à l’infini, ce qui fournit:

Théorème 3.1. (Poincaré) Si k ≥ 3 et ϕ est une fonction holomorphe, h-périodique

et bornée2 sur H , alors f = γ∈Γ∞ \Γ ϕ|k γ est dans Mk (Γ).
P

Une série construite comme ci-dessus s’appelle série de Poincaré. On peut

montrer que les séries de Poincaré engendrent Mk (Γ), mais il n’est pas facile (et
c’est toujours un problème ouvert...) de décider si une série de Poincaré donnée est
identiquement nulle.
Prenons ϕ la fonction constante 1 et, pour simplifier, Γ = Γ(1). La série de
Poincaré correspondante est (k ≥ 3)
X 1 1 X 1
f (z) = k
= Gk (z), où Gk (z) = .
pgcd(c,d)=1
(cz + d) ζ(k) (m,n)∈Z2 −{(0,0)}
(mz + n)k

Les séries Gk s’appellent séries d’Eisenstein. Pour des raisons évidentes de

symétrie, on a Gk = 0 pour k ≥ 3 impair.

Théorème 3.2. Si k ≥ 4 est un entier pair Gk ∈ Mk (Γ(1)) et son q-développement

est, avec σr (n) = d|n dr
P

(−2iπ)k X
Gk (z) = 2ζ(k) + 2 σk−1 (n)q n .
(k − 1)! n≥1

Proof. Le premier point a été déjà vu. Concernant le q-développement, on a

X 1 X 1 X X 1
Gk (z) = k
=2 k
+2 k
.
(m,n)∈Z2 −{(0,0)}
(mz + n) n≥1 n m≥1 n∈Z (mz + n)

Il suffit donc de démontrer le résultat suivant:

1
L’inégalité se déduit de Cauchy-Schwarz:

(x2 + y 2 )((cy)2 + (cx + d)2 ) ≥ (−xcy + y(cx + d))2 = d2 y 2 .

2
La fonction qhn en est un exemple!

5
Lemme 3.2. (Euler) Si k ≥ 2 et z ∈ H , on a

X 1 (−2iπ)k X k−1 d
k
= d q .
n∈Z (n + z) (k − 1)! d≥1

Cela se démontre en dérivant k − 1 fois l’identité d’Euler

1 X 1 1
 
πcot(πz) = + + .
z n≥1 z−n z+n

2iπ
Noter que le terme à gauche vaut (avec q = e2iπz ) iπ − 1−q = −iπ − 2iπ d≥1 q d ,
P
P 1
alors que le terme à droite "vaut" n∈Z z+n (bien sûr, la série ne converge pas, mais
elle converge une fois que l’on dérive...).
Pour pas mal de questions il est convenable de re-normaliser les Gk , en définissant
(pour k ≥ 4 pair)
Gk
Ek := ,
2ζ(k)
ainsi le coefficient a0 du q-développement à l’infini de Ek est 1, en particulier Ek ∈
/
Sk (Γ(1)). On a par exemple

σ3 (n)q n , E6 (z) = 1 − 504 σ5 (n)q n .

X X
E4 (z) = 1 + 240
n≥1 n≥1

Théorème 3.3. Les coefficients du q-développement à l’infini de Ek sont rationnels.

Proof. Il faut voir que ζ(k)/(2iπ)k ∈ Q pour k ≥ 2 pair, un résultat célèbre d’Euler.
Rappelons l’argument magique: on re-écrit l’identité d’Euler ci-dessous sous la forme
1
1 − πzcot(πz) = 2z 2 = 2z 2 (ζ(2) + z 2 ζ(4) + z 4 ζ(6) + ...).
X

n≥1 n2 − z2

en utilisant la formule 1/(1 − x) = 1 + x + x2 + .... D’autre part, un calcul immédiat

2iπz
montre que le terme à gauche s’écrit 1 − iπz − e2iπz −1
. Considérons la suite (Bn )
des nombres de Bernouilli, définis par

X X Xn X 1 X2 1 X4
= Bn = 1 − + · − · + ...
eX − 1 n≥0 n! 2 6 2 30 24

On vérifie sans problème que Bn ∈ Q pour tout n, et d’autre part l’identité ci-dessus
montre que
Bk
ζ(k) = − (2iπ)k ,
2k!
ce qui permet de conclure.

4 Croissance des coefficients

Nous allons étudier maintenant la croissance des fonctions cuspidales. Le résultat
suivant sera très utile:

6
Théorème 4.1. (Gauss) L’ensemble
D = {z ∈ C| |z| ≥ 1, |Re(z)| ≤ 1/2}
est un domaine fondamental de Γ(1) agissant sur H , i.e. H = ∪γ∈Γ(1) γ.D et les
ensembles γ.Int(D) sont deux à deux disjoints.
Proof. Je donne la preuve de la première partie uniquement, car elle est très jolie (et
c’est cette partie que l’on utilisera dans la suite). Soit z ∈ H . Comme Im(γz) =
Im(z)
|cz+d|2
et zZ + Z est discret, il est clair que l’ensemble S des z 0 ∈ Γ(1)z tels que
Im(z 0 ) soit maximal est non vide. De plus, S est stable par z 0 → z 0 + 1, donc S
0)
contient un élément z 0 tel que |Re(z 0 )| ≤ 1/2. On a Im(z 0 ) ≥ Im(−1/z 0 ) = Im(z0
|z | 2 ,
donc |z | ≥ 1 et donc z ∈ D ∩ Γ(1)z, ce qui montre que H = ∪γ∈Γ(1) γ.D.
0 0

Exercice 4.2. Finir la preuve du théorème, en démontrant la deuxième assertion.

Fixons k ∈ Z. Si f est une fonction sur H , posons
k
ϕf : H → R≥0 , ϕf (x + iy) = |f (x + iy)|y 2 .
On a alors pour tout α = ( ac db ) ∈ G
!k
k Im(z) 2
ϕf (α.z) = |f (α.z)|Im(α.z) = |f (α.z)| ·
2 = ϕf |k α (z).
|cz + d|2
En particulier, si f ∈ Mk (Γ), alors ϕf (α.z) = ϕf (z) pour tout α ∈ Γ et z ∈ H .
Une propriété cruciale est la suivante:
Proposition 4.1. Si f ∈ Sk (Γ), alors ϕf est bornée sur H .
`
Proof. Soit D comme dans le théorème ci-dessus. Ecrivons Γ(1) = i∈I Γγi avec un
nombre fini de γi ∈ Γ(1). Alors H = ∪i∈I,γ∈Γ γγi D. Comme ϕf est Γ-invariante, il
reste à voir qu’elle est bornée sur chaque γi D, ou encore, que ϕf |k γi est bornée sur
D. Fixons i et posons fi := f |k γi . Comme f ∈ Sk (Γ), on a fi ∈ Sk (γi−1 Γγi ), donc
fi (x + iy) = O(e−cy ) quand y → ∞, uniformément en x + iy ∈ D, pour un certain
c > 0 (proposition 2.1). On en déduit que ϕfi (x + iy) tend vers 0 quand x + iy ∈ D
tend vers l’infini. Cela permet de conclure, car ϕfi est continue.

Une première application de la proposition est l’ important résultat suivant:

Théorème 4.3. (Hecke) Si f ∈ Sk (Γ), alors an = O(nk/2 ). En fait
|an |2 =x→∞ O(xk ).
X

n≤x

Proof. Comme ϕf est bornée, il existe C > 0 tel que |f (x + iy)| ≤ Cy −k/2 pour tous
x + iy ∈ H . Comme f (x + iy) = n≥1 an e−2πny/h e2iπnx/h , la formule de Parseval
P

fournit (c est une certaine constante...)

Z h
2 −4πny/h
|f (x + iy)|2 dx ≤ c0 y −k .
X
|an | e =c
n≥1 0

|an |2 ≤ c0 N k . Cela
P
Si N > 0 est un entier, en prenant y = 1/N on obtient n≤N
finit la preuve du théorème.

7
Remarque 4.4. La méthode de Rankin-Selberg (que l’on ne discutera pas ici) permet
de montrer que la majoration n≤N |an |2 = O(N k ) est optimale. En revanche, la
P

majoration an = O(nk/2 ) n’est pas optimale. Un théorème très profond de Deligne

k−1
donne an = O(n 2 +ε ) pour tout ε > 0.
Exercice 4.5. Montrer que si an est le n-ème coefficient de Ek , alors il existe c, C > 0
tels que pour tout n ≥ 1 on ait cnk−1 ≤ an ≤ Cnk−1 .
Voici une deuxième application (des méthodes géométriques discutées dans le
paragraphe 5.2 fourniraient une preuve plus naturelle que celle ci-dessus...):
Théorème 4.6. On a S0 (Γ) = 0 et M0 (Γ) = C.
Proof. Si f ∈ S0 (Γ), la fonction ϕf (z) = |f (z)| est bornée sur H et tend vers 0
à l’infini. Elle possède donc un maximum sur D (le domaine fondamental usuel).
Par le principe du maximum f est constante et comme f est nulle à l’infini, elle est
nulle tout court.
La preuve de M0 (Γ) = C est plus pénible. On commence par le faire quand
Γ = Γ(1). Dans ce cas si f = a0 +a1 q +... est le q-développement de f à l’infini, alors
f − a0 est clairement dans M0 (Γ) et s’annule à l’infini, donc est dans S0 (Γ) = 0 (le
point essentiel est qu’il n’y a qu’une seule condition du type limIm(z)→∞ f |0 α(z) = 0
à vérifier quand Γ = Γ(1)). Cela permet de conclure. Dans le cas général, écrivons
Γ(1) = ri=1 Γαi et considérons le polynôme P (T ) = ri=1 (T −f |0 αi ). Ses coefficients
` Q

sont clairement dans M0 (Γ(1)), donc constants. D’autre part P (f ) = 0, autrement

dit f est solution d’une équation polynomiale et donc f est constante.

5 La fonction ∆ et la structure de Mk (Γ(1))

Dans ce paragraphe Γ = Γ(1) et, pour simplifier les notations, on pose Mk =
Mk (Γ(1)), Sk = Sk (Γ(1)).
Nous commençons par démontrer le magnifique et délicat théorème suivant:
Théorème 5.1. (Jacobi) La fonction suivante est dans S12 :
(1 − q n )24 = q − 24q 2 + 252q 3 − 1472q 4 + ...
Y
∆(z) = q
n≥1

Notons que l’holomorphie et la 1-périodicité sont claires, donc par la remarque

1.3 il "suffit" de vérifier que ∆(−1/z) = z 12 ∆(z). C’est évidemment tout sauf
évident!
Notons que ∆ ne s’annule pas dans H , on peut donc poser f (z) = ∆(−1/z) z 12 ∆(z)
et on veut montrer que f est constante, égale à 1. Il suffit de montrer que f est
constante, car on a clairement f (i) = 1. Notons aussi que la dérivée logarithmique
de f s’exprime facilement à partir de celle de ∆:
f 0 (z) ∆0 (−1/z) 1 12 ∆0 (z)
= · 2− −
f (z) ∆(−1/z) z z ∆(z)
et (en utilisant encore 1/(1 − x) = 1 + x + x2 + ...)
 
∆0 (z) X qn
σ1 (n)q n ).
X
= 2iπ 1 − 24 n
 = 2iπ(1 − 24
∆(z) n≥1 1 − q n≥1

8
L’expression 1 − 24 n≥1 σ1 (n)q n ressemble drôlement au q-développement d’une
P

hypothétique série d’Eisenstein G2 , qui n’existe pas vraiment en tant que forme
modulaire... Ceci étant dit, on va voir que l’on peut définir
!
X X 1
G2 (z) :=
c d (cz + d)2

en tant que série convergente (mais pas absolument convergente!) et que l’on a

π2
σ1 (n)q n ),
X
G2 (z) = (1 − 24
3 n≥1

ce qui fait que l’annulation de f 0 /f revient finalement à

G2 (−1/z) = z 2 G2 (z) − 2iπz.

Montrer cette identité sera le noyau dur de la preuve.

Pour simplifier un peu les formules, on fait la convention que dans toutes les
sommes ci-dessus on ne considère que des paires (c, d) ∈ Z2 \{(0, 0)}, pour lesquelles
1
(cz+d)2
a un sens quand z ∈ H .
Commençons par la partie "facile". Le lemme 3.2 montre que pour tout c 6= 0
1 2P |c|d
2 est égale à −4π
P
la série (absolument convergente) d (cz+d) d≥1 dq . D’autre
part, on voit directement que

dq |c|d = 2 dq cd = 2 σ1 (n)q n ,
XX X X

c6=0 d≥1 c,d≥1 n≥1

toute série manipulée ci-dessus étant convergente. Cela montre que

!
1 X X 1 π2 π2
−8π 2 σ1 (n)q n = (1−24 σ1 (n)q n ).
X X X
G2 (z) = 2
+ 2
=
d6=0 d c6=0 d (cz + d) 3 n≥1 3 n≥1

Notons que cette fonction G2 est nettement plus délicate que les G4 , G6 , ..., à
cause de l’absence de convergence absolue des séries utilisées. Passons au coeur de
l’argument et montrons que

G2 (−1/z) = z 2 G2 (z) − 2iπz.

P 1
Ca sera très fin... On "régularise" G2 en remarquant que d∈Z (cz+d)(cz+d+1) = 0
pour tout c (somme télescopique!). Donc
!
X 1 X X 1 X 1
G2 (z) = 2
+ 2
− =
d6=0 d c6=0 d (cz + d) d (cz + d)(cz + d + 1)

X 1 XX 1 X 1 XX 1
= 2
+ 2
= 2
+ 2
,
d6=0 d c6=0 d (cz + d) (cz + d + 1) d6=0 d d c6=0 (cz + d) (cz + d + 1)

la permutation finale étant justifiée par la convergence absolue de la somme3

3 1
P
C’est la raison pour laquelle on a soustrait d∈Z (cz+d)(cz+d+1) !

9
 Ensuite, on a
1 XX 1 XX 1 X 1 XX 1
G2 (−1/z) = = = + ,
d (dz − c)
2 2 2 2 2
z c c d (dz + c) c6=0 c d c6=0 (cz + d)

la dernière égalité demandant un petit moment de réflexion.

En comparant, on obtient, en utilisant encore une fois l’identité d’Euler
!
1 XX 1 1
2
G2 (−1/z) − G2 (z) = 2
− 2
z d c6=0 (cz + d) (cz + d) (cz + d + 1)

N −1 X
1 1 1
XX X  
= = lim − .
c6=0 (cz + d)(cz + d + 1) d=−N c6=0 cz + d cz + d + 1
N →∞
d
!
X 1 1 2X 1 1

= lim − = lim − N + N =
N →∞
c6=0 cz − N cz + N N →∞ z c≥1 z
−c z
+c
2 πN z 2iπ
 
lim − π cot − = .
N →∞ z z N z
Cela permet de conclure.
π
Exercice 5.2. Montrer que la fonction (pas holomorphe!) f (z) = G2 (z)− Im(z) vérifie
f |2 γ = f pour γ ∈ Γ(1).
Le résultat précédent a beaucoup d’applications concernant la structure des es-
paces Mk := Mk (Γ(1)) et Sk := Sk (Γ(1)), qui sont résumés dans le théorème et les
deux corollaires ci-dessus:
Théorème 5.3. a) On a S0 = 0, M0 = C, Mk = 0 pour k < 0 et Sk = 0 pour
k < 12. De plus, Mk = CEk pour k = 4, 6, 8, 10, M2 = 0 et S12 = C∆.
b) Pour tout k on a Sk = ∆ · Mk−12 . De plus, pour tout k ≥ 2 pair dim Mk est
k k
b 12 c si k ≡ 2 (mod 12) et 1 + b 12 c sinon.
Proof. Nous allons utiliser les observations suivantes plusieurs fois:
• Mk = CEk ⊕ Sk pour k ≥ 4 pair. En particulier dim Mk = 1 + dim Sk .
• Si f ∈ Sk , alors f /∆ ∈ Mk−12 , en particulier Sk = ∆Mk−12 . En effet,
l’invariance par Γ(1) pour l’action de poids k−12 est claire, tout comme l’holomorphie
(noter le point crucial: ∆ ne s’annule pas sur H ). Pour ce qui est de la croissance
à l’infini, il suffit de noter que f = O(q) et ∆ = q(1 + O(q)) (deuxième propriété
essentielle de ∆!).
a) On a déjà vu que S0 = 0 et M0 = C. Si k < 0 et f ∈ Mk , alors f 12 ∆−k ∈ S0 =
0, donc f = 0. Ensuite, si k < 12 et f ∈ Sk , alors f /∆ ∈ Mk−12 = 0 (deuxième
observation ci-dessus). On en déduit aussi que Mk = CEk pour k = 4, 6, 8, 10
(première observation ci-dessus!). Si f ∈ S12 , alors f /∆ ∈ M0 = C, donc S12 = C∆.
Il reste à voir que M2 = 0. Or si f ∈ M2 , on a f 2 ∈ M4 et f 3 ∈ M6 , donc
f 2 = αE4 , f 3 = βE6 pour des nombres α, β ∈ C. Si f 6= 0, on obtient alors
E43 = γE62 pour un γ ∈ C. En regardant le q-développement on voit que cela est
impossible.
b) Le premier point a été déjà vu. On montre la relation concernant dim Mk par
récurrence sur k, en passant de k à k + 12. Pour 0 ≤ k ≤ 10 cela a été vérifié, et on
passe de k à k + 12 en utilisant les relations Mk = CEk ⊕ Sk et Sk = ∆Mk−12 pour
k ≥ 12, qui montrent que dim Mk = 1 + dim Mk−12 .

10
Corollaire 5.1. On a
E43 − E62
∆= .
1728
Proof. Les deux termes sont dans S12 = C∆, donc sont proportionnels. Pour iden-
tifier la constante, on regarde le coefficient de q dans le q-développement.

Corollaire 5.2. Si k ≥ 4 est pair, une base de Mk est donnée par les E4r E6s pour
les entiers r, s ≥ 0 tels que 4r + 6s = k.

Proof. On vérifie sans mal que le nombre de paires (r, s) est le même que dim Mk ,
donc il suffit de montrer que la famille en question est génératrice. Il est facile de
voir que pour tout k ≥ 4 pair il existe r, s ≥ 0 tels que k = 4r + 6s. Fixons une telle
paire (r, s) et notons que pour tout f ∈ Mk on a f − f (∞)E4r E6s ∈ Sk = ∆Mk−12 .
E43 −E62
Comme ∆ = 1728 , on peut conclure par récurrence sur k.
Exercice 5.4. a) Montrer que E42 = E8 . En déduire que pour tout n ≥ 2
n−1
X
σ7 (n) = σ3 (n) + 120 σ3 (j)σ3 (n − j).
j=1

b) Montrer que E4 E6 = E10 et écrire l’identité analogue à celle dans a) qui s’en
déduit.
Soit f ∈ Mk . Si z ∈ H on note vz (f ) l’ordre d’annulation de f en z, et on
note v∞ (f ) = vq (f ) (si f = a0 + a1 q + ... est le q-développement de f , vq (f ) est
le plus petit n tel que an 6= 0). Soit aussi ez le cardinal du stabilisateur de z dans
PSL2 (Z). Les quantités vz (f ) et ez ne dépendent que de Γ(1)z, et ez = 1 sauf si
z ∈ Γ(1)i ∪ Γ(1)ρ, avec ez = 2 pour z ∈ Γ(1)i et ez = 3 pour z ∈ Γ(1)ρ.

Théorème 5.5. (la formule k/12) Pour tout f ∈ Mk non nulle on a

X vz (f ) k
v∞ (f ) + = .
z∈Γ(1)\H
ez 12

Proof. Voir le livre de Serre ou les notes de Chenevier. L’idée est d’intégrer f 0 /f le
long de la frontière de D, mais les détails sont assez pénibles...
Une application importante du théorème ci-dessus est le:

Théorème 5.6. Si Γ est un sous-groupe arithmétique de Γ(1), alors Mk (Γ) est de

k
dimension finie, majorée par 1 + 12 [Γ(1) : Γ].

Proof. (merci à Gaëtan Chenevier pour cette preuve élégante) Prenons un en-
k
tier N > 12 [Γ(1) : Γ] et considérons z1 , .., zN ∈ Int(D) (D étant le domaine
fondamental usuel). On va montrer que l’application Mk (Γ) → CN envoyant f
sur (f (z1 ), ..., f (zN )) est injective, ce qui permettra de conclure. Supposons que
f ∈ Mk (Γ) est non nulle et f (zi ) = 0 pour i = 1, ..., N . Alors N (f ) := α∈Γ\Γ(1) f |k α
Q

est clairement dans Mk[Γ(1):Γ] (Γ(1)) et s’annule aussi en chacun des zi . Par le
théorème précédent cela force N (f ) = 0. Comme O(H ) est intègre, on doit avoir
f |k α = 0 pour un α ∈ Γ(1), et donc f = 0. Cela permet de conclure.

11
5.1 Séries theta et sommes de carrés
Soit rk (n) le nombre de (n1 , ..., nk ) ∈ Zk tels que n21 + ... + n2k = n.
Théorème 5.7. (Jacobi) La fonction Fk (z) = n≥0 rk (n)q n (avec q = e2iπz ) est un
P

élément de Mk/2 (Γ0 (4)) si k ≥ 1 est un multiple de 4.

Notons que
2 2
rk (n)q n = q n1 +...+nk = θ(z)k ,
X X
Fk (z) =
n≥0 n1 ,...,nk ∈Z

où θ est la fonction θ de Jacobi

2
q n = 1 + 2q + 2q 4 + 2q 9 + ...
X
θ(z) =
n∈Z

Le théorème découle alors directement du résultat plus précis suivant ( attention

d−1
cependant, il n’est pas vrai que θ2 ∈ M1 (Γ0 (4)), précisément à cause du (−1) 2
apparaissant dans la formule ci-dessous!), compte tenu aussi du fait que les rk (n)
ont un comportement au plus polynomial quand n → ∞ (ce qui permet d’utiliser
le théorème 2.1 pour vérifier la condition de croissance aux pointes).
d−1
On vérifie sans problème que l’application χ : Γ0 (4) → C∗ , χ(( ac db )) = (−1) 2
est un caractère de Γ0 (4), i.e. un morphisme de groupes.
Théorème 5.8. (Jacobi) On a θ2 ∈ M1 (Γ0 (4), χ), i.e. θ2 ∈ M1 (Γ0 (4)) et θ2 |1 γ =
χ(γ)θ2 pour γ ∈ Γ0 (4).
 
Proof. On va utiliser le fait (exercice) que Γ0 (4) est engendré par −1 0 1 1
0 −1 , ( 0 1 ) et
( 14 01 ). La loi de transformation est immédiatement vérifiée pour les deux premières
matrices (mais noter que c’est la première qui interdit à θ d’être une forme modulaire
z
de poids 1 pour Γ0 (4)!). Il reste donc à voir que f ( 4z+1 ) = (4z + 1)f (z), où f = θ2 .
z 1 1 x
En posant 4z+1 = − 4x on a z = − 4(x+1) et 4z + 1 = x+1 . Il suffit donc de vérifier
1
que f (− 4x ) = −2xif (x) pour tout x, car alors
x 1 x
(4z + 1)f (z) = f (− )= · (−2i(x + 1))f (x + 1)
x+1 4(x + 1) x+1
1 z
= −2ixf (x) = f (− ) = f( ).
4x 4z + 1
De manière équivalente, on veut f ( iz2 ) = z −1 f ( 2zi ) et il suffit de voir cela quand
z = t > 0, i.e. on veut θ( it2 ) = t−1/2 θ( 2ti ) ou encore
2 1 X − πn2
e−πn t = √
X
e t .
n∈Z t n∈Z

C’est une application de la formule de Poisson4 , pour la fonction (on fixe t > 0)
4
Si f : R → C est continue et L1 et si g(x) =
P
n∈Z f (x + n) converge absolument et
uniformément sur tout compact, et si g est lisse, alors g(x) =
P ˆ 2iπnx
, avec fˆ(t) =
n∈Z f (n)e
−2iπxt ˆ
R P P
R
f (x)e dx. En particulier n∈ZP f (n) = n∈Z f (n). Pour démontrer la formule noter que
g est 1-périodique et lisse, donc g(x) = n∈Z ĝ(n)e2iπnx , or
Z 1 XZ 1
ĝ(n) = g(u)e−2iπnu du = f (u + k)e−2iπn(u+k) du = fˆ(n).
0 k∈Z 0

12
 2
f (x) = e−πx t , dont la transformée de Fourier est donnée par la formule classique
πx2
fˆ(x) = √1 e− t .
t

On peut montrer (on ne le fera pas) que M2k (Γ0 (4)) est de dimension k + 1
pour k ≥ 1. En particulier θ4 , θ8 vivent dans des espaces de dimension 2 (resp.
3), pour lesquels il n’est pas trop difficile de construire des bases à partir de séries
d’Eisenstein. L’observation essentielle est que si f ∈ Mk (Γ(1)), alors f (N z) ∈
π
Mk (Γ0 (N )) (immédiat). En appliquant cela à f (z) = G2 (z) − Im(z) , on obtient

[N ]
G2 (z) := G2 (z) − N G2 (N z) ∈ M2 (Γ0 (N )),

avec un q-développement

[N ] π2
(1 − N ) − 8π 2 d)q n .
X X
G2 (z) = (
3 n≥1 d|n,d∈N
/ Z

[2] [4]
Cela montre en particulier que G2 et G2 forment une famille libre, et donc une base
[2] [4]
de M2 (Γ0 (4)). En écrivant θ4 = aG2 + bG2 et en regardant les q-développements,
[4]
G2
on obtient θ4 = − π2
, puis le beau:
Théorème 5.9. (Jacobi) On a
X
r4 (n) = 8 d.
d|n,d∈4Z
/

Exercice 5.10. a) On admet que M4 (Γ0 (4)) est de dimension 3. Montrer que E4 (z), E4 (2z), E4 (4z)
en forment une base.
b) Ecrire θ8 comme une combinaison linéaire de ces trois fonctions, et en déduire
la formule (avec la convention σ3 (x) = 0 pour x ∈/ Z)

r8 (n) = 16σ3 (n) − 32σ3 (n/2) + 256 σ3 (n/4).

c) Montrer le théorème de Jacobi:

(−1)n−d d3 .
X
r8 (n) = 16
d|n

En particulier r8 (p) = 16(p3 + 1) pour tout premier p, et r8 /16 est une fonction
multiplicative.

6 Quelques considérations géométriques

Les observations géométriques faites ci-dessous sont très utiles dans l’étude des
formes modulaires, mais faute de temps nous ne pourrons pas les discuter. Si l’on
veut vraiment étudier les formes modulaires sérieusement-ce qu’on ne fera pas ici...-
on ne peut pas se passer de cette étude géométrique.
Si Γ ⊂ Γ(1) est un sous-groupe arithmétique, on pose

Y (Γ) = Γ\H ,

13
que l’on munit de la topologie quotient. Le groupe Γ agit proprement discontinu-
ment sur H , i.e. tout x ∈ H a un voisinage ouvert Ux tel que {γ ∈ Γ|γUx ∩Ux 6= ∅}
soit égal à Γx := StabG (x), et Γx est un groupe fini, cyclique. En combinant cela
avec la théorie des surfaces de Riemann, on obtient
Théorème 6.1. L’espace topologique Y (Γ) est séparé, localement compact et pos-
sède une unique structure de surface de Riemann telle que p : H → Y (Γ) soit
holomorphe. Les fonctions holomorphes sur un ouvert U de Y (Γ) sont les fonctions
holomorphes Γ-invariantes sur p−1 (U ).
Les espaces Y (Γ) sont tout à fait remarquables. On a par exemple le résultat
miraculeux suivant:
Théorème 6.2. (d’uniformisation) Soit Γ = SL2 (Z). Alors Y (Γ) est biholomor-
phe à C et est naturellement en bijection avec d’une part l’ensemble des réseaux
de C, à homothétie près, d’autre part l’ensemble des courbes elliptiques sur C, à
isomorphisme près.
L’espace Y (Γ) n’est pas compact. Cela se voit clairement pour Γ = Γ(1) en
utilisant le théorème 4.1. On peut "compactifier" la surface de Riemann Y (Γ) en
ajoutant un nombre fini de "pointes". Le groupe Γ(1) agit transitivement (comme on
le pense) sur P1 (Q) = Q∪{∞}, le stabilisateur Γ(1)∞ de ∞ étant Γ(1)∞ = ± ( 10 Z1 ).
On a donc une identification P1 (Q) = Γ(1)/Γ(1)∞ . L’ensemble des pointes est en
bijection avec Γ\P1 (Q) = Γ\Γ(1)/Γ(1)∞ , qui est bien fini car Γ est d’indice fini
dans Γ(1).
Décrivons plus précisément la compactification X(Γ) de Y (Γ). Soit
H ∗ = H ∪ P1 (Q) ⊂ P1 (C),
que l’on munit d’une topologie comme suit:
• on conserve les ouverts de H .
• Une base de voisinages de ∞ est donné par les UT = {z ∈ H |Im(z) >
T } ∪ {∞}, avec T > 0. Une base de voisinages de α.∞ (α ∈ Γ(1)) est donnée par
les αUT .
On pose alors
X(Γ) = Γ\H ∗ ,
muni de la topologie quotient et on note C(Γ) = X(Γ) \ Y (Γ) l’ensemble des pointes
(ou cusps) de X(Γ). On montre (c’est un peu pénible...) que X(Γ) est un espace
topologique séparé, connexe et compact. La partie la plus pénible est le caractère
séparé, la connexité est claire, car X(Γ) est l’image du connexe H ∗ . De plus, la
compacité se déduit du caractère séparé de X(Γ) et du théorème 4.1: si D est le
domaine fondamental ci-dessus, l’espace D ∪ {∞} est compact (par définition de
la topologie sur H ∗ ), il en est donc de même de l’union finie de ses translatés
∪γ∈Γ(1)/Γ γ(D ∪ {∞}). Comme X(Γ) est l’image continue de cette réunion par la
projection canonique, et comme il est séparé (le fait admis ci-dessus...), il est com-
pact.
On peut munir X(Γ) d’une structure de surface de Riemann compacte étendant
celle sur Y (Γ). Si U ⊂ X(Γ) est un ouvert, les fonctions holomorphes sur U sont les
fonctions continues f : U → C dont la restriction à U ∩ Y (Γ) est holomorphe. Soit
Γ∞ = Γ ∩ Γ(1)∞ , il existe alors un unique entier h > 0 tel que ±Γ∞ = ± ( 10 hZ 1 ).
2iπz/h
Alors qh = e est une coordonée locale en la pointe Γ∞.

14
7 Opérateurs de Hecke
Nous allons travailler dans la suite en niveau

Γ = Γ1 (N ),

avec N ∈ Z≥1 . On écrira donc simplement

Mk (N ) := Mk (Γ1 (N )), Sk (N ) = Sk (Γ1 (N )).

Comme Γ0 (N )/Γ1 (N ) ' (Z/N Z)∗ via ( ac db ) → d, on a une décomposition

M
Mk (N ) = Mk (N, χ),
χ(−1)=(−1)k

la somme portant sur les caractères de Dirichlet χ modulo N tels que χ(−1) = (−1)k ,
avec
Mk (N, χ) = {f ∈ Mk (N )| f |k γ = χ(γ)f, ∀ γ ∈ Γ0 (N )}.
On se propose de construire des algèbres commutatives (de Hecke) T(N ) ⊂ T
d’endomorphismes des espaces Mk (N, χ), qui préservent Sk (N, χ) et dont l’étude
des espaces propres simultanés fournit un tas de renseignements sur l’arithmétique
des formes modulaires.

7.1 Le formalisme des algèbres de Hecke

Commençons par quelques points assez formels, mais très importants. Soit A un
anneau commutatif (typiquement C ou Z), Γ un sous-groupe d’un groupe G, ce
dernier agissant à droite, de manière A-linéaire sur un A-module M . On suppose
que pour tout g ∈ G l’ensemble Γ\ΓgΓ est fini, i.e. on peut écrire ΓgΓ = ni=1 Γgi
`

pour certains n ≥ 1 et gi ∈ G. Notons que l’application g −1 Γg ∩ Γ\Γ → Γ\ΓgΓ

envoyant la classe de γ sur celle de gγ est bijective, donc l’hypothèse revient à
demander que

Γg := Γ ∩ g −1 Γg est d’indice fini dans Γ ∀g ∈ G.

Noter par ailleurs que Γg est simplement le stabilisateur de Γg ∈ Γ\G dans Γ.

L’exemple dont on aura besoin dans la suite est celui du groupe G = GL2 (Q)+ =
{g ∈ GL2 (Q)| det(g) > 0} agissant par l’action de poids k sur M = O(H ), avec
A = C, Γ étant un sous-groupe fini de Γ(1). Dans ce cas l’hypothèse précédente est
satisfaite, Γg étant d’indice fini dans Γ(1) pour g ∈ G. En effet, Γg est d’indice fini
dans gΓg −1 ∩ Γ(1), qui est d’indice fini dans gΓ(1)g −1 ∩ Γ(1), qui est enfin d’indice
fini dans Γ(1) car on vérifie sans mal qu’il contient un Γ(M ) pour M ≥ 1 assez
divisible.
Revenons à la situation complètement générale décrite ci-dessus et considérons
le A-module M Γ = {m ∈ M | m.γ = m, ∀γ ∈ Γ} des invariants de M sous Γ.
Considérons le A-module H (G, Γ) des fonctions Φ : G → A qui sont invariantes par
translation à gauche et à droite par Γ (et donc peuvent se voir comme des fonctions
sur Γ\G/Γ) et dont le support est fini modulo l’action de Γ par translation à gauche.
Grâce à notre hypothèse sur la finitude de l’indice de Γg dans Γ, on vérifie sans mal
que H (G, Γ) est simplement le A-module engendré par les fonctions indicatrices

15
1ΓgΓ de ΓgΓ ⊂ G, quand g varie dans G. C’est un exercice amusant (ou pas) de
vérifier que le produit de convolution
Φ1 (x)Φ2 (x−1 g)
X
(Φ1 ∗ Φ2 )(g) =
x∈G/Γ

munit H (G, Γ) d’une structure de A-algèbre associative (son élément neutre est
1Γ ), pas forcément commutative. De plus, M Γ devient naturellement un H (G, Γ)-
module, via
Φ ∈ H (G, Γ), m ∈ M Γ .
X
m.Φ := Φ(g) · (m.g),
g∈Γ\G

Noter déjà que l’expression à droite a bien un sens, grâce aux hypothèses faites sur
Φ et parce que l’on prend m ∈ M Γ (donc m.g ne dépend que de l’image de g dans
Γ\G). Toute cette discussion un peu formelle est une manifestation d’une technique
standard en théorie des représentations, la réciprocité de Frobenius, qui fournit
dans notre situation une identification HomA[G] (A[Γ\G], M ) ' M Γ (on envoie un
élément à gauche sur sa valeur en 1), montrant que M Γ est un module à droite sur
EndA[G] (A[Γ\G]) ' A[Γ\G]Γ ' A[Γ\G/Γ], l’action de la double classe ΓgΓ étant
X
m.(ΓgΓ) = m.h.
h∈Γ\ΓgΓ

7.2 L’algèbre de Hecke de niveau N

Revenons maintenant à des affaires plus amusantes et prenons dans toute la suite
un poids k ∈ Z, Γ = Γ1 (N ), G = GL2 (Q)+ , agissant sur M = O(H ) par
det(g)k−1
f |k g(z) = f (g.z), g = ( ac db ) ∈ G.
(cz + d)k
Attention, cela diffère des formules introduites dans le premier para-
graphe par un facteur det(g)k/2−1 . Bien sûr, tant que g ∈ SL2 (Q), cela n’a
aucune influence, mais on prendra des g ∈ GL2 (Q)+ \ SL2 (Q). La raison de cette
normalisation est que les formules sortantes ont des bonnes propriétés d’intégralité.
Dans la situation ci-dessus on a bien sûr M Γ = F Mk (Γ), et elle fournit un
endomorphisme Tα de cet espace pour tout α ∈ G = GL2 (Q)+ , via l’action de la
double classe ΓαΓ (autrement dit de la fonction 1ΓαΓ ∈ H (G, Γ)). Concrètement,
on a donc X
Tα (f ) = f |k γ, f ∈ F Mk (Γ).
γ∈Γ\ΓαΓ

Remarquons que cet opérateur n’est rien d’autre qu’un opérateur "trace". En effet,
si f ∈ F Mk (Γ), alors clairement f |k α ∈ F Mk (Γα ), avec Γα = Γ ∩ α−1 Γα, et Tα (f )
est simplement la "trace" de f |k α:
X
Tα (f ) = (f |k α)|k β.
β∈Γα \Γ

Bien sûr, si f ∈ Mk (Γ) (resp. Sk (Γ)), on a f |k α ∈ Mk (Γα ) (resp...) et la formule

précédente montre que Tα (f ) ∈ Mk (Γ) (resp...). Ainsi l’opérateur Tα de F Mk (Γ)
préserve les sous-espaces Mk (N ) et Sk (N ) de F Mk (Γ). En particulier la définition
suivante a un sens:

16
Definition 7.1. a) Le p-ième opérateur de Hecke Tp sur Mk (N ) (ou Sk (N ), ou
Mk (N, χ) ou...) est
Tp = T 1 0  .
0 p

b) L’algèbre de Hecke pleine (resp. restreinte) de niveau N T (resp.

T(N ) ) est le sous-anneau de EndC (Mk (N )) engendré par les opérateurs Tp pour tout
nombre premier p (resp. uniquement ceux ne divisant pas N ). On garde les mêmes
notations si l’on remplace Mk (N ) par Mk (N, χ) ou Sk (N ) ou Sk (N, χ).

Pour rendre ces opérateurs plus explicites, par exemple pour calculer le q-
développement à l’infini de Tp (f ) en fonction de celui de f , on commence par vérifier5
que
  p−1  a  
1 j
a
1 0 p 0
Γ 0 p Γ= Γ 0 p Γσ 0 1
j=0

pour un σ ∈ Γ0 (N ) arbitraire satisfaisant σ = ( N∗ p∗ ), avec la convention que le

terme Γσ p0 01 apparaît uniquement si p ne divise pas N . On en déduit que pour
f ∈ Mk (N, χ) (avec la convention χ(p) = 0 pour p | N )
p−1  
1 j
(z) + χ(p)pk−1 f (pz) = Up f (z) + χ(p)pk−1 Vp f (z),
X
Tp f (z) = f |k 0 p
j=0

avec
1 p−1
!
X z+j
Up f (z) = f , Vp f (z) = f (pz).
p j=0 p
an q n
P
Au niveau du q-développement à l’infini, cela s’écrit pour f = n

anp q n , an q np ,
X X
Up f = Vp f =
n

comme le montre un calcul immédiat. On en déduit que

an (Tp f ) = anp (f ) + χ(p)pk−1 a np (f )

avec la convention que le deuxième terme est nul si p - n (ou p | N ). En particulier

a1 (Tp f ) = ap (f ) et a0 (Tp f ) = (1 + χ(p)pk−1 )a0 (f ).
La formule décrivant les coefficients du q-développement de f en fonction de ceux
de f montre immédiatement que les opérateurs Tp et Tq commutent sur Mk (N, χ)
pour tous les premiers p, q. On vient de démontrer:

Théorème 7.1. a) T et T(N ) sont des anneaux commutatifs.

b) On a Tp = Up + χ(p)pk−1 Vp sur Mk (N, χ) (attention Up , Vp ne sont pas des
endomorphismes de Mk (N, χ), uniquement de O(H )!).
c) Si f = n an q n est le q-développement de f à l’infini, celui de Tp (f ) est
P

(anp + χ(p)pk−1 a np )q n .
X
Tp (f ) =
n

En particulier a1 (Tp (f )) = ap (f ).
5
C’est élémentaire mais assez pénible, cf. tout livre sur les formes modulaires.

17
Exercice 7.2. a) Si f = n an q n ∈ Mk (N ), montrer que Vp ◦ Up (f ) = p|n an q n .
P P

b) Si f ∈ Mk (M ), montrer que Vp (f ) ∈ Mk (M p).

c) Soit f = an q n ∈ Mk (N )
P

i) Si p | N , montrer que anp q n ∈ Mk (N ) et p-n an q n ∈ Mk (N p).

P P

ii) Si p - N , montrer que p-n an q n ∈ Mk (N p2 ) (indication: Up (f ) ∈ Mk (N p) et

P

Vp ◦ Up (f ) ∈ Mk (N p2 )).

7.3 Numérologie: les opérateurs Tn

On peut définir des opérateurs Un , Vn sur O(H ) pour tout n ≥ 1 par les mêmes
formules (remplacer p par n), mais l’analogue Tn des opérateurs Tp est subtil. Il y
a plusieurs façons de les définir, mais je n’en trouve pas une naturelle (si N = 1 il
y a des interprétations géométriques bien jolies de ces opérateurs, cf. la discussion
dans les notes de Gaëtan Chenevier). Pour éviter beaucoup de numérologie avec
des doubles classes, je vais prendre la définition obtenue à partir des opérateurs Un
et Vn , en posant
χ(d)dk−1 Vd ◦ Un/d .
X
Tn =
d|n

Cela définit un endomorphisme de O(H ), mais ce n’est nullement évident qu’il

préserve Mk (N, χ). En fait, nous allons même voir un énoncé beaucoup plus fort,
cf. théorème 6.3.
Pour cela, on commence par montrer que les Tn sont multiplicatifs par rapport
à n. Il vaut mieux se restreindre à l’espace O(H )1 des fonctions 1-périodiques dans
O(H ), qui est trivialement stable par les Un , Vn et donc par les Tn .

Proposition 7.1. On a Tm ◦ Tn = Tmn dans EndC (O(H )1 ) quand pgcd(m, n) = 1.

Proof. Un calcul immédiat montrer que Um Un = Umn et Vmn = Vm Vn en tant

qu’opérateurs sur O(H ). Ensuite, je dis que si pgcd(d, n) = 1, alors Un Vd = Vd Un
sur O(H )1 . En effet, si f ∈ O(H )1 , on a

1 n−1
X z+j 1 n−1
X dz + dj 1 n−1
X dz + j
Un Vd f (z) = Vd f ( )= f( )= f( ) = Vd Un f (z),
n j=0 n n j=0 n n j=0 n

car les restes modulo n des nombres dj (0 ≤ j ≤ n − 1) sont une permutation de

0, 1, ..., n − 1. Si pgcd(m, n) = 1, on a donc dans EndC (O(H )1 )

χ(de)(de)k−1 Vd Um/d Ve Un/e =

X X
Tm ◦ Tn =
d|m e|n

χ(de)(de)k−1 Vde Umn/(de) = χ(d)dk−1 Vd Umn/d = Tmn .

X X
=
d|m,e|n d|mn

Il suffit donc de comprendre les opérateurs Tpr quand p est premier et r ≥ 0. Ils
sont décrits par:

Proposition 7.2. On a Tp Tpr = χ(p)pk−1 Tpr−1 + Tpr+1 .

18
Proof. Notons pour simplifier U = Up , V = Vp et x = χ(p), donc par définition
r
xj pj(k−1) V j U r−j .
X
Tpr =
j=0

D’autre part, on a U V = id (immédiat) et donc, par un calcul brutal, mais évident

r r+1
Tp Tpr = U r+1 + xj pj(k−1) V j−1 U r−j + xj pj(k−1) V j U r+1−j
X X

j=1 j=1

r−1 r+1
= xpk−1 xj pj(k−1) V j U r−1−j + xj pj(k−1) V j U r+1−j = xpk−1 Tpr−1 + Tpr+1 .
X X

j=0 j=0

Les deux propositions s’expriment de manière beaucoup plus élégante en utilisant

une série génératrice (de Dirichlet):
Théorème 7.3. L’opérateur Tn préserve le sous-espace Mk (N, χ) de O(H )1 , il est
même dans le sous-anneau (commutatif!) de EndC (Mk (N, χ)) engendré par l’image
de χ et T, et on a une égalité de séries de Dirichlet à coefficients dans cet anneau
X Tn Y 1
s
= −s
.
n≥1 n p 1 − Tp p + χ(p)pk−1−2s

Décrivons le q-développement à l’infini de Tn (f ) à partir de celui de f :

Proposition 7.3. Si f = aj q j ∈ Mk (N, χ), alors Tn (f ) = n
P P
j m bm q , avec

χ(d)dk−1 a mn
X
bm = d2
(f ).
d|pgcd(m,n)

En particulier b1 = an , i.e. a1 (Tn (f )) = an (f ) pour tout n.

Proof. Si F = cn q n ∈ O(H )1 , écrivons cn = an (F ). Il est clair que an (Vd (F )) =
P

1d|n a nd (F ) et un petit calcul montre que an (Ud (F )) = and (F ). Ainsi

χ(d)dk−1 am (Vd (Un/d (f ))) =

X
am (Tn (f )) =
d|n

χ(d)dk−1 1d|m am/d (Un/d (f )) = χ(d)dk−1 a mn

X X
= d2
(f ).
d|n d|pgcd(m,n)

Exercice 7.4. b) Montrer que

dk−1 χ(d)T mn
X
Tm ◦ Tn = d2
d|pgcd(m,n)

en tant qu’opérateurs sur Mk (N, χ).

c) Si f ∈ Mk (N, χ), alors
d−1
!
k−1
X Xχ(a) az + b
Tn f (z) = n k
f .
ad=n,a>0 b=0 d d

19
8 Le produit de Petersson, diagonalisation de T(N )
Nous allons montrer dans ce paragraphe que les opérateurs Tn ∈ End(Sk (N, χ)),
avec n premier à N sont simultanément diagonalisables. Pour cela on construira
un produit hermitien sur Sk (N, χ) pour lequel ces opérateurs sont normaux (i.e.
commutent à leur adjoint). On verra plus tard une interprétation nettement plus
naturelle de tout ceci, en termes d’espaces L2 .
La mesure dµ(z) = dxdy y2
sur H est invariante6 sous l’action de GL2 (R)+ et
descend en une mesure sur Y (1) = Γ(1)\H . De manière concrète (mais pas toujours
utile...), on a Z Z
f (x)dµ(x) = f (z)dµ(z)
Y (1) D

pour f ∈ Cc (Y (1)) (vue comme fonction sur H , invariante par Γ(1)), où D = {z ∈

H ||Re(z)| ≤ 1/2, |z| ≥ 1} est le domaine fondamental usuel.
dµ(x) < ∞. Calculer explicitement sa valeur.
R
Exercice 8.1. Vérifier que Y (1)

Si Γ est un sous-groupe arithmétique de Γ(1), la mesure µ sur H descend aussi

en une mesure sur Y (Γ) = Γ\H , et on a
 
Z Z X
f (z)dµ(z) = 
 f (γ.z)
 dµ(z) (∗)
Y (Γ) Y (1)
γ∈Γ̄\Γ(1)

pour toute fonction intégrable f , Γ̄ étant l’image de Γ dans PSL2 (Z).

Ensuite, si f, g ∈ Mk (Γ), au moins une étant dans Sk (Γ), on a f g ∈ S2k (Γ), donc
ϕf g est bornée sur H , où l’on rappelle que l’on pose
k
ϕF (z) = |F (z)|Im(z) 2 .

On en déduit que la fonction

Φf,g (z) = f (z)g(z)Im(z)k

est continue et bornée sur H . L’invariance de f et g par l’action de poids k montre

que Φf,g est Γ-invariante, donc descend en une fonction continue bornée sur Y (Γ),
en particulier intégrable car Y (Γ) est de volume fini d’après l’exercice précédent et
la discussion ci-dessus. Cela donne un sens à la définition suivante:

Definition 8.1. Le produit de Petersson de f et g est

1 Z
hf, giΓ = Φf,g (z)dµ(z),
VΓ Y (Γ)

dµ(z) < ∞.
R
où VΓ = Y (Γ)

La quantité hf, giΓ ne dépend pas du choix de Γ tel que f et g soient toutes les
deux modulaires de niveau Γ, une propriété cruciale de ce produit:
6 dzdz̄ det(α)dz
Exercice, utiliser le fait que dxdy = −2i et les formules d(α.z) = (cz+d)2 et Im(α.z) =
det(α)Im(z)
|cz+d|2 .

20
Proposition 8.1. Si [Γ : Γ0 ] < ∞, alors VΓ = [Γ(1) : Γ̄]VΓ(1) et hf, giΓ = hf, giΓ0
pour f, g ∈ Mk (Γ), au moins une étant cuspidale.
Proof. Le premier point découle de l’identité (∗) en prenant la fonction constante
1. Ensuite, on a (noter que Φf,g = Φf,g ◦ γ pour γ ∈ Γ)
 
1 Z 1 Z X
hf, giΓ0 = Φf,g dµ =  Φf,g ◦ γ  dµ
VΓ0 Γ0 \H VΓ0 Γ\H γ∈Γ̄0 \Γ̄

[Γ̄ : Γ̄0 ] Z [Γ̄ : Γ̄0 ]VΓ

= Φf,g dµ = hf, giΓ = hf, giΓ .
VΓ0 Y (Γ) VΓ0

On se permettra donc d’écrire simplement hf, gi pour le produit de Petersson

hf, giΓ , pour tout choix de niveau commun Γ pour f et g. Le résultat suivant n’est
pas simplement un calcul formel, contrairement à ce qu’on pourrait penser...
Théorème 8.2. (Petersson) Si Γ est arithmétique dans Γ(1) et α ∈ GL2 (Q)+ ,
l’adjoint de Tα sur Sk (Γ) est Tα∗ , où α∗ = det(α) · α−1 .
Proof. On va le faire en deux étapes, le point crucial étant7
Lemme 8.1. Soit Γ ⊂ Γ(1) arithmétique, α ∈ GL2 (Q)+ et g ∈ Sk (Γα ). Alors
VΓα = VΓα∗ et hf |k α, gi = hf, g|k α∗ i.
Proof. Notons que (α∗ )−1 Γα α∗ = Γα∗ , donc g|k α∗ ∈ Sk (Γα∗ ). Pour la première
égalité, noter que Y (Γα ) → Y (Γα∗ ) envoyant la classe de z sur celle de α.z est un
homéomorphisme et dµ(α.z) = dµ(z), d’où VΓα = VΓα∗ . Pour le deuxième point, un
calcul brutal sans problème montre que
Φf,g|k α∗ (α.z) = Φf |k α,g (z).
On obtient le résultat en utilisant encore l’homéomorphisme ci-dessus.
La deuxième partie de la preuve est purement combinatoire, mais assez astu-
cieuse. Ecrivons ΓαΓ = Γαi et posons Γ̃ = ∩Γαi . On a f |k αi ∈ Sk (Γi ) ⊂ Sk (Γ̃) si
`

f ∈ Sk (Γ). Le lemme ci-dessus fournit alors pour g ∈ Sk (Γ) ⊂ Sk (Γ̃)

hf, g|k αi∗ i.
X X X
hTα f, gi = h f |k αi , gi = hf |k αi , gi =
Il suffit donc de montrer que l’on peut choisir αi de telle sorte que l’on ait aussi
Γα∗ Γ = Γαi∗ , car le même argument donnera hf, g|k αi∗ i = hf, Tα∗ gi.
` P
` `
On gagne si on montre qu’il existe αi tels que ΓαΓ = Γαi = αi Γ, car alors
det α = det αi , donc
Γα∗ Γ = det αΓα−1 Γ = det α(ΓαΓ)−1 = det αΓαi−1 = Γαi∗ .
a a

Mais Γ\ΓαΓ est en bijection avec Γα \Γ (via γ ∈ Γα \Γ → αγ ∈ Γ\ΓαΓ) et ΓαΓ/Γ

est en bijection avec Γα∗ \Γ, via γ ∈ Γα∗ \Γ → γα. Or le lemme crucial fournit
VΓα = VΓα∗ , qui se traduit (prop. 7.1) finalement en |Γ\ΓαΓ| = |ΓαΓ/Γ|. On peut
donc écrire ΓαΓ = ni=1 Γui = ni=1 vi Γ pour certains n et ui , vi . Pour tout i on
` `

a Γui ∩ vi Γ 6= ∅, sinon Γui ⊂ ∪j6=i vj Γ, donc ΓαΓ = Γui Γ ⊂ ∪j6=i vj Γ, ce qui est
absurde. Si on choisit αi ∈ Γui ∩ vi Γ, alors ΓαΓ = αi Γ = Γαi .
` `

7
Rappelons que Γα = α−1 Γα ∩ Γ; on a donc f |k α ∈ Sk (Γα ) si f ∈ Sk (Γ).

21
 Nous sommes presqu’arrivés au bout de nos peines: le résultat suivant montre
que les Tn sont normaux et ils commutent deux à deux, donc ils sont simultanément
diagonalisables.
Théorème 8.3. Pour n premier à N , l’adjoint de Tn sur Sk (N, χ) est χ(n)−1 Tn , i.e.
pour f, g ∈ Sk (N, χ) on a hTn f, gi = χ(n)hf, Tn gi. Les T ∈ T(N ) sont simultanément
diagonalisables.
Proof. Par multiplicativité des Tn on se ramène au cas de Tpr , avec p premier à N .
En utilisant
 
la proposition 6.2 on se ramène ensuite à r = 1. Comme Tp = Tαp , avec
αp = 0 p , le théorème précédent fournit Tp∗ = Tα∗p = T p 0  . Pour comprendre la
1 0

  0 1
double classe8 Γ p 0
0 1 Γ, introduisons une matrice σ = ( Np n
m) ∈ Γ0 (N ) (elle existe
   −1  
p 0 1 n
car p, N sont premiers entre eux!) et posons γ = 10 p0 σ 0 1 = N mp . Alors
γ ∈ Γ et (rappelons que Γ est distingué dans Γ0 (N ))
       
p 0 p 0 1 0 1 0
Γ 0 1 Γ = Γγ 0 1 Γ=Γ 0 p σΓ = Γ 0 p Γσ,
   
1 0 ` p 0 `
donc si Γ 0 p Γ= Γαi , alors Γ 0 1 Γ= Γαi σ, et au bout du compte

Tp∗ f =
X
f |k αi σ = (Tp f )|k σ = χ(m)Tp (f ).

Comme mp ≡ 1 (mod N ), on a χ(m) = χ(p)−1 , ce qui permet de conclure.

Prenons d’abord N = 1. Les opérateurs Tn sont alors auto-adjoints pour le
produit de Petersson, leurs valeurs propres sont donc réelles, et Sk = Sk (1) possède
une base orthogonale de vecteurs propres pour tous les Tn . Si f est un tel vecteur
propre, disons Tn (f ) = λn f , en regardant le coefficient de q dans le q-développement
on en déduit que an (f ) = λn a1 (f ). En particulier a1 (f ) 6= 0 (car f n’est pas nulle)
et, quitte à re-normaliser f , on peut supposer que a1 (f ) = 1 (on dit alors que f est
normalisée). Mais alors λn = an (f ), i.e. Tn (f ) = an (f )f . Cela montre que les
T-espaces propres simultanés sont de dimension 1.
Tout ceci tombe en défaut si N > 1. D’une part, pour p | N l’opérateur
Tp = Up n’est plus forcément diagonalisable sur Sk (N ). D’autre part, les espaces
propres simultanés pour l’action de T(N ) ne sont plus de dimension 1 en général.
En effet, prenons un diviseur M < N de N et f ∈ Sk (M ) propre pour T(M ) . Alors
les fonctions f (dz), pour d diviseur de N/M sont dans le même espace propre et
forment une famille libre (cf. discussion précédant le th. 7.5). Bien sûr:
• les espaces propres simultanés pour l’action de T-s’il en existe!-sont forcément
de dimension 1, par le même argument qu’avant: les coefficients an sont déterminés
par le système de valeurs propres.
• Un espace T(N ) -propre de dimension 1 est stable par T et donc est un espace
propre pour T.
Tout le problème vient du fait que pour N > 1 il est tout à fait possible d’avoir
f ∈ Sk (N ) propre pour T(N ) et telle que a1 (f ) = 0, ce qui équivaut à an (f ) = 0 pour
tout n premier à N . Par exemple, si d > 1 est un diviseur de N et g ∈ Sk (N/d),
la fonction f (z) = g(dz) a cette propriété. La théorie d’Atkin-Lehner (qui est tout
sauf une trivialité...) dit essentiellement que ceci est la seule obstruction:
8
Rappelons que Γ = Γ1 (N )

22
Théorème 8.4. (Atkin-Lehner) Soit f ∈ Sk (N ), f = n≥1 an q n . S’il existe D ≥ 1
P
P
tel que an = 0 pour tout n premier à D, alors f (z) = p|N gp (pz) pour certaines
gp ∈ Sk (N/p).

Ce théorème est fort délicat et on l’admettra (la preuve, 4 pages d’astuces et

contorsions avec les opérateurs Up et Vp , n’est pas vraiment éclairante). L’énoncé
ci-dessus suggère que l’espace
 
Sk (N )old :=
X X X
p 0
Sk (N/p)|k 0 1 = Sk (M )|k ( d0 01 )
p|N M |N,M 6=N d|N/M

joue un rôle important, et son orthogonal, l’espace des formes nouvelles

Sk (N )new := (Sk (N )old )⊥

joue un rôle encore plus important9 .

Si dM | N , la flèche Sk (M ) → Sk (N ), f → f |k ( d0 01 ) commute (cf. le q-
développement) à l’action des opérateurs de Hecke Tn avec n premier à d, en par-
ticulier à l’action de T(N ) . Cela montre que Sk (N )old est stable par T(N ) et si
f ∈ Sk (M ) est T(M ) -propre, alors les f (dz) (pour dM | N ) sont T(N ) -propres dans
Sk (N ), avec le même système de valeurs propres que f . Le calcul de l’adjoint des
Tn (avec n premier à N ) permet d’en déduire que Sk (N )new est stable par T(N ) , et
donc possède une base orthogonale de vecteurs T(N ) -propres. En fait, on a mieux:

Théorème 8.5. (Atkin-Lehner) a) Sk (N )old et Sk (N )new sont stables sous T.

b) Si f ∈ Sk (N )new est T(N D) -propre pour un D ≥ 1, alors a1 (f ) 6= 0.
c) Supposons que f ∈ Sk (N )new est primitive, i.e. a1 (f ) = 1 et f est T(N ) -
propre. Alors f est T-propre, et donc Tn (f ) = an f pour tout n.

Exercice 8.6. Démontrer b) et c) en admettant le théorème 7.4.

9 Fonctions L des formes modulaires

Pour simplifier, on travaille la plupart du temps en niveau Γ(1), mais ce qui suit
s’adapte au cas général (cf. exercices), à l’exception du théorème réciproque 8.3
de Hecke ci-dessous, qui est dû à Weil dans le cas général et dont la preuve est
nettement plus délicate.
Une forme f = n≥1 an q n ∈ Sk (N, χ) est déterminée par sa fonction L
P

X an
L(f, s) = s
,
n≥1 n

qui converge dans le demi-plan Re(s) > 1 + k2 grâce à la borne de Hecke, et y définit
une fonction holomorphe. Notons que si f est T-propre et normalisée, i.e. a1 = 1,
alors le théorème 6.3 fournit immédiatement
Y 1
L(f, s) = .
p 1 − ap · p−s + χ(p)pk−1−2s
9
C’est l’analogue pour GL2 , i.e. dans la théorie des formes modulaires de l’ensemble des
caractères de Dirichlet primitifs pour GL1 .

23
Cependant, si est seulement T(N ) -propre et normalisée, tout ce que l’on peut dire
est que
Y 1 X an
L(f, s) = −s k−1−2s
· ,
p-N
1 − ap · p + χ(p)p n|N ∞
ns
i.e. on n’a aucun contrôle sur les coefficients dont l’indice a tous ses facteurs premiers
parmi ceux de N . Cette discussion combinée avec celle du paragraphe ci-dessus
fournit le beau:

Théorème 9.1. (Atkin-Lehner) L’espace Sk (N, χ)new possède une base orthogonale
de formes primitives. Si f = n≥1 an q n est primitive, on a une factorization de la
P

fonction L en produit Eulerien

Y 1
L(f, s) = .
p 1 − ap · p−s + χ(p)pk−1−2s

En particulier, comme S12 := S12 (Γ(1)) est de dimension 1, ∆ ∈ S12 est automa-
tiquement T-propre et on obtient ainsi
Y 1
L(∆, s) = .
p 1− τ (p)p−s + p11−2s

Ainsi, en écrivant
(1 − q n )24 = τ (n)q n ,
Y X
∆=q
n≥1 n≥1

la suite τ (n) est multiplicative, ce qui n’est nullement évident, et

τ (pn+1 ) = τ (p)τ (pn ) − p11 τ (pn−1 ),

encore moins évident... Ces résultats avaient été conjecturés par Ramanujan et dé-
montrés par Mordell, mais le formalisme a été ensuite dégagé par Hecke. Ramanujan
avait aussi conjecturé que
11
|τ (p)| ≤ 2p 2 ,
conjecturé qui a fallu atteindre le tour de force de Deligne. Il a prouvé de manière
k−1
plus générale que si f ∈ Sk (N, χ) est primitive, alors |ap (f )| ≤ 2p 2 (un cas
particulier mais hautement important de la fameuse conjecture de Ramanujan-
Petersson). On ne peut rien dire sur la preuve dans ces notes, sauf qu’elle utilise
beaucoup de géométrie algébrique très dure...
La fonction L complète de f est

Λ(f, s) = (2π)−s Γ(s)L(f, s),

R ∞ −t s dt
où Γ(s) = 0 e t t
est la fonction Γ. Le résultat suivant est fondamental:

Théorème 9.2. (Hecke) La fonction Λ(f, s) s’étend en une fonction holomorphe sur
C tout entier, bornée dans les bandes verticales10 et vérifiant l’équation fonctionnelle

Λ(f, s) = ik Λ(f, k − s).

10
Autrement dit dans toute région Re(s) ∈ [a, b], avec a ≤ b ∈ R.

24
 La preuve de ce théorème fait intervenir une construction très utile. Soit Φ :
R>0 → C une fonction C ∞ telle que Φ(t) = O(e−ct ) quand t → ∞ et Φ(t) = O(t−v )
quand t → 0 (pour des c, v > 0 convenables) La transformée de Mellin de Φ est
Z ∞
dt
M Φ(s) = Φ(t)ts .
0 t
Si C est tel que |Φ(t)| ≤ Cect pour t ≥ 1 et |Φ(t)| ≤ Ct−v pour 0 < t ≤ 1, on a
Z ∞ Z 1 Z ∞
dt
|Φ(t)ts | ≤ C( tRe(s)−v−1 dt + e−ct tRe(s)−1 dt),
0 t 0 1

ce qui montre que M Φ est bien définie pour Re(s) > v, holomorphe dans ce demi-
plan, et bornée dans les bandes verticales de ce demi-plan.
Prenons alors Φ(t) = f (it) = n≥1 an e−2πnt . Il est clair que Φ(t) = O(e−2πt )
P

quand t → ∞, et on a vu que Φ(t)tk/2 est bornée sur R>0 . De plus11 pour Re(s) >
1 + k2 on a
 
Z ∞ Z ∞
−2πnt  s dt dt X an
e−2πnt ts
X X
M Φ(s) =  an e t = an = s
Γ(s) = Λ(f, s).
0 n≥1 t n≥1 0 t n≥1 (2πn)

Cela fournit la première partie du théorème. Pour la deuxième, il faut une nouvelle
idée: on écrit Z 1 Z ∞
s dt dt
M Φ(s) = Φ(t)t + Φ(t)ts
0 t 1 t
et on fait un changement de variable t = 1/x dans la première intégrale, d’où
Z ∞  dx
M Φ(s) = Φ(1/x)x−s + Φ(x)xs .
1 x
La modularité de f fournit f (−1/z) = z k f (z), qui se traduit par Φ(1/t) = ik tk Φ(t),
donc Z ∞
dx
M Φ(s) = Φ(x)(ik xk−s + xs ) .
1 x
2k
En se rappelant que k est pair (donc i = 1), sinon il n’y a rien à faire, on voit
tout de suite que M Φ(s) se prolonge en une fonction holomorphe sur C, vérifiant
M Φ(s) = ik M Φ(k − s), ce qui permet de conclure la preuve du théorème.
La preuve du théorème suivant est plus délicate.

Théorème 9.3. (théorème réciproque de Hecke) Soit f = n≥1 an q n une fonction

P

holomorphe sur H , avec an = O(nv ) pour un certain v > 0. Supposons que la

fonction
X an
Λ(s) = (2π)−s Γ(s)L(s), L(s) := s
n≥1 n

possède un prolongement holomorphe à C tout entier, borné dans les bandes verti-
cales et satisfaisant Λ(s) = ik Λ(k − s) pour s ∈ C. Alors f ∈ Sk (Γ(1)).
11
On laisse au lecteur les justifications faciles concernant l’interversion somme/intégrale...

25
Proof. Il s’agit de voir que f (−1/z) = z k f (z), ce qui se ramène (par prolongement
analytique) à vérifier que Φ(1/t) = ik tk Φ(t), où Φ(t) = f (it) = n≥1 an e−2πnt . Noter
P

que les considérations précédentes s’appliquent à Φ: cette fois M Φ est définie et

holomorphe dans Re(s) > 1 + v, car l’hypothèse an = O(nv ) force (exercice) Φ(t) =
O(t−v−1 ) pour t → 0. De plus, le même calcul que ci-dessus montre que Λ(s) =
M Φ(s). Le point essentiel est que l’on peut récupérer Φ à partir de M Φ par la
formule d’inversion (cf. exercices ci-dessous pour l’argument, qui est essentiellement
une inversion de Fourier déguisée)
1 Z σ+i∞ 1 Z
Φ(t) = M Φ(s)t−s ds = Λ(s)t−s ds, σ > 1 + v, t > 0.
2iπ σ−i∞ 2iπ Re(s)=σ
On a donc (pour σ comme avant)

−k 1 Z
(it) Φ(1/t) = i−k Λ(s)t−(k−s) ds =
2iπ Re(s)=σ
1 Z −k −s 1 Z
i Λ(k − s)t ds = Λ(s)t−s ds
2iπ Re(s)=k−σ 2iπ Re(s)=k−σ
et il suffit de montrer que Re(s)=σ Λ(s)t−s ds = Re(s)=k−σ Λ(s)t−s ds. La fonction
R R

F (s) = Λ(s)t−s est holomorphe. En considérant l’intégrale sur le rectangle de

sommets (σ, TR), (k−σ, T ), (k−σ, −T ), (σ, −T ) avec T assez grand, il suffit de vérifier
σ
que lim|T |→∞ k−σ F (u + iT )du = 0. C’est assez délicat.
On a Λ(s) = M Φ(s) = −1 s
M Φ0 (s), ce qui permet d’obtenir Λ(s) = O(1/|s|)
quand |s| → ∞, en restant sur Re(s) = σ (fixé). Par l’équation fonctionnelle, c’est
aussi vrai sur Re(s) = k − σ. Le théorème de Phragmen-Lindelöf12 montre alors
que |Λ(s)| = O(1/|s|) uniformément sur la bande k − σ ≤ Re(s) ≤ σ. On a donc

|F (u + iT )| = t−u |Λ(u + iT )| = O(1/T )

Rσ
uniformément en u ∈ [k−σ, σ], ce qui montre bien que lim|T |→∞ k−σ F (u+iT )du = 0
et finit la preuve du théorème.
Exercice 9.4. Soit (an )n≥1 une suite de nombres complexes tels que an = O(nv ) pour
un certain v > 0. Soit
X an
an e−nt , t > 0.
X
L(s) = s
, Φ(t) =
n≥1 n n≥1

a) Montrer que Φ est C ∞ sur ]0, ∞[ et que Φ(t) = O(e−t ) pour t → ∞, Φ(t) =
O(t−v−1 ) pour t → 0. R
b) Soit M Φ(s) = 0∞ Φ(t)ts dtt . Montrer qu’elle est bien définie et holomorphe
pour Re(s) > 1 + v, et que M Φ(s) = Γ(s)L(s).
c) Vérifier que M Φ(c+iu) = R f (x)eixu dx pour c > 1+v. En déduire la formule
R

d’inversion pour t > 0 et c > 1 + v

1 Z
Φ(t) = M Φ(s)t−s ds.
2iπ Re(s)=c
12
Si F est holomorphe dans un ouvert contenant la bande Re(s) ∈ [a, b], et si F est bornée dans
la bande, avec |F (s)| = O(|Im(s)|α ) sur Re(s) = a et Re(s) = b, alors cette estimée est vraie
uniformément sur toute la bande.

26
 d) Montrer que si Re(s) > 1 + v + j alors

(−1)j
M Φ(s) = M Φ(j) (s),
s(s + 1)...(s + j − 1)

et en déduire que M Φ(s) = |s|1j quand |s| → ∞ et s reste dans une bande verticale
contenue dans Re(s) > 1 + v + j.
e) Supposons que Φ(1/t) = tk Ψ(t), avec k ∈ R, où Ψ est une fonction du même
genre que Φ, i.e. Ψ(t) = n≥1 bn e−nt , avec bn = O(nw ). Montrer que M Φ se
P

prolonge en une fonction holomorphe sur C, vérifiant M Φ(s) = M Ψ(k − s).

Exercice 9.5. (Hecke) Soit q = e2iπz , an , bn des nombres complexes tels que an =
O(nv ), bn = O(nv ) pour √
un v > 0, et soient f (z) = n≥1 an q n , g(z) = n≥1 bn q n .
P P

On suppose que g(z) = ( N z)−k f (− N1Z ) et on pose

√ !s
X an N
L(f, s) = s
, Λ(f, s) = Γ(s)L(f, s).
n≥1 n 2π

Montrer que Λ(f, s), Λ(g, s) possèdent un prolongement holomorphe√à C, avec Λ(f, s) =
ik Λ(g,
√k − s). Indication: regarderk les fonctions Φ(t) = f (it/ N ) et Ψ(t) =
g(it/ N ) et noter que Φ(1/t) = (it) Ψ(t).
Exercice 9.6. Soit χ : (Z/N Z)∗ → C∗ un caractère de Dirichlet et χ̄ = χ−1 son
conjugué complexe. Soit wN = ( N0 −10 ). √
a) Montrer que l’application f → f |k wN = (z → ( N z)−k f (−1/(N z))) induit
un isomorphisme d’espaces vectoriels Sk (N, χ) ' Sk (N, χ̄), en particulier elle induit
une involution de Sk (Γ0 (N )).
b) En utilisant l’exercice précédent, montrer que si f ∈ Sk (N, χ), alors Λ(f, s)
possède un prolongement holomorphe à C, avec l’équation fonctionnelle

Λ(f, s) = ik Λ(k − s, f |k wN ).

27