5.4 Compléments : le théorème de Baire et ses conséquences

5.4.1 Le théorème de Baire

Théorème 5.4.1 (Baire). Soit E un espace métrique complet et {({U}_{n})}_{n∈ℕ} une suite d’ouverts denses dans E. Alors {\mathop{\mathop{⋂ }} }_{n∈ℕ}{U}_{n} est encore dense dans E.

Démonstration Rappelons qu’une partie est dense si et seulement si elle rencontre tout ouvert non vide. Soit donc U un tel ouvert de E, soit {x}_{0} ∈ U ∩ {U}_{0} (qui est non vide par densité de {U}_{0} et ouvert comme intersection de deux ouverts). Soit {r}_{0} > 0 tel que B'({x}_{0},{r}_{0}) ⊂ U ∩ {U}_{0}. Supposons {x}_{n} et {r}_{n} construits et voyons comment nous allons construire {x}_{n+1} et {r}_{n+1}. Comme {U}_{n+1} est dense et B({x}_{n},{r}_{n}) est un ouvert, {U}_{n+1} ∩ B({x}_{n},{r}_{n}) est ouvert et non vide ; soit donc {x}_{n+1} ∈ {U}_{n+1} ∩ B({x}_{n},{r}_{n}) et {r}_{n+1} <{ {r}_{n} \over 2} tel que B'({x}_{n+1},{r}_{n+1}) ⊂ {U}_{n+1} ∩ B({x}_{n},{r}_{n}) . On construit ainsi une suite de boules fermées B'({x}_{n},{r}_{n}) telles que B'({x}_{n+1},{r}_{n+1}) ⊂ B'({x}_{n},{r}_{n}) avec {r}_{n} <{ {r}_{0} \over {2}^{n}} . Le théorème des fermés emboîtés nous garantit que {\mathop{\mathop{⋂ }} }_{n∈ℕ}B'({x}_{n},{r}_{n})\mathrel{≠}∅ (car δ(B'({x}_{n},{r}_{n})) < 2{r}_{n} tend vers 0). Mais on a B'({x}_{0},{r}_{0}) ⊂ U ∩ {U}_{0} et pour n ≥ 1, B'({x}_{n},{r}_{n}) ⊂ {U}_{n}. On en déduit que U ∩{\mathop{\mathop{⋂ }} }_{n∈ℕ}{U}_{n}\mathrel{≠}∅, ce qui achève la démonstration.

En passant au complémentaire, on obtient une version équivalente

Théorème 5.4.2 (Baire). Soit E un espace métrique complet et {({F}_{n})}_{n∈ℕ} une suite de fermés d’intérieurs vides de E. Alors {\mathop{\mathop{⋃ }} }_{n∈ℕ}{F}_{n} est encore d’intérieur vide dans E.

Exemple 5.4.1 On montre facilement qu’un sous-espace vectoriel de E distinct de E est d’intérieur vide (exercice). On en déduit que, si E, espace vectoriel normé de dimension infinie, est complet, E (qui n’est pas d’intérieur vide) ne peut pas être réunion dénombrable de sous-espaces vectoriels de dimension finie (dont on sait qu’ils sont fermés). En particulier E ne peut pas admettre de base dénombrable. C’est ainsi que ℝ[X] (qui admet une base dénombrable) n’est complet pour aucune norme.

5.4.2 Les grands théorèmes

Nous en citerons trois qui concernent tous des applications linéaires dans des espaces vectoriels normés complets.

Théorème 5.4.3 (Banach-Steinhaus). Soit E un espace vectoriel normé complet et F un espace vectoriel normé. Soit H un ensemble d’applications linéaires continues telles que

\mathop{∀}x ∈ E, \mathop{∃}{K}_{x} ≥ 0, \mathop{∀}u ∈ H,\quad \|u(x)\| ≤ {K}_{x}

Alors il existe K ≥ 0 tel que \mathop{∀}u ∈ H, \|u\| ≤ K.

Démonstration Posons pour x ∈ E, p(x) ={\mathop{ sup}}_{u∈H}\|u(x)\|(≤ {K}_{x}) et considérons {E}_{n} = \{x ∈ E\mathrel{∣}p(x) ≤ n\}. Remarquons tout d’abord que {E}_{n} est fermé : en effet si ({x}_{q}) est une suite d’éléments de {E}_{n} qui converge vers x ∈ E, on a pour tout u dans H, \mathop{∀}q ∈ ℕ, \|u({x}_{q})\| ≤ n ; en faisant tendre q vers + ∞ et en utilisant la continuité de u, on a encore \|u(x)\| ≤ n et donc x ∈ {E}_{n}. Maintenant notre hypothèse implique que chaque x de E appartient à l’un des {E}_{n} (par exemple pour n = E({K}_{x}) + 1). Donc E qui est d’intérieur évidemment non vide est réunion d’une famille de fermés. Le théorème de Baire implique que l’un des {E}_{n} est d’intérieur non vide : soit donc N ∈ ℕ, {x}_{0} ∈ E et r > 0 tel que B'({x}_{0},r) ⊂ {E}_{N}. Prenons alors x ∈ B'(0,1) et u ∈ H. Alors {x}_{0} + rx ∈ B'({x}_{0},r) et donc \|u({x}_{0} + rx)\| ≤ N. Mais alors \|u(x)\| ={ 1 \over r} \|u({x}_{0} + rx) − u({x}_{0})\| ≤{ 1 \over r} (N +\| u({x}_{0}\|) = K. On a donc \mathop{∀}u ∈ H, \|u\| ≤ K.

Remarque 5.4.1 Sous les mêmes hypothèses, on montre alors facilement qu’une limite simple d’applications linéaires continues est encore continue (attention à l’hypothèse E complet) ; en effet le théorème de Banach Steinhaus implique que la suite est équicontinue (le module de continuité en {x}_{0}, η(ε,{x}_{0}), ne dépend pas de n) et on montre simplement qu’une limite simple d’une suite équicontinue est continue.

Théorème 5.4.4 (théorème de Banach). Soit E et F deux espaces vectoriels normés complets, et u : E → F linéaire, continue, bijective. Alors {u}^{−1} est encore continue.

Démonstration On va montrer que u(B'(0,1)) ⊂ F contient une boule de centre 0 dans F, B'(0,{r}_{1}). On aura alors B'(0,{r}_{1}) ⊂ u(B'(0,1)), soit {u}^{−1}(B'(0,{r}_{1})) ⊂ B'(0,1) et donc si y ∈ F avec \|y\| ≤ 1, on aura {u}^{−1}({ {r}_{1} \over 2} y) ∈ B'(0,1) soit encore \|{u}^{−1}(y)\| ≤{ 2 \over {r}_{1}} ce qui montrera que {u}^{−1} est continue.

Soit r > 0. On a E ={\mathop{ \mathop{⋃ }} }_{n∈ℕ}nB'(0,r), on en déduit que F = u(E) ={\mathop{ \mathop{⋃ }} }_{n∈ℕ}nu(B'(0,r)) et a fortiori F ={\mathop{ \mathop{⋃ }} }_{n∈ℕ}n\overline{u(B'(0,r))}. L’espace vectoriel normé complet F qui est son propre intérieur est réunion d’une famille dénombrable de fermés ; donc l’un d’entre eux (Baire) est d’intérieur non vide. Mais si n\overline{u(B'(0,r))} est d’intérieur non vide, il en est de même de \overline{u(B'(0,r))}. Soit donc {y}_{0} ∈ F et ρ > 0 tel que B'({y}_{0},ρ) ⊂\overline{u(B'(0,r))}. On a aussi (puisque l’application x\mathrel{↦} − x laisse invariante B'(0,r)), B'(−{y}_{0},ρ) ⊂\overline{u(B'(0,r))}, et alors, si y ∈ B'(0,ρ),

2y = (y − {y}_{0}) + (y + {y}_{0}) ∈ B'(−{y}_{0},ρ) + B({y}_{0},{ρ}_{0})

or

B'(−{y}_{0},ρ) + B({y}_{0},{ρ}_{0}) ⊂\overline{u(B'(0,r))} + \overline{u(B'(0,r))} ⊂\overline{u(B'(0,2r))}

(facile) et donc y ∈\overline{u(B'(0,r))}. On a donc trouvé, pour tout r > 0 un ρ > 0 tel que B'(0,ρ) ⊂\overline{u(B'(0,r))}. Les translations étant des homéomorphismes, on a évidemment pour tout x ∈ E, B'(u(x),ρ) ⊂\overline{u(B'(x,r))}.

Montrons alors que sous ces hypothèses B'(0,ρ) ⊂ u(B'(0,2r)). Soit en effet y ∈ B'(0,ρ). Soit {ρ}_{n} le réel associé à { r \over {2}^{n}} par la propriété ci dessus. Quitte à remplacer les {ρ}_{n} par des réels plus petits, on peut supposer que {ρ}_{n} tend vers 0. On va construire un élément {x}_{n} de E par récurrence de manière à vérifier \|{x}_{n+1} − {x}_{n}\| ≤{ r \over {2}^{n}} et \|y − u({x}_{n})\| ≤ {ρ}_{n}. On pose {x}_{0} = 0 ; supposons {x}_{n} construit. On a donc y ∈ B'(u({x}_{n}),{ρ}_{n}) ⊂\overline{u(B'({x}_{n},{ r \over {2}^{n}} ))} et donc on peut trouver un point {x}_{n+1} ∈ B'({x}_{n},{ r \over {2}^{n}} ) tel que \|y − u({x}_{n+1})\| ≤ {ρ}_{n+1}, soit y ∈ B'(u({x}_{n+1}),{ρ}_{n+1}), ce qui achève la construction par récurrence. On a donc pour tout n, \|{x}_{n+1} − {x}_{n}\| ≤{ r \over {2}^{n}} et \|y − u({x}_{n})\| ≤ {ρ}_{n}. On a \|{x}_{n+p} − {x}_{n}\| ≤{ r \over {2}^{n}} +{ r \over {2}^{n+1}} + \mathop{\mathop{…}} +{ r \over {2}^{n+p−1}} ≤{ r \over {2}^{n−1}} , ce qui montre que la suite ({x}_{n}) est une suite de Cauchy. Comme E est complet, elle converge. Soit x sa limite. On a \|x − {x}_{0}\| ≤ 2r d’après l’inégalité ci dessus pour n = 0 et p tendant vers + ∞. D’autre part l’inégalité \|y − u({x}_{n})\| ≤ {ρ}_{n} et la continuité de u nous montrent que y = u(x), donc y appartient à u(B'(0,2r)).

On a alors aussi B'(0,{ ρ \over 2r} ) ⊂ u(B'(0,1)), ce qui montre comme on l’a remarqué, que {u}^{−1} est continue.

Théorème 5.4.5 (théorème du graphe fermé). Soit E et F deux espaces vectoriels normés complets, et u : E → F linéaire. Alors u est continue si et seulement si son graphe est fermé dans E × F.

Démonstration Supposons tout d’abord que u est continue et soit ({x}_{n},u({x}_{n})) une suite du graphe qui converge vers (x,y) ∈ E × F. Alors \mathop{lim}{x}_{n} = x et par continuité de u, \mathop{lim}u({x}_{n}) = u(x) ; mais alors l’unicité de la limite nécessite y = u(x), donc (x,y) est encore dans le graphe de u, ce qui montre bien que le graphe est fermé (il s’agit là d’une propriété tout à fait générale des espaces métriques, mais la réciproque est fausse en général). Supposons maintenant que u est linéaire de graphe Γ fermé. Alors Γ est un sous-espace vectoriel fermé de E × F, donc il est complet. L’application Γ → E, (x,u(x))\mathrel{↦}x est linéaire continue et bijective. D’après le théorème de Banach, sa réciproque x\mathrel{↦}(x,u(x)) est continue et donc x\mathrel{↦}u(x) aussi.

Remarque 5.4.2 Il s’agit d’une technique importante ; il est en effet considérablement plus facile de montrer qu’un graphe est fermé plutôt qu’une continuité ; si ({x}_{n}) est une suite de limite x, il s’agit de montrer non plus que la suite u({x}_{n}) converge vers u(x) mais plutôt que la suite u({x}_{n}) ne peut pas avoir d’autre limite que u(x) ; un exemple typique d’application linéaire de graphe fermé est la dérivation pour la topologie de la convergence uniforme : le théorème de dérivation des suites uniformément convergentes ne fait que traduire la fermeture du graphe (si la suite des dérivées converge uniformément, alors c’est vers la dérivée de la limite) ; attention cependant que la dérivation n’est pas continue pour la topologie de la convergence uniforme (le théorème du graphe fermé ne s’applique pas car l’espace des applications {C}^{1} n’est pas complet).