543. a) Si n ∈ N*, montrer que GLn(R) est dense dans Mn(R).

b) Montrer que, pour n = 2 et n = 3, On(Q) est dense dans On(R). Que dire pour n quelconque ?

a) Vérifions que toute A ∈Mn(R) est limite d’une suite de GLn(R).

Le polynôme caractéristique de A : P = det(xIn - A) est de degré n donc il existe au plus n valeurs de p ∈ N * telles que A-Inp⁄∈GLn(R). Prenons p0 strictement plus grand que ces valeurs éventuelles. La suite de terme général (A - In)
      ppp0 est une suite de GLn(R) qui tend vers A.

b) Nous admettrons le résultat classique (théorème de Cartan), fréquent sujet d’exercice, selon lequel On (R ) est engendré par les matrices de réflexion. Il suffit donc de prouver que toute matrice de réflexion est limite d’une suite de matrices de réflexion à coefficients rationnels.

Soit H ∈ On (R ) une matrice de réflexion et h la réflexion de Rn (muni du produit scalaire usuel) dont H est la matrice canonique. Prenons N ∈ Rn un vecteur unitaire orthogonal à l’hyperplan des invariants de h. On a alors x ∈ Rn,h(x) = x - 2⟨x,N ⟩N.

Considérons une suite de vecteurs non nuls Np de Qn qui tend vers N (dont l’existence découle de la densité de Q dans R) et pour chaque p la réflexion hp d’hyperplan N⊥p. Notons que les Np ne sont pas forcément unitaires. On a

∀p,  ∀x ∈ Rn,  hp(x) = x- --2---⟨x,Np⟩Np.
                         ∥Np ∥2
On voit que la suite (hp) converge vers h simplement donc pour une norme quelconque. Ainsi la suite des matrices (Hp) des hp dans la base canonique converge vers H et ces matrices sont à coefficients rationnels car c’est le cas des vecteurs Np et de ceux de la base canonique.
[Liste des corrigés]