39. Soit (A, B) ∈Mn(R)2 avec B2 = B.

Montrer que rg (AB - BA) rg(AB + BA).

La matrice B est une matrice de projecteur. En conjuguant par une matrice de Mn(R) on se ramène au cas où B = (   )
Ir 0
0  0 et A = (      )
 U  W
 V   T avec U ∈Mr(R) et T ∈Ms(R). Il s’agit alors de prouver que

  (0r  - W )     (2U   W )
rg  V   0s   ≤ rg   V   0s     (*)

Première preuve de (*)

Soit α = rg V et β = rg W . En composant à gauche par (     )
 P   0
 0  Q et à droite par (     )
  R  0
  0  SP, R ∈ GL r (R ) et Q,S ∈ GLs(R) sont telles que

      (0         0 )          (0          0 )
QVR =   s-α,0r-α  I   etPW S =   r-β,0s- β  - I
                  α                        β

on se ramène à prouver (*) lorsque

    (            )       (             )
     0s-α,r- α  0           0r-β,s-β   0
V =      0     Iα   etW =      0     - Iβ

Notons U0 la matrice extraite de U obtenue en supprimant les α dernières colonnes et les β dernières lignes. Alors

                ( 2U    0      0      0  )
(2U  W )        |  00  0       0      I  |
rgV   0    =   rg|(  0    β0,α  0         0β |)
      s            0   I     s-α0,r-β  0
                        α            (α,β     )
          =   rg(2U0 )+ α+ β ≥ α +β =   0r - W
                                       V   0s

Deuxième preuve de (*)

Il suffit de monter que le rang du système linéaire {
  VX = 0
 W Y = 0 d’inconnue (X,Y ) ∈Mr,1(R)×Ms,1(R) est majoré par le rang du système {
     VX  = 0
 2U X + W Y = 0. Ce résultat est une conséquence immédiate du lemme géométrique suivant

Lemme 1.Soient E,F,G,H des R-espaces vectoriels de dimensions finies, u ∈L(E,H), v ∈ L(E, G) et w ∈L(F,H). Alors, si Z = {(x,y) ∈ Kerv × F2u(x) + w(y) = 0}, on a : dim Z dim(Kerv × Kerw).

Démonstration. Si (x,y) ∈ Z, x ∈ u-1(Imw), d’où

Z = {(x, y) ∈ (Kerv u-1(Imw)) × F2u(x) + w(y) = 0}.

Soit alors Φ : (Kerv u-1(Imw)) × F H, (x,y)↦→2u(x) + w(y). On constate que ImΦ = Im w d’où

                            -1
dimZ=   dim Ker Φ = dim(Ker v∩ u  (Im w))+ dim F - rg Φ
 ≤   dim Ker v +dim F - rgw = dim Ker v+ dimKer w
 =   dim (Ker v× Ker w)  -|

Remarque : le résultat reste vrai sur un corps quelconque.
[Liste des corrigés]