66. Soient A et B dans Sn(R). Comparer tr(ABAB) et tr(A2B2).

Solution de Moubinool Omarjee

On remarque que

   2
tr((AB-BA ))  =  tr(ABAB  - ABBA  - BAAB  + BABA  )
       =  tr(ABAB ) - tr(ABBA  )- tr(BAAB  )+ tr(BABA  )
       =  2(tr(ABAB  )- tr(A2B2)).
La matrice M := AB -BA est antisymétrique puisque MT = BTAT -ATBT = BA-AB = -M, donc tr (M2 ) =  ∑

1≤i,j≤nmi,jmj,i = - ∑

1≤i,j≤nm2
i,j 0. On déduit donc de l’égalité plus haut que
               2  2
tr(ABAB  ) ≤ tr(A B ).
En outre, l’égalité a lieu si et seulement si M = 0, autrement dit si et seulement si A et B commutent.

Solution d’après Jean-Claude Jacquens et Noé Weeks, élève au lycée Louis-Le-Grand

On va utiliser le produit scalaire canonique (M,N)↦→tr(MTN) sur Mn(R). L’inégalité de Cauchy-Schwarz pour ce produit scalaire donne

       T        • ------------• -------------
tr((BA ) (AB )) ≤  tr ((BA )TBA )  tr ((AB )TAB ).
Or (AB)T = BT AT = BA, donc (BA)TAB = ABAB, tandis que (BA)TBA = AB2A et (AB)T (AB) = BA2B. Les propriétés de la trace montrent donc que tr(T)
(BA)BA = tr(A2B2) = tr(     T   )
 (AB ) AB. En particulier tr(A2B2) = AB2 0 et l’inégalité précédente se récrit
                2 2
tr(ABAB  ) ≤ tr(A B ).
Supposons l’égalité réalisée. Par le cas d’égalité dans l’inégalité de Cauchy-Schwarz, la matrice M := AB est positivement colinéaire à BA = MT. Supposons M0. Alors MT = λM pour un λ ∈ R + . Ainsi, M = (MT)T = λMT = λ2M donc λ2 = 1 puis λ = 1. Ainsi MT = M. C’est trivialement vrai si M = 0, donc AB = BA. Réciproquement, il y a évidemment égalité si AB = BA. En conclusion, l’égalité a lieu si et seulement si A et B commutent.


[Liste des corrigés]