[Table des matières]

Résumé. Soient K un corps commutatif, _n(K) la K-algèbre des matrices à n lignes et n colonnes à coefficients dans K. On montre ici que si V est un sous-espace vectoriel de _n(K) constitué de matrices qui commutent deux à deux, alors la dimension de V est majorée par 1 + α(n), où α(n) est égal à r² si n = 2r ou r(r + 1) si n = 2r + 1. De plus on peut décrire les sous-espaces vectoriels de dimension 1 + α(n) constitués de matrices qui commutent deux à deux. Cela nous conduit à majorer la dimension des sous-algèbres commutatives de _n(K) et à décrire des sous-algèbres commutatives qui sont de dimension 1 + α(n). Il s’ensuit une caractérisation des sous-groupes commutatifs maximaux de GLn (K), ainsi que des sous-groupes unipotents maximaux de GLn(K). L’intérêt de cet article est que les démonstrations utilisent seulement les résultats classiques de l’algèbre linéaire.

Abstract. Commutative subalgebras of _n(K)

Let K be a commutative field, _n(K) the K-algebra of n×n matrices with coefficients in K. We show that for a subspace V of _n(K) with elements commuting two by two its dimension is bounded above by 1 + α(n) where α(n) is equal to r² for n = 2r and to r(r + 1) for n = 2r + 1. We also describe those for which the dimension is 1 + α(n). This leads to an upper bound for the dimension of the commutative subalgebras of _n (K) and to the description of these for which the dimension is 1 + α(n). Then we deduce a characterization of the maximal commutative subgroups of the linear group GLn(K) and also of its maximal unipotent subgroups. The main interest in this paper is that the proofs use only classical linear algebra.

Mots-clés : matrice, partie commutative, matrice nilpotente, matrice unipotente, algèbre commutative de matrices, groupe commutatif de matrices.

1.Introduction

Dans tout l’article, K désignera un corps commutatif et _n(K) l’algèbre des matrices carrées à n lignes et n colonnes à coefficients dans K.

Depuis 1905, et peut-être avant, on a étudié les familles de matrices à coefficients dans K constituées d’éléments qui commutent deux à deux.

Si K est le corps des nombres complexes C, Schur a montré en 1905 que le rang de la famille est majoré par 1 + α(n), où α(n) est égal à r² si n = 2r ou à r(r + 1) si n = 2r + 1. On peut aussi dire que α(n) = ⌊()²⌋ où ⌊x⌋ désigne la partie entière inférieure de x.

Si V est un sous-espace vectoriel de _n(K) , on dira que V est un sous-espace vectoriel commutatif si les éléments de V commutent deux à deux. Ainsi, Schur a décrit les sous-espaces vectoriels commutatifs de dimension 1 + α(n) lorsque K = C (voir ).

Il faut attendre 1944 pour que Jacobson s’intéresse à ce problème lorsque K est quelconque. Il montre la même chose que Schur ; toutefois, il est en difficulté dans le cas où la caractéristique est 2 ().

Cette difficulté sera levée par Gustafson en 1976 avec des méthodes beaucoup plus élaborées (). On trouvera d’autres preuves ou généralisations dans les articles suivants ([Co1], [Co2], [Cow], [K]).

Les auteurs ont découvert un article de jeunesse de Mirzakhani, paru en 1998, suggérant une démonstration élémentaire du théorème de Schur pour un corps quelconque. Toutefois, dans cette note d’une page, elle ne décrit pas les sous-espaces commutatifs qui sont de dimension 1 + α(n) ().

Ici, nous reprenons l’esprit de sa démonstration qui utilise des techniques de l’algèbre linéaire classique. Ce même esprit nous permet de décrire à conjugaison près les sous-espaces vectoriels qui sont de dimension maximale, sans restriction sur la caractéristique de K.

Un sous-espace vectoriel commutatif de _n(K) est contenu dans l’espace vectoriel engendré par tous les produits finis d’éléments de la famille, qui est donc une sous-algèbre commutative de _n (K). Ainsi, les sous-espaces vectoriels commutatifs de _n(K) qui sont maximaux pour l’inclusion ne sont autres que les sous-algèbres commutatives de _n(K) qui sont maximales pour l’inclusion.

Voici un exemple simple. Si A _n(K) est telle que χ_A(X) = m_A(X), c’est-à-dire si le polynôme caractéristique de A est égal à son polynôme minimal, alors on sait que KI_n + KA + ... + KA^n-1 est une sous-algèbre commutative, maximale pour l’inclusion et sa dimension est n. Cela résulte simplement du fait que les matrices qui commutent avec A sont les polynômes en A (, ex. 4.7.8, p. 192).

On a pensé que ce type de sous-algèbre commutative de _n(K) donnait la dimension minimale parmi les sous-algèbres commutatives de _n(K) qui sont maximales pour l’inclusion. En fait, Courter () a donné en 1965 un exemple de sous-algèbre commutative, maximale pour l’inclusion dans ₁₄ (K), qui est de dimension 13.

Ceci laisse à penser que la description des sous-algèbres de _n(K), commutatives, maximales pour l’inclusion, est loin d’être connue. Pour le lecteur curieux, nous reproduisons l’exemple de Courter à la fin de l’article.

La connaissance des sous-algèbres commutatives maximales de _n(K) permet de caractériser les sous-groupes commutatifs de GLn(K) qui sont maximaux dans l’ensemble des sous-groupes commutatifs de GLn(K).

Si T _n,0 (K) est le sous-espace vectoriel des matrices triangulaires supérieures dont la diagonale est nulle, alors la connaissance des sous-espaces vectoriels commutatifs, maximaux dans T_n,0(K) permet de caractériser les sous-groupes qui sont maximaux dans l’ensemble des sous-groupes commutatifs unipotents de GLn(K).

2.Sur les sous-espaces vectoriels commutatifs de T_n,0(K)

Dans tout ce qui suit, T_n,0(K) désigne le sous-espace vectoriel de _n(K) constitué des matrices triangulaires supérieures dont la diagonale est nulle.

Définition 1. — Soit une partie de _n(K). On dit que est une partie commutative si, pour tout A, B , on a AB = BA. Dans ce qui suit, bien souvent sera un sous-espace vectoriel de _n (K); on dira brièvement que est un sous-espace vectoriel commutatif, si c’est aussi une partie commutative ; on prendra garde que cela ne suppose pas que S est stable par produit.

Proposition 1. — (1) Soit V un sous-espace vectoriel commutatif de T_n,0(K) avec n ≥ 2, qui est maximal pour l’inclusion. Alors pour tout A,B V on a AB V .
(2) Soit V un sous-espace vectoriel commutatif de _n(K), constitué de nilpotents, qui est maximal pour cette propriété. Alors pour tout A,B V , on a AB V .

Démonstration Montrons le point (1). Soit V ʹ le sous-espace vectoriel de _n(K) engendré par V et par les AB où A,B V . Clairement V ʹ est un sous-espace vectoriel commutatif de T_n,0(K), ainsi la maximalité de V implique que V = V ʹ ; ce qui montre (1). Le même argument permet de démontrer (2) puisqu’un produit commutatif de deux nilpotents est encore nilpotent. cqfd

Dans ce qui suit E_i,j désigne la matrice telle que E_i,j(k,l) = δ_i,kδ_j,l. Enfin _s,t(K) désigne le K-espace vectoriel des matrices à s lignes et t colonnes.

Théorème 1. — Soit V un sous-espace vectoriel commutatif de T_n,0(K) avec n ≥ 2. Alors on a dim_KV ≤ α(n).

⊳ Soient n = 2r ≥ 2 et := KE_i,j, l’ensemble des matrices appartenant à T_n,0(K) où A _r(K). Ainsi, l’ensemble est un sous-espace vectoriel commutatif de T_n,0(K) avec dim = α(n) ; de plus, on a AB = 0 si A,B .

⊳ Soient n = 2r + 1 ≥ 3, ₁ := KE_i,j, i.e. ₁ est l’ensemble des matrices T_n,0(K) où A _r,r+1(K). Ainsi ₁ est un sous-espace vectoriel commutatif de T_n,0(K) avec dim₁ = α(n).

Soit ₂ := KE_i,j, formé des matrices T_n,0(K) où A _r+1,r(K). Ainsi ₂ est un sous-espace vectoriel commutatif de T_n,0(K) avec dim₂ = α(n).

Alors ₁ et ₂ sont deux sous-espaces vectoriels commutatifs de T_n,0(K) vérifiant dim_i = α(n) pour i = 1,2 ; de plus, on a AB = 0 si A,B _i pour i = 1,2.

Démonstration C’est essentiellement celle de . Le théorème est immédiat pour T_2,0(K), on le suppose vrai pour T_n-1,0(K) avec n ≥ 3 ; il s’agit de montrer que le théorème est satisfait pour T_n,0(K).

∙ Soient

Clairement, il existe f : W → T_n-1,0(K) (resp. fʹ : Wʹ→ T_n-1,0(K)) un isomorphisme de K-espaces vectoriels tel que f(AB) = f(A)f(B) pour tout A,B W (resp. tel que fʹ(AB) = fʹ(A)fʹ(B) pour tout A,B Wʹ).

Soit t : T _n,0 (K) → W , tʹ : T_n,0(K) → Wʹ définis comme il suit. Si A = [a_i,j] T_n,0(K), alors

Soit V un sous-espace vectoriel commutatif de T_n,0(K) ; facilement t(V ) (resp. tʹ(V )) est un sous-espace vectoriel commutatif de W (resp. Wʹ).

Alors V ₁ := V ∩ KE_1,j (resp. V ₂ := V ∩KE_i,n) est le noyau de la restriction à V de t (resp. tʹ). Il suit de cela que

Comme W ⊂ T _n,0(K) (resp. Wʹ⊂ T_n,0(K)) s’identifie à T_n-1,0(K) via f (resp. fʹ), il suit de l’hypothèse de récurrence que Ainsi,

∙ Soient θ₁ V ₁ , θ₂ V ₂, montrons que θ₁θ₂ = 0. On a

Compte tenu des relations E_i,jE_k,l = 0 si j≠k et E_i,jE_j,l = E_i,l, on a facilement θ₂θ₁ = 0. Comme θ₁ , θ₂ V , on a θ₁θ₂ = θ₂θ₁ = 0.

∙ Or θ₁ θ₂ = (0 × b₁ + a₂b₂ + + a_n-1b_n-1 + a_n × 0)E_1,n, ainsi

Alors la dualité ( théorème 4.2, p. 16) dit que n ≥ dimV ₁ + dimV ₂ et donc

Compte tenu des relations (1), (3), (5), on a

Il suit de (6) que si n = 2r et que si n = 2r + 1, on a Ainsi (7) et (8) montrent bien que dimV ≤ α(n). Le reste de l’énoncé est clair. cqfd

Corollaire 1. — Soit V un sous-espace vectoriel commutatif de _n(K) avec n ≥ 2, constitué de nilpotents. Alors dimV ≤ α(n).

Démonstration Il suit de la proposition 4 de l’appendice qu’il existe P GLn(K) tel que PV P^-1 ⊂ T _n,0 (K). Alors le corollaire est conséquence immédiate du théorème 1. cqfd

Théorème 2. — Soient n ≥ 2, α(n), , ₁, ₂, définis dans l’énoncé du théorème 1.

Soit V un sous-espace vectoriel commutatif de T_n,0(K) avec dimV = α(n).

(1) Si n = 2r ≥ 2, alors V = .

(2) Si n = 2r + 1 ≥ 5, alors V = ₁ ou V = ₂.

(3) Si n = 3 alors les sous-espaces vectoriels commutatifs, de dimension α(3) = 2 de T_3,0(K) sont

avec x≠ 0.

Démonstration (1)  ⊳ Si n = 2r et dimV = α(n), il suit de (7) que ε = εʹ = 0 ; il en résulte que dimt(V ) = dim tʹ(V ) = α(n - 1).

⊳ Si n = 2r + 1 et dimV = α(n), il suit de (8) que ε = 0 ou εʹ = 0 ; par conséquent, dimt(V ) = α(n - 1) si ε = 0 et dimtʹ(V ) = α(n - 1) si εʹ = 0.

Nous montrons à présent le théorème par récurrence sur n, en l’initialisant à n = 2, 3 et 4.

(2) Montrons le théorème pour n = 2,3. Pour n = 2, il est clair que V = T_2,0(K).

On suppose maintenant que n = 3. Comme dimV = 2, il existe A = V avec (u, w)≠ (0, 0). On a A²≠0 si et seulement si uw≠0.

⊳ Supposons d’abord uw≠0. Dans ce cas, on a χ_A(X) = m_A(X) = X³. Par conséquent, KA + KA² = KA⊕KA² est un sous-espace vectoriel commutatif de T_3,0(K) de dimension 2. D’autre part si (A,B) est une base de V , sachant que V est commutatif, il suit de (, ex. 4.7.8, p. 192) que B KA ⊕ KA², ainsi V = KA ⊕ KA². Facilement

⊳ Supposons que u≠0 et w = 0, on montre facilement que le commutant de A dans T_3,0(K) est

ce qui montre que V est égal à ce dernier espace.

⊳ De même, si u = 0 et si w≠0, on a V = K⊕ K.

(3) Montrons le théorème pour n = 4.

On a donc dim V = 4, il suit de 1. que dimt(V ) = 2, dimV ₁ = 2 et aussi dimtʹ(V ) = 2, dimV ₂ = 2. Il suit de 2. que les sous-espaces vectoriels commutatifs, de dimension 2 de T_3,0(K) sont

avec x≠ 0.

(a) Il s’agit de montrer que t(V ) ne peut être le troisième cas. Supposons le contraire, i.e. t(V ) = K⊕ K avec x≠0.

Il existe donc A, B V avec

Montrons d’abord que V ₁ = KD ⊕ KE, avec

Soit C = V ₁. De la relation CB = BC = 0, on déduit facilement que u = 0, ainsi V ₁ ⊂ KD ⊕ KE et pour des raisons de dimension, on a bien V ₁ = KD ⊕ KE.

Enfin de la relation DA = AD = 0, on déduit que x = 0, ce qui contredit x≠0.

Par une méthode analogue on peut montrer que

(b) Supposons que t(V ) = K⊕ K, il s’agit de montrer que V = KE_1,3 ⊕ KE_1,4 ⊕ KE_2,3 ⊕ KE_2,4. Montrons d’abord que V ₁ = KE_1,3 ⊕ KE_1,4.

Soit U = uE_1,2 + vE_1,3 + wE_1,4 V ₁ et R = u^ʹE_1,2 + v^ʹE_1,3 + w^ʹE_1,4 + E_2,3 V tel que t(R) = E_2,3 . Il suit de la relation UR = RU = 0 que u = 0 ; ainsi donc

Il suit de cela qu’il existe Z,T V tels que t(Z) = E_2,3, t(T) = E_2,4, lorsque l’on pose Z = u^ʹ E_1,2 + E_2,3, T = u^ʹʹE_1,2 + E_2,4. Alors il suit de ZT = TZ que u^ʹ = 0 et u^ʹʹ = 0.

Cela montre bien que V = KE_1,3 ⊕ KE_1,4 ⊕ KE_2,3 ⊕ KE_2,4.

(c) Il reste à montrer que t(V ) = KE_1,4 ⊕ KE_2,4 est impossible.

Soit A = uE_1,2 + vE_1,3 + wE_1,4 V ₁, B = u^ʹE_1,2 + v^ʹE_1,3 + w^ʹE_1,4 + E_2,4 V , C = u^ʹʹ E_1,2 + v^ʹʹE_1,3 + w^ʹʹE_1,4 + E_3,4 V , tels que t(B) = E_2,4, t(C) = E_3,4.

Il suit de AB = BA = 0 que u = 0, de AC = CA = 0 que v = 0. Ainsi V ₁ ⊂ KE_1,4, ce qui est impossible puisque dimV ₁ = 2.

(4) On suppose que n ≥ 5 et que le théorème est satisfait pour n - 1.

(a) On suppose que n = 2r + 1 ≥ 5. Il suit du premier alinéa que dimt(V ) = α(n - 1) ou que dimtʹ(V ) = α(n - 1).

On suppose que dimt(V ) = α(n - 1), alors on a

Par hypothèse de récurrence sur n, on a donc Soit donc 2 ≤ i ≤ r + 1, r + 2 ≤ j ≤ n, on a donc avec t(A) = E_i,j . Soit B = b₂E_1,2 + b₃E_1,3 + + b_nE_1,n V ₁. Facilement, on obtient BA = b_i E_1,j ,  AB = 0. Ainsi b_i = 0 pour 2 ≤ i ≤ r + 1. Il en suit que V ₁ = KE_1,j.

Soit r + 2 ≤ j < jʹ≤ n (on a r ≥ 2). Il suit de ce qui précède qu’il existe S,T V avec t(S) = E_i,j ,  t(T) = E_i,jʹ avec S = s₂E_1,2 + s₃E_1,3 + + s_r+1E_1,r+1 + E_i,j et T = t₂ E_1,2 + t₃ E_1,3 + + t_r+1E_1,r+1 + E_i,jʹ.

Facilement, on a ST = s_iE_1,jʹ, TS = t_iE_1,j. Comme ST = TS, il suit que s_i = 0, t_i = 0 pour 2 ≤ i ≤ r + 1. Ainsi E_i,j V pour 1 ≤ i ≤ r + 1, r + 2 ≤ j ≤ n. En conclusion, on a V ⊃ KE_i,j et pour des raisons de dimension, on a bien V = ₂.

Sous l’hypothèse dimtʹ(V ) = α(n - 1), on aurait par une démonstration analogue V = ₁ .

(b) On suppose que n = 2r ≥ 5. On a donc dimV = α(n) = r², il suit du premier alinéa que dimt(V ) = α(n - 1) = r² - r et donc dimV ₁ = r. Il suit alors de l’hypothèse de récurrence que t(V ) = KE_i,j ou t(V ) = KE_i,j. Il s’agit d’exclure ce dernier cas.

Supposons que t(V ) = KE_i,j. Soit A := a₂E_1,2 + a₃E_1,3 + + a_nE_1,n V ₁. Soit B = b₂ E_1,2 + b₃ E_1,3 + + b_nE_1,n + E_i,j V et t(B) = E_i,j où 2 ≤ i ≤ r + 1 et r + 2 ≤ j ≤ n. Facilement AB = a_iE_1,j, BA = 0 et comme AB = BA on a donc a_i = 0 pour 2 ≤ i ≤ r + 1. Ce qui veut dire que V ₁ ⊂KE_1,j et c’est impossible pour des raisons de dimension. Ainsi

Par une méthode analogue à (4)(a), on peut montrer que V ₁ ⊂KE_1,j, et donc que V ₁ = KE_1,j.

Soient 2 ≤ i ≤ r,  r + 1 ≤ j ≤ n, il reste à montrer que E_i,j V . Soient r + 1 ≤ j < jʹ≤ n (2r ≥ 5). Il suit de ce qui précède qu’il existe S,T V avec t(S) = E_i,j, t(T) = E_i,jʹ et S = s₂ E_1,2 + s₃ E_1,3 + + s_rE_1,r + E_i,j, T = t₂E_1,2 + t₃E_1,3 + + t_rE_1,r + E_i,jʹ.

Facilement ST = s_iE_1,jʹ, TS = t_iE_1,j ; comme ST = TS, on a s_i = 0, t_i = 0 pour 2 ≤ i ≤ r. Ainsi E_i,j V pour 2 ≤ i ≤ r + 1 et r + 2 ≤ j ≤ n. Ce qui montre que l’égalité V = . cqfd

Corollaire 2. — Soit V un sous-espace vectoriel commutatif de _n(K) avec n ≥ 2, constitué de nilpotents avec dimV = α(n). Alors il existe P GLn(K) avec les propriétés suivantes.

(1) Si n = 2r ≥ 2, alors PV P^-1 = .

(2) Si n = 2r + 1 ≥ 5, alors PV P^-1 = ₁ ou PV P^-1 = ₂.

(3) Si n = 3, alors

avec x≠ 0.

Démonstration Il suit de la proposition 4 de l’appendice qu’il existe P GLn(K) tel que PV P^-1 ⊂ T _n,0 (K). Alors le corollaire est conséquence immédiate du théorème 2. cqfd

3.Sur les sous-algèbres commutatives de _n (K)

Proposition 2. — Soit une partie de _n(K) avec n ≥ 1. Les propriétés suivantes sont équivalentes.

(i) La partie est un sous-espace vectoriel commutatif de _n(K) qui est maximal pour l’inclusion ;

(ii) la partie est une sous-algèbre commutative de _n(K) qui est maximale pour l’inclusion.

Démonstration Montrons (i) implique (ii). Soit ^ʹ le sous-espace vectoriel de _n(K) engendré par , I_n et par les AB où A,B . Clairement ʹ est un sous-espace vectoriel commutatif, ainsi la maximalité de implique que = ʹ. Cela montre que est une sous-algèbre unitaire de _n(K) . Il reste à montrer que est maximale comme sous-algèbre commutative. En effet s’il existe une sous-algèbre commutative ^ʹʹ avec ⊂^ʹʹ, comme ^ʹʹ est en particulier un sous-espace vectoriel commutatif, la maximalité de implique = ^ʹʹ, ainsi est une sous-algèbre commutative, maximale.

Montrons (ii) implique (i). Soit ʹ un sous-espace vectoriel, commutatif de _n(K) avec ⊂ ʹ et ^ʹʹ la sous-algèbre unitaire de _n(K) engendrée par ^ʹ, clairement ^ʹʹ est une sous-algèbre commutative. La maximalité de implique = ^ʹʹ et donc = ^ʹ ; ce qui veut dire que est un sous-espace vectoriel commutatif maximal pour l’inclusion. cqfd

Lemme 1. — Soient n₁,n₂,…,n_s des entiers tels que 1 ≤ n₁ ≤ n₂ ≤≤ n_s et posons n := n₁ + n₂ + + n_s, s ≥ 1. Alors on a

De plus si s ≥ 2, on a

sauf si s = 2, n₁ = 1, n₂ = 2 auquel cas on a (1 + α(1)) + (1 + α(2)) = 1 + α(3).

Démonstration Elle se fait sans difficulté par récurrence sur s. cqfd

Théorème 3. — Soit un sous-espace vectoriel commutatif de _n(K) avec n ≥ 4. Alors on a

Démonstration Soient K^alg la clôture algébrique de K, ^alg le sous-K^alg-espace vectoriel de M_n (K^alg ) engendré par ; bien entendu ^alg est commutatif et

Notons := ^alg ; il suit de la partie matricielle de la proposition 4 de l’appendice qu’il existe P GLn (K^alg ) tel que P P^-1 s’injecte dans le produit ₁ ×₂ × ... ×_s où _i est un sous-espace vectoriel de _ni(K^alg) de la forme K^algI_ni si n_i = 1 et K^algI_ni + _i où _i ⊂ T _{ni ,0} (K^alg) si n_i ≥ 2 ; de plus on a 1 ≤ n₁ ≤ n₂ ≤ ... ≤ n_s, n = n₁ + n₂ + ... + n_s, s ≥ 1 et _i est un sous-espace vectoriel commutatif de T_ni,0(K^alg). Il suit donc du théorème 1 que dim_K^algi ≤ 1 + α(n_i). Ainsi le théorème est conséquence du lemme 1. cqfd

Théorème 4. — Soit une sous-algèbre commutative, unitaire de _n(K) avec n ≥ 4 et dim_K = 1 + α(n). Alors il existe P GLn(K) avec PP^-1 = KI_n ⊕ si n est pair et PP^-1 = KI_n ⊕₁ ou PP^-1 = KI_n ⊕₂ si n est impair ; , ₁, ₂ sont définis au théorème 1.

En particulier est une algèbre locale dont l’idéal maximal est tel que si A,B , alors on a AB = 0 et de plus = KI_n ⊕.

Démonstration

∙ On reprend la démonstration du théorème 3.

Notons := ^alg, il suit de la partie matricielle de la proposition 4 de l’appendice qu’il existe P GL _n (K^alg ) tel que P P^-1 s’injecte dans le produit ₁ ×₂ × ... ×_s où _i est un sous-espace vectoriel de _ni(K^alg) de la forme K^algI_ni si n_i = 1 et K^algI_ni + _i où _i ⊂ T _{ni ,0} (K^alg) si n_i ≥ 2 ; de plus on a 1 ≤ n₁ ≤ n₂ ≤ ... ≤ n_s, n = n₁ + n₂ + + n_s, s ≥ 1 et _i est un sous-espace vectoriel commutatif de T_ni,0(K^alg). Il suit donc du théorème 1 que dim _{K^alg i} ≤ 1 + α(n_i). On a donc

sachant que n ≥ 4, il suit du lemme 1 que s ≥ 2 est impossible. Cela veut dire que P^alg P^-1 ⊂ K^algI_n ⊕ où ⊂ T_n,0(K^alg) et où est un sous-espace vectoriel commutatif de T _n,0 (K^alg ) de dimension α(n).

Il suit alors du théorème 2 que, si n est pair, on a

et que, si n est impair, on a

où := K^algE_i,j, := K^algE_i,j.

∙ On souhaite montrer qu’il existe Q GLn(K) tel que QQ^-1 = KI_n ⊕ si n est pair et QQ^-1 = KI_n ⊕₁ ou QQ^-1 = KI_n ⊕₂ si n est impair.

Il suit de (9) et (10) que ^alg = K^algI_n ⊕ où est un idéal maximal de ^alg tel que si A, B , alors on a AB = 0 ; en particulier est constitué de nilpotents. Ainsi les inversibles de ^alg sont les éléments de la forme λI_n + N avec λ K^alg -{0} et N ; et donc est l’ensemble des non-inversibles de ^alg.

Soit A qui est inversible de , donc inversible de ^alg, ce qui veut dire que A = λI_n + N avec λ K^alg - {0} et N et donc N est nilpotent. Il suit de cela que le polynôme caractéristique de A est de la forme χ_A(X) = (X - λ)ⁿ K[X], avec λ K^alg.

∙ Montrons que λ K et pour cela que contient un élément non-inversible qui n’est pas nul.

Soit := KE_i,j, on a donc dim = n(n - 1) et tout élément de est non-inversible. Comme dim _K = 1 + α(n), il suit que pour n ≥ 4, on a dim + dim > n², cela veut dire qu’il existe C non-inversible de _n(K) et C≠0 ; il suit pour des raisons de déterminant que C est un élément non-inversible de _n(K^alg), ainsi C . Sachant que A - λI_n et C , on a (A - λI_n)C = 0 ; il suit de cela que λ K. En effet si λK, alors la famille (1, λ) est K-libre, il suit de cela que si U,V _n(K) et si U + λV = 0, alors U = V = 0; ainsi la relation AC - λC = 0 implique en particulier que C = 0, ce qui est une contradiction.

∙ Il suit du paragraphe précédent que, si A , il existe λ_A K avec χ_A(X) = (X -λ_A)ⁿ. Alors la proposition 4 de l’appendice, version matricielle dit qu’il existe Q GLn(K) tel que QQ^-1 = KI_n ⊕ où est un sous-espace vectoriel commutatif de T_n,0(K). Sachant que dim = 1 + α(n) et que dim ≤ α(n), on a donc dim = α(n) et alors est décrit par le théorème 2. Ce qui achève la démonstration. cqfd

Remarque. — Les cas n = 2, n = 3.

(1) Soit une sous-algèbre commutative de ₂(K) avec dim = 1 + α(2) = 2. Alors il existe P GL ₂ (K) avec PP^-1 = KI₂ ⊕ KB et B = .

Pour montrer cela, il suffit de remarquer que , qui est de dimension 2, contient une matrice dont le polynôme minimal est de degré 2.

(2) Soit une sous-algèbre commutative de ₃(K) avec dim = 1 + α(3) = 3.

⊳ Alors il existe P GL₃(K) avec

Si K = F ₂ , il faut ajouter PP^-1 = KE_1,1 ⊕ KE_2,2 ⊕ KE_3,3.

Le premier cas correspond au fait que qui est de dimension 3 contient une matrice dont le polynôme minimal est de degré 3.

Les autres cas correspondent au fait que toutes les matrices de ont un polynôme minimal qui est de degré au plus 2.

⊳ On rappelle que f : _n(K) →_n(K) est un automorphisme intérieur lorsqu’il existe A GLn (K) telle que, pour tout X _n(K), f(X) = AXA^-1. Alors, il n’existe pas d’automorphisme intérieur f de ₃(K) avec

Il suffit pour cela de considérer le degré des polynômes minimaux.

Par ailleurs, il n’existe pas d’automorphisme intérieur f de ₃(K) avec

cela demande une vérification laissée au lecteur.

De même si K = F₂, il n’existe pas d’automorphisme intérieur f de ₃(K) avec

en effet KI₃ ⊕ KE_1,2 ⊕KE_1,3 contient des éléments non diagonalisables, alors que tout élément de KE_1,1 ⊕ KE_2,2 ⊕ KE_3,3 est diagonal. De la même façon, il n’existe pas d’automorphisme intérieur f de ₃(K) avec f(KI₃ ⊕ KE_1,3 ⊕ KE_2,3) = KE_1,1 ⊕ KE_2,2 ⊕ KE_3,3.

4. Sur les sous-groupes commutatifs de GLn(K)

Si est un sous-groupe commutatif de GLn(K), la sous-K-algèbre K[] de _n(K) engendrée par est commutative et on a ⊂ K[]^×, où K[]^× désigne le groupe des inversibles de K[]. En particulier si est un sous-groupe commutatif de GLn(K), maximal pour l’inclusion, alors on a = K[]^× . Il suit de cela que les sous-groupes commutatifs maximaux de GLn(K) sont les groupes des inversibles des sous-algèbres commutatives de _n(K) qui sont maximales pour l’inclusion.

Corollaire 3. — Soit un sous-groupe commutatif, maximal de GLn(K) ; on dispose alors de l’inégalité dim K[] ≤ 1 + α(n).

Soit n ≥ 4 et un sous-groupe commutatif et maximal dans GLn(K). On suppose que dimK[] = 1 + α(n). Alors il existe P GLn(K) avec PP^-1 = K^×I_n ⊕ si n est pair et PP^-1 = K^× I_n ⊕₁ ou PP^-1 = K^×I_n ⊕₂ si n est impair ; les espaces , ₁, ₂ sont définis au théorème 1.

Démonstration C’est une conséquence immédiate des théorèmes 3 et 4, et du fait que (KI_n ⊕ )^× = K^×I_n ⊕ et aussi (KI_n ⊕_i)^× = K^×I_n ⊕_i pour i = 1,2. cqfd

Définition 2. — Soit ⊂ GLn(K) un groupe commutatif constitué d’éléments unipotents, i.e. = I_n + où est constitué de nilpotents, on dira que est un sous-groupe commutatif unipotent de GLn(K). On appelle dimension de , la dimension du sous-espace vectoriel engendré par et on la note dim; on remarquera bien que si K≠F₂, n’est pas un sous-groupe commutatif, maximal de GLn(K).

Proposition 3. — Soit = I_n + un sous-groupe commutatif, unipotent de GLn(K). Les propriétés suivantes sont équivalentes.

(i) Le groupe est un sous-groupe de GLn(K) qui est maximal dans la famille des sous-groupes commutatifs, unipotents de GLn(K) ;

(ii) l’ensemble est un sous-espace vectoriel qui est maximal dans l’ensemble des sous-espaces vectoriels de _n (K) qui sont commutatifs et constitués de nilpotents.

Démonstration ∙ Montrons que (i) implique (ii). On a = I_n + . Ensuite est une partie commutative, en effet si A = I_n + N et A^ʹ = I_n + N^ʹ, alors AA^ʹ = A^ʹA implique facilement que NN^ʹ = N^ʹ N ; en conséquence le sous-espace vectoriel de _n(K) engendré par est commutatif, facilement est une partie commutative, constituée de nilpotents. Alors il existe un sous-espace vectoriel ^ʹ⊃ qui est maximal dans l’ensemble des sous-espaces vectoriels de _n (K) qui sont commutatifs et constitués de nilpotents. Il suit de la proposition 1, partie 2, que pour tout A,B V , on a AB V ; cela implique que I_n + ^ʹ est un sous-groupe commutatif, unipotent. Comme est maximal, on a = ^ʹ, ce qui montre (ii).

∙ Montrons que (ii) implique (i). Comme est un sous-espace vectoriel qui est maximal dans l’ensemble des sous-espaces vectoriels de _n(K) qui sont commutatifs et constitués de nilpotents, il suit de la proposition 1, partie 2, que pour tout A,B , on a AB ; ainsi = I_n + est un sous-groupe commutatif, unipotent de GLn(K) et comme est maximal, il suit que est maximal. cqfd

Corollaire 4. — Soit un sous-groupe commutatif de GLn(K), constitué d’éléments unipotents, i.e. d’éléments de la forme I_n + N où N est nilpotent. Alors on a dim≤ α(n).

Soit n ≥ 4 et un sous-groupe de GLn(K) qui est maximal dans l’ensemble des sous-groupes commutatifs, unipotents de GLn(K), avec dim = α(n).

Alors il existe P GLn(K) avec PP^-1 = I_n + si n est pair et PP^-1 = I_n + ₁ ou PP^-1 = I_n + ₂ si n est impair ; , ₁, ₂ sont définis au théorème 1.

Démonstration Pour la première partie, on a donc = I_n + , ensuite est une partie commutative, en effet si A = I_n + N et A^ʹ = I_n + N^ʹ, alors AA^ʹ = A^ʹA implique facilement que NN^ʹ = N^ʹ N ; en conséquence le sous-espace vectoriel de _n(K) engendré par est commutatif, le reste est conséquence du corollaire 1.

Pour la seconde partie, comme = I_n + est maximal, il suit de la proposition 2 que est un sous-espace vectoriel commutatif, constitué d’éléments nilpotents et de dimension α(n) puisque dim = α(n). Sachant que pour tout N , on a χ_N(X) = Xⁿ, il suit de la proposition 4 de l’appendice qu’il existe P GLn(K) avec PP^-1 ⊂ T_n,0(K). Le reste est conséquence du théorème 2. cqfd

5.Appendice

Proposition 4. — Soient E un K-espace vectoriel de dimension finie, dimE = n ≥ 1, une famille commutative d’endomorphismes de E, i.e. pour tout u,v , on a uv = vu. On suppose en plus que pour tout u , le polynôme caractéristique χ_u(X) se factorise en polynômes de degré 1 de K[X]. Alors E admet une décomposition E = E₁ ⊕ E₂ ⊕⊕ E_s avec les propriétés qui suivent.

(1) Les E_i sont des sous-espaces vectoriels avec dimE_i = n_i ≥ 1.

(2) On a u(E_i ) ⊂ E_i pour tout u . On note u_i l’endomorphisme de E_i induit par u, alors χ_ui (X) = (X - λ(u_i))^n_i où λ(u_i) K.

(3) Il existe une base _i de E_i telle que Mat(u_i,_i) = λ(u_i)I_ni + N_i où N_i est une matrice triangulaire supérieure de diagonale nulle.

(4) Soit _i := {u_i  ; u }, alors _i est une famille commutative. Si est en plus, un sous-espace vectoriel de End E (resp. une sous-algèbre de EndE, un sous-groupe de GL(E), un sous-groupe unipotent de GL (E)), alors _i est en plus, un sous-espace vectoriel de EndE_i (resp. une sous-algèbre de EndE_i, un sous-groupe de GL(E_i), un sous-groupe unipotent de GL(E_i )).

La version matricielle de la proposition est la suivante

Soit une famille commutative de matrices de _n(K), i.e. pour tout U,V , on a UV = V U. On suppose en plus que pour tout U , le polynôme caractéristique χ_U(X) se factorise en polynômes de degré 1 de K[X]. Alors il existe P GLn(K) avec les propriétés qui suivent.

(1) Pour tout U , l’élément PUP^-1 est un tableau diagonal de matrices (U₁,U₂,…,U_s) avec U_{i ni} (K), 1 ≤ n₁ ≤ n₂ ≤≤ n_s et n = n₁ + n₂ + + n_s.

(2) On a χ_Ui (X) = (X -λ(U_i))^n_i où λ(U_i) K et U_i = λ(U_i)I_{n i} + N_i où N_i est une matrice triangulaire supérieure de diagonale nulle.

(3) Soit _i := {U_i ; U }, alors _i est une famille commutative de _ni(K). Si est en plus, un sous-espace vectoriel de _n(K) (resp. une sous-algèbre de _n(K), un sous-groupe de GLn(K), un sous-groupe unipotent de GLn(K)), alors _i est en plus, un sous-espace vectoriel de _ni (K) (resp. une sous-algèbre de _ni(K), un sous-groupe de GL_ni(K), un sous-groupe unipotent de GL _ni(K)).

(4) Dans le cas particulier où pour tout A , le polynôme caractéristique de A est de la forme χ_A (X) = (X - λ(A))ⁿ avec λ(A) K, alors il existe P GLn(K) tel que PP^-1 ⊂ KI_n ⊕ où ⊂ T _n,0 (K).

Démonstration 

∙ On suppose que pour tout u on a χ_u(X) = (X - λ(u))ⁿ avec λ(u) K. Alors on a u = λ(u)Id_E + n_u où n_u est nilpotent. Sachant que n_u (resp. n_v) est un polynôme en u (resp. v), alors pour tout u, v on a n_un_v = n_vn_u. On sait alors qu’il existe une base (e₁,e₂,…,e_n) de E dans laquelle la matrice de tous les n_u est triangulaire supérieure avec une diagonale nulle ( ex. 5.7.15 p. 237). Dans ce cas, la proposition est démontrée.

∙ On suppose qu’il existe u avec χ_u(X) = (X -λ₁)^n₁(X -λ₂)^n₂(X -λ_r)^n_r, où λ_i K, λ_i ≠ λ_j si i ⁄= j, r ≥ 2 et n_i ≥ 1 pour i {1,…,r}. Introduisons F₁ := Ker(u - λ₁Id_E)^n₁ ainsi que F₂ = Ker (u - λ₂Id_E)^n₂ ⊕ ... ⊕ Ker(u - λ_rId_E)^n_r. Alors, on a E = F₁ ⊕ F₂ et 1 ≤ dim F_i < n.

Il suit de la commutativité que pour tout v , on a v(F₁) ⊂ F₁ et v(F₂) ⊂ F₂. Soit v_i l’endomorphisme de F_i induit par v et _i := {v_i | v }. Facilement _i satisfait les hypothèses du théorème pour F_i.

Par récurrence sur la dimension, on a une décomposition F₁ = E₁ ⊕ E₂ ⊕⊕ E_t qui satisfait aux conclusions du théorème pour ₁ ; de même, on a une décomposition

qui satisfait aux conclusions du théorème pour ₂. Il suit facilement que la décomposition E = E₁ ⊕ E₂ ⊕ ⊕ E_s satisfait aux conclusions du théorème. cqfd

6.L’exemple de Courter ()

Dans ce qui suit _s,t(K) désigne la K-algèbre des matrices à s lignes et t colonnes.

Soit (a, b, c, d, e, f,g,h) K⁸ et

Soit (m, n, p, q) K⁴ et W₂ = W₂(m,n,p,q) := _2,2(K). Soit W₃ la matrice nulle de _12,12(K) et W₄ = W₄(a,b,c,d,e,f,g,h) _12,2(K) défini par

Soit

Enfin soit

Facilement est un sous-espace vectoriel de _14,14(K) de dimension 13. Assez facilement est une sous-algèbre commutative de _14,14(K). Plus difficilement Courter montre que est une sous-algèbre commutative maximale de _14,14(K).

Remerciements.

Nous remercions le relecteur pour ses remarques judicieuses.

Références

Ω
[Table des matières]