Solution selon Hervé Pépin
On munit E = R n de sa structure euclidienne canonique. Nous utiliserons la :
Proposition 1.Soit C un convexe fermé de E, distinct de ∅ et de E, dont le complémentaire est lui aussi convexe. Alors C est un demi-espace fermé.
Démonstration. Choisissons ω E \ C et considérons p l’unique point de C tel que
Soit m = {x E∣⟨x - p∣ω - p⟩ < 0} ; on a p [m,2p - m]. Comme p C et 2p - m E \ F ⊂ E \C, on a, par convexité de E \C, mE \C, donc m C. Ainsi ⊂ C, et donc F, qui est l’adhérence de est inclus dans C. Par conséquent, F = C et C est bien un demi-espace fermé. __
Prouvons maintenant le résultat demandé. On peut supposer f non constante, de sorte que, dans R, inff < sup f.
Pour λ ] inf f, supf[, soit Fλ := {x E∣f(x) ≤ λ}. Alors, Fλ est fermé, distinct de ∅ et de E. La propriété de monotonie de f montre que Fλ et E \ Fλ sont convexes. Par conséquent Fλ est un demi-espace fermé et on dispose de (uλ,aλ) E × R tel que ∥uλ∥ = 1 et Fλ = {x E∣ ⟨uλ∣x⟩≤ aλ}.
Si λ ≤ μ, on a Fλ ⊂ Fμ, donc uλ = uμ et aλ ≤ aμ. L’application λuλ est donc constante sur ] inf f, sup f[, et si on note v sa valeur, on a
Soient x et y dans E tels que f(x) < f(y) et soit λ . On a
⟨v∣ x⟩ ≤ aλ < ⟨v∣ y⟩,
d’où ⟨v∣ x⟩ < ⟨v∣ y⟩. Ainsi, pour x,y E,
On en déduit que, pour x,y E,
Soit g : R → R , tf(tv) ; par composition, g est continue. Pour x E,
⟨v∣ x⟩ = ⟨v∣ ⟨x∣ v⟩v⟩,
donc f(x) = f(⟨x∣v⟩v) = g(⟨x∣v⟩).
Enfin, pour t < tʹ, ⟨tv∣v⟩ < ⟨tʹv∣v⟩, donc, selon (*), f(tv) ≤ f(tʹv), soit g(t) ≤ g(tʹ), ce qui montre que g est croissante.
Posons ϕ : E → R, x⟨v∣x⟩. On a f = g • ϕ où ϕ est une forme linéaire et g : R → R est croissante et continue.