Invariants d'un sous-groupe unipotent maximal d'un groupe semi-simple

Brion, Michel

Annales de l'Institut Fourier, Tome 33 (1983) no. 1, pp. 1-27.

Soit $G$ un groupe algébrique semi-simple complexe, $U$ un sous-groupe unipotent maximal de $G$, $T$ un tore maximal de $G$ normalisant $U$. Si $V$ est un $G$-module rationnel de dimension finie, alors $G$ opère sur l’algèbre $\mathbf{C}\left[V\right]$ des fonctions polynomiales sur $V$; la structure de $G$-module de $\mathbf{C}\left[V\right]$ est décrite par la $T$-algèbre $\mathbf{C}[V{]}^U$ des $U$-invariants de $\mathbf{C}\left[V\right]$. Cette algèbre est de type fini et multigraduée (par le degré de $\mathbf{C}\left[V\right]$ et le poids par rapport à $T$). On donne une formule intégrale pour la série de Poincaré de cette algèbre graduée. De plus, on a par exemple, pour presque tout $V$ :

$$f(z^{-1}=(-1{)}^{\dim V-\dim U_Z\dim V}f\left(z\right),$$

où $f$ est la série de Poincaré de $\mathbf{C}[V{]}^U$ graduée par le degré de $\mathbf{C}\left[V\right]$. On classe les $G$-modules irréductibles $V$ (où $V$ est simple) tels que $\mathbf{C}[V{]}^U$ soit régulière ; dans ces $G$-modules, l’adhérence de toute $G$-orbite est à singularités rationnelles. Enfin, on prouve un analogue du critère de Hilbert-Mumford pour les $U$-invariants.

Let $G$ be an algebraic complex semi-simple group, with a maximal unipotent subgroup $U$ and a maximal torus $T$ normalizing $U$. If $V$ is a rational finite-dimensional $G$-module, then $G$ acts on the algebra $\mathbf{C}\left[V\right]$ of polynomial functions on $V$, and the $G$-structure of $\mathbf{C}\left[V\right]$ is described by the $T$-algebra $\mathbf{C}[V{]}^U$ of $U$-invariant functions. This algebra is finitely generated and multigraded (by the degree of $\mathbf{C}\left[V\right]$ and weight w.r.t. $T$). The Poincaré series of $\mathbf{C}[V{]}^U$ for this grading is given by an integral formula and e.g. it happens that for most $V$,

$$f(z^{-1}=(-1{)}^{\dim V-\dim U_Z\dim V}f\left(z\right),$$

where $f$ is the Poincaré series of $\mathbf{C}[V{]}^U$ graded by the degree of $\mathbf{C}\left[V\right]$. For a simple $G$, the irreducible $G$-modules $V$ such that $\mathbf{C}[V{]}^U$ is regular are classified ; in these $G$-modules, every closure of a $G$-orbit has rational singularities. A result similar to the Hilbert-Mumford criterion is also proved for $U$-invariants.

[1] H. Kraft, Geometric methods in invariant theory (à paraître dans les Springer Lecture Notes). | Zbl

[2] R.P. Stanley, Hilbert functions of graded algebras, Adv. in Maths., 28 (1978), 57-83. | MR | Zbl

[3] M. Brion, La série de Poincaré des U-invariants, C.R.A.S., Paris, t. 293 (21 septembre 1981). | MR | Zbl

[4] M. Brion, Représentations irréductibles des groupes de Lie simples dont l'algèbre des U-invariants est régulière, C.R.A.S., Paris, t. 293 (2 novembre 1981). | MR | Zbl

[5] H. Freudenthal, H. De Vries, Linear Lie groups, Academic Press, 1968. | Zbl

[6] V.L. Popov, Constructive invariant theory, Astérique, n° 87-88 (1981), 303-334. | Numdam | MR | Zbl

[7] V.L. Popov, Stability criteria for the action of a semisimple group on a factorial manifold, Math. USSR Iszvestia, 4 (1970), 527-535. | Zbl

[8] T.A. Springer, On the invariant theory of SU2, Proc. of the Koninkl. Akad. van Wetenschappen, vol. 83 (3), 1980, 339-345. | MR | Zbl

[9] N. Bourbaki, Groupes et algèbres de Lie, chapitres 4 à 6 (Hermann). | Zbl

[10] A.G. Elashvili, Canonical form and stationary subalgebras of points of general position for simple linear Lie groups. Funct. Anal., 6 (1972), 44-53. | MR | Zbl

[11] G.W. Schwarz, Representations of simple Lie groups with regular ring of invariants, Invent. Math., 49 (1978), 167-191. | MR | Zbl

[12] V.G. Kac, Some remarks on nilpotent orbits, J. of Alg., 64 (1980), 190-213. | MR | Zbl

[13] G.W. Schwarz, Representations of simple Lie groups with a free module of covariants, Invent. Math., 50 (1978), 1-12. | MR | Zbl

[15] B. Kostant, Lie group representations of polynomial rings, Amer. J. of Math., 85 (1963), 327-402. | MR | Zbl

[16] Th. Vust, Sur la théorie des invariants des groupes classiques, Ann. Inst. Fourier, 26, 1 (1976), 1-31. | Numdam | MR | Zbl

[17] W. Borho, H. Kraft, Über Bahnen und deren Deformationen bei linearen Aktionen reduktiver Gruppen, Comment. Math. Helv., 54 (1979), 61-104. | MR | Zbl

[18] R. Elkik, Singularités rationnelles et déformations, Inv. Math., 47 (1978), 139-147. | MR | Zbl

[19] N. Bourbaki, Groupes et algèbres de Lie, chap. VII (Hermann). | Zbl

[20] E.B. Dynkin, Maximal subgroups of the classical groups, A.M.S. Translations, vol. 6 (1957), 245-378. | Zbl

[21] J.I. Igusa, A classification of spinors up to dimension twelve, Amer. J. of Math., 92 (1970). | MR | Zbl

[22] D. Mumford, Geometric invariant theory, Springer Verlag, 1965. | MR | Zbl

[23] F. Grosshans, Observable subgroups and Hilbert's fourteenth problem, Amer. J. of Math., 95 (1973), 229-253. | MR | Zbl

[24] D. Hilbert, Über die vollen Invariantensysteme, Math. Annalen, 42 (1893), 313-373. | JFM

[25] W. Hesselink, Desingularizations of varieties of nullforms, Inv. Math., 55 (1979), 141-163. | MR | Zbl