Isospectral deformations of the Lagrangian Grassmannians

Gasqui, Jacques; Goldschmidt, Hubert

Annales de l'Institut Fourier, Tome 57 (2007) no. 7, pp. 2143-2182.

Nous étudions la grassmannienne lagrangienne spéciale $SU\left(n\right)/$ $SO\left(n\right)$, avec $n\ge 3$, et son espace réduit $X$, qui est l’espace symétrique irréductible de rang $n-1$ quotient de $SU\left(n\right)/SO\left(n\right)$ par l’action d’un groupe cyclique d’isometries d’ordre $n$. Notre résultat principal est la construction de déformations infinitésimales isospectrales non triviales de $X$. Nous obtenons ainsi les premiers exemples en rang quelconque $\ge 2$ d’espaces symétriques irréductibles réduits et non infinitésimalement rigides. Notre résultat peut être vu comme une généralisation de la construction que nous avions donnée dans un précédent papier pour la grassmannienne réduite des $3$-plans de ${ℝ}^6$, espace qui est en fait isométrique à l’espace réduit de $SU\left(4\right)/SO\left(4\right)$.

We study the special Lagrangian Grassmannian $SU\left(n\right)/SO\left(n\right)$, with $n\ge 3$, and its reduced space, the reduced Lagrangian Grassmannian $X$. The latter is an irreducible symmetric space of rank $n-1$ and is the quotient of the Grassmannian $SU\left(n\right)/SO\left(n\right)$ under the action of a cyclic group of isometries of order $n$. The main result of this paper asserts that the symmetric space $X$ possesses non-trivial infinitesimal isospectral deformations. Thus we obtain the first example of an irreducible symmetric space of arbitrary rank $\ge 2$, which is both reduced and non-infinitesimally rigid. Our result may be viewed as a generalization of the construction which we had given previously for the reduced Grassmannian of $3$-planes in ${ℝ}^6$; in fact, this space is isometric to the reduced space of $SU\left(4\right)/SO\left(4\right)$.

Classification : 44A12, 53C35, 58A10, 58J53
Keywords: Symmetric space, special Lagrangian Grassmannian, reduced Lagrangian Grassmannian, Radon transform, infinitesimal isospectral deformation, symmetric form, Guillemin condition
Mot clés : espace symétrique, grassmannienne lagrangienne speciale, grassmannienne lagrangienne réduite, transformée de Radon, déformation isospectrale, forme symétrique, condition de Guillemin

[1] Gasqui, J.; Goldschmidt, H. Radon transforms and the rigidity of the Grassmannians, Ann. of Math. Studies, Princeton University Press, Princeton, NJ, Oxford, 2004 no. 156 | MR | Zbl

[2] Gasqui, J.; Goldschmidt, H. Infinitesimal isospectral deformations of the Grassmannian of $3$-planes in ${ℝ}^6$, Mém. Soc. Math. Fr. (N.S.) (2007) no. 109, pp. vi+92 | Numdam | Zbl

[3] Guillemin, Victor Some microlocal aspects of analysis on compact symmetric spaces, Seminar on Microlocal Analysis (Ann. of Math. Stud.), Volume 93, Princeton Univ. Press, Princeton, N.J., 1979, pp. 79-111 | MR | Zbl

[4] Helgason, S. Differential geometry, Lie groups, and symmetric spaces, Academic Press, Orlando, FL, 1978 | MR | Zbl