La transformation de Fourier Plancherel analytique des groupes de Lie. II : les groupes nilpotents

Nghiêm Xuân Hai

Annales de l'Institut Fourier, Tome 34 (1984) no. 1, pp. 1-37.

Partant de la représentation de l’algèbre de Lie $𝔤$ du groupe $G$ (nilpotent, connexe et simplement connexe) par des opérateurs différentiels rationnels dont l’existence est liée à la conjecture de Gelfand et Kirillov et démontrée dans Nghiêm Xuân Hai (Ann. Inst. Fourier, 33-4 (1983), 95–133), on calcule explicitement la transformation de Fourier-Plancherel de $G$. En particulier, on obtient la mesure de Plancherel comme une mesure à densité sur un ouvert de Zariski du spectre antihermitien du centre de l’algèbre enveloppante $𝒰\left(𝔤\right)$.

On obtient naturellement le noyau de toutes les représentations unitaires du dual réduite en même temps, avec de très bonnes propriétés : analyticité, décroissance à l’infini, et surtout, les éléments de matrices généralisées qui sont donnés par les valeurs de ces noyaux apparaissent comme des fonctions propres au sens des distributions pour l’action à gauche et à droite d’une sous-algèbre commutative de $𝒰\left(𝔤\right)$.

On donne enfin l’interprétation des représentations en termes d’opérateurs Fourier-Intégraux et on obtient un résultat remarquable : La transformation de Fourier-Plancherel se réalise avec un opérateur Fourier-Intégral à phase rationnelle et la Transformation inverse est juste de phase opposée. On obtient explicitement la transformation de Fourier des opérateurs différentiels polynomiaux sur $G$. En illustration de ces résultats, on donne le calcul explicite et rapide de cette phase pour les groupes de Lie nilpotents “assez commutatifs” (en sont les groupes de Heisenberg, les groupes de degré de nilpotence $\le 2$, les groupes triangulaires de matrices).

The Fourier Plancherel transform for nilpotent Lie groups is given by exponentiating an infinitesimal representation of the Lie algebras by differential antisymmetrical operators of degree at most one.

This transform can be written as a Fourier Integral operator the amplitude of which is the exponential of a rational phase and the inverse Transform is given by the opposite phase.

The phase, which is polynomial except a division by a central polynomial, gives also the Fourier transform of regular differential operators on the group and the amplitude, which is an analytic function, is also the eigendistribution of a maximal abelian sub-algebra of differential operators on the group.

The rank-two case is computed as an application.

[1] L. Corwin & F.P. Greenleaf Fourier Transform of smooth functions on certain Nilpotent Lie groups, Jour. Funct. Anal., 37 (1980), 203-217. | MR | Zbl

[2] J. Dixmier Algèbres enveloppantes, Gauthier-Villars, Paris, 1974. | MR | Zbl

[3] R.E. Howe A connection between Nilpotent Lie Groups and Oscillatory integrals associated to singularities, Pacific Jour. Math., 73 (1977), 329-364. | MR | Zbl

[4] I.M. Gelfand & A.A. Kirillov Sur les corps liés aux algèbres enveloppantes, Publ. Math. IHES, n° 31 (1966), 5-20. | EuDML | Numdam | MR | Zbl

[5] Nghiêm Xuân Hai, La Transformation de Fourier-Plancherel analytique des groupes de Lie. I. Algèbres de Weyl et opérateurs différentiels, Ann. Inst. Fourier, 33-4 (1983), 95-133. | EuDML | Numdam | MR | Zbl

[6] Nghiêm Xuân Hai Une variante de la conjecture de Gelfand-Kirillov et la Transformation de Fourier-Plancherel. C.R.A.S., Paris, tome 293, série 1, p. 381-384. | MR | Zbl

[7] Nghiêm Xuân Hai Construction analytique de la Transformation de Fourier-Plancherel des groupes de Lie. Cours de 3è Cycle Orsay, Université de Paris-Sud (1979), Publ. Math. Orsay, (1979) n° 79.06. | Zbl

[8] Nghiêm Xuân Hai Algèbres de Heisenberg et géométrie symplectique des algèbres de Lie, Publ. Math. Orsay (1978) n° 78.08. | MR | Zbl

[9] Nghiêm Xuân Hai Harmonic analysis on the Poincaré Group : | Zbl

I. Generalized matrix elements, Comm. Math. Phys., 12 (1969), 331-350.

II. The Fourier Transform, Comm. Math. Phys., 22 (1971), 301-320. | Zbl

[10] Nghiêm Xuân Hai Sur certaines représentations d'une algèbre de Lie résoluble complexe (I), Bull. Sc. Math., 97 (1973), 105-128. | MR | Zbl

[11] A.A. Kirillov Unitary representations of nilpotent Lie Groups, Uspekhi Math. Nauk., 17 (1962), 57-110. | MR | Zbl

[12] L. Pukanszky Leçons sur les représentations des groupes, Dunod, Paris, 1967. | MR | Zbl

[13] L. Pukanszky Unitary representations of solvable Lie Groups, Ann. Sci. Ec. Norm. Sup., 4è Série, 4 (1971), 457-608. | Numdam | MR | Zbl