Пятая проблема Гильберта

Топологическая группа преобразований состоит из топологической группы ${\displaystyle G}$, топологического пространства ${\displaystyle X}$ и непрерывного действия группы ${\displaystyle G}$ на ${\displaystyle X}$, которое является непрерывным отображением

${\displaystyle \varphi \colon G\times X\to X,\ (g,x)\to gx,}$

обладающим следующими двумя свойствами:

1. ${\displaystyle ex=x}$ для всех ${\displaystyle x\in X}$, где ${\displaystyle e}$ — единичный элемент из ${\displaystyle G}$,
2. ${\displaystyle g(g'x)=(gg')x}$ для всех ${\displaystyle g,g'\in G}$ и для всех ${\displaystyle x\in X}$.

Топологическая группа ${\displaystyle G}$ является группой Ли, если ${\displaystyle G}$ — вещественно-аналитическое многообразие, а умножение ${\displaystyle \mu \colon G\times G\to G,\ (g,g')\to gg'}$ — вещественно-аналитическое отображение. Тогда по теореме о неявной функции отображение ${\displaystyle \iota \colon G\to G,\ g\to g^{-1}}$ является вещественно-аналитическим. Если ${\displaystyle G}$ — группа Ли, ${\displaystyle X}$ — вещественно-аналитическое многообразие, а действие ${\displaystyle \varphi }$ группы ${\displaystyle G}$ на ${\displaystyle X}$ — вещественно-аналитическое, то имеем группу вещественно-аналитических преобразований.

Пусть ${\displaystyle G}$ — локально евклидова топологическая группа. Тогда возникает вопрос о том, можно ли всегда снабдить ${\displaystyle G}$ вещественно-аналитической структурой такой, что умножение

${\displaystyle \mu \colon G\times G\to G}$

будет вещественно-аналитическим? Этот вопрос, на который впоследствии был дан положительный ответ, и считается сегодня пятой проблемой Гильберта.[3]

Для компактных групп пятая проблема была решена фон Нейманом[4] в 1933 году. Для локально компактных коммутативных групп и некоторых других частных случаев проблему решил Понтрягин[3][5][6] в 1934 году. Эти доказательства были получены с помощью результата венгерского математика Альфреда Хаара[7], который построил на локально компактной топологической группе инвариантную меру[8].

Центральным пунктом общего доказательства оказался вопрос о существовании «малых» подгрупп в сколь угодно малой окрестности единицы (кроме самой единицы). Группы Ли таких подгрупп не имеют. Значительный вклад в решение внёс Глизон (Глисон)[9], доказавший, что каждая конечномерная локально компактная топологическая группа ${\displaystyle G}$, которая не имеет малых подгрупп, является группой Ли.

Окончательное решение получении в 1952 году Монтгомери и Циппин, которые доказали, что у локально связной конечномерной локально компактной топологической группы нет малых подгрупп.[10]. Поскольку всякая локально евклидова топологическая группа является локально связной, локально компактной и конечномерной, то из этих двух результатов вытекает следующее утверждение.

Теорема. Каждая локально евклидова группа является группой Ли.

Как впоследствии показал Глушков, данная теорема допускает обобщения[11].

Этот результат часто рассматривают как решение пятой проблемы Гильберта, но поставленный Гильбертом вопрос носил более широкий характер и касался групп преобразований ${\displaystyle \varphi \colon G\times X\to X}$ для случая, когда многообразие ${\displaystyle X}$ не совпадает с ${\displaystyle G}$[3][12].

Ответ на общий вопрос Гильберта в случае топологических непрерывных действий оказался отрицательным даже для тривиальной группы ${\displaystyle G=\{e\}}$. Существуют топологические многообразия, не имеющие никакой гладкой структуры, а значит, не имеющие и вещественно-аналитической структуры[13].

• Проблемы Гильберта / под ред. П. С. Александрова. — М.: Наука, 1969. — 240 с. — 10 700 экз. Архивная копия от 17 октября 2011 на Wayback Machine