СИБИРСКАЯ НАУЧНАЯ ШКОЛА ГЕОМЕТРИИ,
ТОПОЛОГИИ И КВАЗИКОНФОРМНОГО АНАЛИЗА

Минуло 40 лет с тех пор, как в 1957 г. молодой кандидат физико-математических наук Юрий Решетняк вместе с семьей приехал из Ленинграда в Новосибирск -- на работу в Институт математики Сибирского отделения Академии наук, организованный в этом же году выдающимся математиком, академиком С.Л.Соболевым. В Ленинградском университете Ю.Решетняк, уже имея научную работу по алгебре и заняв одно из первых мест в решении проблемных задач, предложенных студентам матмеха, пришел в геометрический семинар А.Д.Александрова. Яркая личность Александра Даниловича, его новые и своеобразные идеи в области геометрии произвели неизгладимое впечатление на юного студента, и он стал одним из самых активных участников семинара. Очень скоро молодой математик нашел свой путь в науке.

По просьбе нашего корреспондента Галины ШПАК заслуженный деятель науки РФ, иностранный член Финской Академии наук и искусств, академик РАН, профессор Юрий Григорьевич РЕШЕТНЯК рассказывает о своем творческом пути и о работе возглавляемой им сибирской научной школы.

ГЕОМЕТРИЧЕСКИЕ ОБРАЗЫ

Направление, к которому относятся исследования новосибирской геометрической школы, -- геометрия "в целом". Слова "в целом" означают, что объект изучения -- строение геометрических образов в целом, выяснение связей между их локальными характеристиками и величинами, описывающими "размеры" этих образов.

Один из основных объектов, изучаемых современной геометрией, есть так называемые римановы пространства. Римановы пространства определяются обычно с помощью некоторых достаточно сложных конструкций, использующих представления, относящиеся к математическому анализу. Наглядно риманово пространство может быть охарактеризовано как такое, что в малой окрестности произвольной его точки пространство по своим свойствам почти неотличимо от обычной евклидовой геометрии, причем отличие тем меньше, чем меньше взятая окрестность. Теорию римановых пространств называют "римановой геометрией". Геометрия Лобачевского является примером римановой геометрии. Другой пример -- геометрия на сфере в n-мерном евклидовом пространстве. Это есть примеры пространств постоянной кривизны.

Изучению римановой геометрии "в целом" посвящены работы доктора физико-математических наук В.Топоногова. Один из основных его результатов известен в литературе как теорема сравнения Топоногова. Она широко используется в современных исследованиях по римановой геометрии и приводится во многих руководствах по этому предмету. Ряд важных результатов в римановой геометрии "в целом" принадлежит ученикам В.Топоногова -- доктору физико-математических наук В.Шарафутдинову, кандидату физико-математических наук В.Мареничу, а также докторам физико-математических наук Е.Родионову (Барнаул) и В.Ровенскому (Красноярск).

В свое время академик А.Александров поставил задачу -- построить теорию нерегулярных римановых пространств, допускающих разного рода изломы и нарушения гладкости. Одно из основных понятий классической римановой геометрии выражается термином "кривизна". Оно указывает меру отличия геометрии пространства от обычной евклидовой геометрии. По замыслу А.Александрова, -- следует рассматривать только те нерегулярные римановы пространства, для которых может быть построен некоторый аналог понятия кривизны из римановой геометрии.

В случае пространств размерности, равной 2, решение задачи о построении нерегулярной римановой геометрии дается теорией двумерных многообразий ограниченной кривизны, построенной А.Александровым. Еще будучи аспирантом, я доказал теорему о существовании конформного представления таких многообразий. (То, что такая теорема должна иметь место, -- также мое открытие.) Эта работа, завершенная уже в Новосибирске, стала основой моей докторской диссертации, защищенной в 1960-м году в Сибирском отделении.

Из геометрических результатов, выполненных во второй половине прошедшего сорокалетия, назову работы молодых математиков -- выпускников Новосибирского университета, докторов физико-математических наук В.Берестовского (Омск) и И.Николаева. Ими была решена задача об аксиоматическом построении римановой геометрии, постановка которой принадлежит А.Александрову. Он ввел понятие метрического пространства кривизны, лежащей между данными постоянными. Этот класс пространств определяется аксиоматически. В.Берестовский и И.Николаев доказали, что такие пространства являются многообразиями и более того -- они относятся к римановым. В.Берестовский доказал, что такое пространство является римановым пространством, порядок гладкости которого равен 1, а И.Николаев доказал, что порядок гладкости этого пространства равен 2. Последний результат важен потому, что позволяет распространить на эти пространства почти всю классическую аналитическую технику римановой геометрии.

Большой цикл исследований по хроногеометрии -- геометрическим основаниям теории относительности был выполнен А.Александровым после его переезда в Новосибириск (в Институте математики Александр Данилович проработал около четверти века). Этими вопросами занимались также доктора физико-математических наук Ю.Борисов, Ю.Боровский и кандидат физико-математических наук В.Ионин, а также молодые ученики Александрова -- А.Гуц (Омск) и А.Левичев -- выпускники НГУ (сейчас они оба доктора наук).

В сентябре прошлого года в Санкт-Петербурге состоялась российско-германская конференция, посвященная 85-летию Александра Даниловича. Содержание докладов как российских, так и немецких участников конференции показало, что современная тенденция развития геометрии "в целом" во многом берет свое начало от результатов и идей, заложенных в оригинальных работах А.Александрова, А.Погорелова (ученика А.Д.Александрова, академика; Украина), В.Топоногова и автора этих строк.

В Новосибирске (в Институте математики, НГУ и т.д.) и в других городах Западной Сибири работают молодые талантливые математики, которые продолжают развивать важные направления геометрии "в целом".

Наряду с исследованиями по геометрии, у нас проводятся топологические исследования как в отделе анализа и геометрии, возглавляемые доктором физико-математических наук В.Кузьминовым (в этой области также успешно работают профессор И.Шведов, доктор физико-математических наук В.Вершинин, кандидат физико-математических наук Л.Ивановский и другие), так и в других отделах Института (доктора физико-математических наук В.Голубятников, В.Кирейтов, И.Тайманов, В.Шарафутдинов). Ими получены многочисленные результаты высокого класса, соответствующие мировому уровню.

Топология есть обширная область современной математики, оказывающая влияние на многие ее разделы. Она изучает, в частности, такие свойства произвольных геометрических образов, которые сохраняются при преобразованиях, происходящих без разрывов и склеивания, или, как говорят математики, -- при взаимно однозначных и взаимно непрерывных преобразованиях. Такие преобразования называют топологическими. Два геометрических образа в топологии рассматриваются как "одинаковые", если один из них можно перевести в другой топологическим преобразованием. Например, круг и квадрат на плоскости можно преобразовать друг в друга топологическим преобразованием -- это топологически эквивалентные фигуры. В то же время круг и кольцевая область, получаемая из круга "выбрасыванием" концентричного круга меньшего радиуса, с точки зрения топологии -- различны.

Топология делится на два раздела -- общую или теоретико-множественную топологию и алгебраическую топологию. Деление это в значительной мере условно. Одна из основных задач общей топологии -- анализ математической концепции непрерывности в ее наиболее общей форме. Для этого было введено понятие топологического пространства. В топологии разработана весьма изощренная алгебраическая и аналитическая техника, значение которой выходит далеко за пределы первоначальной сферы ее применения. Сюда входит, в частности, так называемая гомологическая алгебра, которая является рабочим инструментом также и в теории уравнений с частными производными, в теории функций многих комплексных переменных и т.д. Один из разделов общей топологии -- теория размерности. Что значит, что некоторое пространство двумерно, трехмерно или, вообще, n-мерно? Размерность есть одна из фундаментальных характеристик топологического пространства. Определение ее в общем случае оказывается весьма непростым. В.Кузьминовым был построен ряд примеров, показывающих парадоксальность поведения размерности в определенных ситуациях. И.Шведовым изучалась задача об аксиоматическом определении размерностей, и он опроверг, в частности, некоторые известные гипотезы, связанные с этой задачей. Другой раздел топологии носит название теории Ходжа. Эта теория объединяет в себе представления, относящиеся к теории уравнений в частных производных, римановой геометрии и топологии. В.Кузьминовым, И.Шведовым и В.Гольдштейном в серии работ было построено некоторое обобщение теории Ходжа, применимое к изучению многообразий с особенностями и многообразий, удовлетворяющих пониженным (в сравнении с обычной теорией Ходжа) требованиям гладкости. Отличие этой обобщенной теории Ходжа, -- с точки зрения дифференциальных уравнений, -- в том, что эта теория существенно нелинейна.

В отделе геометрии и анализа ведутся исследования по теории дискретных подгрупп группы мебиусовых преобразований. Дискретные подгруппы группы движений в трехмерном евклидовом пространстве известны как кристаллографические группы Е.Федорова (русский кристаллограф, минералог и геометр, живший во второй половине прошлого и начале нашего века, академик). Дискретные группы мебиусовых преобразований возникают, в частности, если мы захотим перенести теорию Федорова на случай пространства Лобачевского. Эти группы представляют собой объект, чрезвычайно богатый по своим свойствам, имеющий многочисленные связи с топологией, алгеброй и римановой геометрией и теорией квазиконформных отображений. Начало исследований в этом направлении в Институте математики положено доктором физико-математических наук С.Крушкалем, который привлек к этой проблематике своих молодых учеников. В настоящее время исследования в этой области ведутся у нас доктором физико-математических наук, профессором А.Медных и его учениками.

Одновременно с работой над докторской диссертацией я писал книгу по теории нерегулярных кривых. Еще в 1946 году Александр Данилович Александров опубликовал небольшую заметку, в которой предлагался новый подход к изложению теории кривых. Первая идея Александрова -- вместо кривизны и кручения следует рассматривать полные кривизну и кручение как функции дуги кривой. (В регулярном случае они равны интегралам от обычных кривизны и кручения по длине дуги.) Вторая идея Александрова, -- основные понятия теории кривых должны определяться сначала для кривых, в геометрическом смысле простейших, а именно, -- для ломаных, то есть для кривых, составленных из конечного числа отрезков. Для произвольных же кривых полная кривизна и полное кручение должны определяться как пределы полных кривизн, соответственно, полных кручений вписанных ломаных, по аналогии с тем, как определяется длина кривой.

Задача -- написать теорию нерегулярных кривых на основе предложенного А.Александровым подхода -- была поручена мне еще когда я был студентом второго курса математико-механического факультета Ленинградского университета. Однако вскоре я наткнулся на трудности, которые преодолеть не смог. В конце первого года аспирантуры (через 4 года), готовясь к экзамену по философии, я решил сделать себе небольшой перерыв. Просматривая литературу, я обратил внимание на некоторое интегрально-геометрическое соотношение, касающееся длины кривой, установленное одним из моих старших коллег -- В.Залгаллером. Тут я подумал: а верны ли аналогичные соотношения для полной кривизны и полного кручения? Оказалось, что действительно такие соотношения верны и доказываются достаточно просто. Но, что самое главное, найденные мною интегрально-геометрические соотношения дали мне ключ к решению всех тех задач теории кривых, которые у меня не получались! Вскоре после этого (кажется, до экзамена по философии) я рассказал о своем открытии на геометрическом семинаре. Александр Данилович комментировал мой доклад репликой: "Какие красивые соотношения!" (Чуть позже я выяснил, что эти соотношения за год до меня нашел венгерский математик И.Фари, а затем они были переоткрыты американцем Дж.Милнором. Приложения, которые указали эти авторы, отличны от тех, которые нашел я.) Над книгой по теории кривых я много работал. И когда был закончен четвертый вариант, я решил его опубликовать. Однако редактор книги подверг критике подготовленный мною текст. Силы на пятый вариант книги у меня нашлись лишь 25 лет спустя (все прежние замечания редактора при этом, конечно, были учтены). Книга была издана в соавторстве с Александром Даниловичем Александровым в издательстве Kluwer Aсademic Publishers на английском языке в 1989 году под названием "General theory of irregular curves" ("Общая теория нерегулярных кривых").

Моим учеником кандидатом физико-математических наук В.Славским (Барнаул) были доказаны интегрально-геометрические соотношения для поверхностей, аналогичные тем, которые я получил для кривых. В последнее время он работает в новом направлении -- теории многомерных конформно-евклидовых римановых пространств. Им получен ряд важных результатов в этой области. Некоторые интересные результаты относительно геодезических на нерегулярных поверхностях получены моей ученицей, кандидатом физико-математических наук И.Поликановой (Барнаул).

Сильные результаты в теории поверхностей были получены доктором физико-математических наук Самуилом Зусевичем Шефелем, безвременно умершим.

ПРОБЛЕМА РЕШЕНА

Помимо геометрии я стал заниматься теорией квазиконформных отображений. В эту тему я включился, благодаря знакомству с академиком Михаилом Алексеевичем Лаврентьевым, создателем теории квазиконформных отображений. Он был признанным лидером этого направления исследований на протяжении многих лет.

Здесь уместно сказать несколько слов о том, что есть квазиконформное отображение. Отображение называется конформным, если оно преобразует всякую бесконечно малую сферу снова в сферу. Отображение квазиконформно, если бесконечно малая сфера преобразуется им в бесконечно малый эллипсоид, у которого отношение наибольшей полуоси к наименьшей не превосходит некоторого конечного числа, зависящего только от данного отображения.

В 1957 году Институт математики СО АН занимал одну комнату на Советской, 20 (ныне дом N 18) и, не считая директора -- академика Сергея Львовича Соболева, состоял из 5 человек. На семинаре института мы рассказывали о своих работах и планах. Там я узнал, в частности, о поставленной М.А.Лаврентьевым задаче построения теории пространственных квазиконформных отображений. Этой темой он занимался еще в 30-е годы, в связи с поиском новых методов решения задач механики сплошной среды.

Еще в Ленинграде я изучил одну работу американского математика Л.Ниренберга. В Новосибирске на институтском семинаре в начале 1958 г. я сообщил, что, используя известную мне аналитическую технику, я могу доказать некоторые новые свойства пространственных квазиконформных отображений. Мое "хвастливое" заявление стало известно Михаилу Алексеевичу и, когда у него выпала редкая минутка для того, чтобы подумать над математическими задачами (это было летом 1959 г.), он вызвал меня к себе и спросил: "Ты говоришь, что можешь доказать гельдеровость пространственных квазиконформных отображений, а как ты это делаешь?" Через пару дней я принес Михаилу Алексеевичу текст, в котором содержалось искомое доказательство. М.А. просмотрел мои записки и лицо его выразило разочарование. Он сказал: "Ты можешь только доказать, что существует "альфа" такое, что всякое квазиконформное отображение удовлетворяет условию Гельдера с показателем "альфа", но конкретное значение "альфа" из твоих вычислений не найти!". Просмотрев свои вычисления еще раз, я заметил, что в одном месте можно упростить рассуждения, используя так называемое изопериметрическое свойство шара (состоящее в том, что среди областей с заданной площадью границы наибольший объем ограничивает шар). Более того, оказалось, что эти усовершенствованные рассуждения допускают и другие применения. В частности, удалось получить некоторое продвижение в решении проблемы об устойчивости в теореме Лиувилля о конформных отображениях пространства, поставленной М.А.Лаврентьевым еще в 30-е годы.

Впоследствии я много занимался теорией пространственных квазиконформных отображений. Нет возможности описать всю историю этого направления. Коснусь только тех вопросов, которыми занимался сам.

Мною были построены основы теории отображений с ограниченным искажением. Последние образуют более широкий класс, чем квазиконформные отображения. Они возникают, если в определении квазиконформного отображения отказаться от некоторых условий геометрического характера. Изучением этого класса отображений в дальнейшем активно занимались также и финские математики, которые установили ряд глубоких результатов. Отдел анализа и геометрии имеет интенсивные творческие контакты с нашими финскими коллегами. Сводка основных результатов теории отображений с ограниченным искажением дана в моей книге "Теория отображений с ограниченным искажением", опубликованной в 1982 г. (Перевод на английский язык опубликован в 1989 г.)

Мне удалось полностью решить проблему М.А.Лаврентьева об устойчивости в теореме Лиувилля о конформных отображениях пространства. Этим вопросом, кроме меня, занимался также доктор физико-математических наук Павел Петрович Белинский, который доказал некоторые важные теоремы по проблеме М.А.Лаврентьева. Наиболее сильные результаты, позволяющие не только получить все, что было известно ранее в связи с данной проблемой, но и устанавливающие принципиально новые свойства квазиконформных отображений, были получены мною в 1976 году и опубликованы в "Сибирском математическом журнале". В 1983 году в изд-ве "Наука" вышла моя книга "Теоремы устойчивости в геометрии и анализе", где подробно изложено решение проблемы М.А.Лаврентьева об устойчивости в теореме Лиувилля и некоторые другие результаты. (Английский перевод книги опубликован в 1994 г.)

Близкими задачами, занимались также мои ученики кандидаты физико-математических наук Л.Гуров и Т.Соколова. Л.Гуров решил задачу об устойчивости лоренцевых преобразований. Одно небольшое открытие, сделанное при этом Л.Гуровым, оказалось очень полезным для задачи об устойчивости в теореме Лиувилля. Некоторые приложения теоремы об устойчивости в теореме Лиувилля были получены моими учениками кандидатами физико-математических наук М.Васильчиком, Д.Троценко и Н.Кудрявцевой.

Вопросы устойчивости классов отображений изучались также доктором физико-математических наук А.Копыловым, который предложил оригинальный подход к постановке таких задач, существенно расширяющий круг исследования. Этой тематикой успешно занимаются также и ученики А.Копылова -- доктор физико-математических наук Н.Даирбеков, кандидаты физико-математических наук В.Александров, А.Егоров и другие. А.Копылову принадлежит также ряд важных результатов в теории пространственных квазиконформных отображений. Теорией квазиконформных отображений занимался также мой ученик доктор физико-математических наук В.Семенов (Кемерово). В частности, им исследованы однопараметрические группы квазиконформных отображений.

Докторами физико-математических наук С.Водопьяновым и В.Гольдштейном была исследована связь между соболевскими классами функций и квазиконформными отображениями. С.Водопьянову принадлежит решение еще одной задачи, поставленной М.А.Лаврентьевым, -- задачи об устойчивости в теореме Дарбу о поверхностях, все точки которых омбилические. В настоящее время С.Водопьянов вместе с группой своих учеников занимается исследованиями в новой области -- теорией квазиконформных отображений в пространствах с метрикой Карно--Каратеодори. Эта область исследования стала весьма популярной в последнее время.

СОБОЛЕВСКИЕ ПРОСТРАНСТВА

Один из основателей научной школы, лидером которой я официально сейчас считаюсь, -- академик Сергей Львович Соболев. В его работах, выполненных еще в конце 30-х годов, было введено понятие функции с обобщенными производными и построена теория классов функций, называемых сейчас "соболевскими пространствами". С.Соболев указал применения построенной им теории к задачам математической физики.

Теория соболевских пространств в настоящее время -- это большое направление современной математики, разработкой которой занимаются многие специалисты из разных стран. Эта теория имеет применения, в частности, и в геометрии, например, в упоминавшейся выше работе И.Николаева существенно используются ее результаты.

Ответ на некоторые вопросы теории квазиконформных отображений потребовал решения новых задач относительно соболевских пространств. В свою очередь, применение квазиконформных и близких к ним классов отображений позволило решить некоторые задачи из теории таких пространств. Ограничусь только перечислением того, что было сделано. Изучался вопрос, при каких условиях замена переменных сохраняет свойство функции принадлежать тому или иному соболевскому классу (С.Водопьянов и В.Гольдштейн). Рассматривалась задача о продолжении из теории соболевских классов, и для случая функций двух переменных получено ее окончательное решение (С.Водопьянов, В.Гольдштейн, А.Романов и Т.Латфуллин (Тюмень). Доказана общая теорема о дифференцируемости почти всюду функций соболевских классов, перекрывающая все прежние результаты в этом направлении (Ю.Решетняк). Построен своего рода нелинейный аналог классической теории потенциала, на основе которого установлены новые свойства функций из соболевских пространств. (Ю.Решетняк, В.Гольдштейн). Изучались также так называемые анизотропные соболевские классы, на которые были частично распространены перечисленные выше результаты теории соболевских пространств (С.Водопьянов, М.Васильчик).

В работе кандидата физико-математических наук Геннадия Николаевича Василенко (умершего в молодом возрасте) доказана тонкая теорема о строении слабо непрерывных функционалов вариационного исчисления.

Официальное название нашей научной школы "Пространственные отображения, геометрия "в целом" и топология". Институт математики СО РАН остается основным центром исследований в России, и вообще в СНГ, относящихся к одному из тех научных направлений, у истоков которых стоял Михаил Алексеевич Лаврентьев -- теории пространственных квазиконформных отображений. Нам принадлежат ведущие позиции в разработке задач геометрии "в целом", топологии и теории соболевских пространств. Для исследований, выполняемых у нас, характерны комплексность подхода к рассматриваемым задачам. Методы теории уравнений в частных производных, теории соболевских пространств, топологии, геометрии "в целом" и алгебры -- весь этот арсенал средств мы стремимся использовать для решения тех или иных конкретных математических проблем.

Работа продолжается, но давать прогнозы относительно того, чем будут заниматься математики даже в ближайшем будущем, где можно ожидать прорывов, -- дело трудное. Мне представляется весьма перспективным направление геометрии, связанное с именем А.Александрова. Здесь много нерешенных задач, и я убежден, что в этом направлении будет сделано еще много открытий. То же самое верно и в отношении других направлений. Математика нынешнего дня имеет синтетический характер. В наиболее крупных математических открытиях последнего времени переплетаются методы и концепции, традиционно относящиеся к различным, казалось бы, далеким друг от друга разделам математики. Математик будущего должен обладать широкой общематематической культурой. Есть такой загадочный феномен, как научное открытие. Нередко бывает так, что какое-либо наблюдение, новый факт или новая математическая техника позволяют математикам открыть "двери", которые еще не так давно считались наглухо закрытыми, и посмотреть, что же там скрыто за ними? Будущее нашей науки находится в руках молодых ученых. Все зависит от их таланта, энергии и настойчивости в преодолении преград на пути к познанию истины, от их способности проявить инициативу в определении новых путей и новых направлений исследования!

Источник: http://adm.ict.nsk.su/HBC/1998/n16-17/f7.html