Голос из России: Академик РАН Евгений Евгеньевич Тыртышников на Национальной ежегодной академической конференции по высокопроизводительным вычислениям в Китае. Стремление к совместному развитию науки между Россией и Китаем.

Отредактированный перевод с китайского языка.

Статья журналиста из «China Science Daily» Цзи Хунмея (计红梅)

Дата публикации на сайте sciencenet.cn 26.09.2024

---

С 24 по 26 сентября 2024 года в городе Ухань провинции Хубэй, проходила Национальная ежегодная академическая конференция по высокопроизводительным вычислениям (CCF HPC China 2024). В мероприятии принял участие советский и российский математик, профессор, академик РАН, заведующий кафедрой вычислительных технологий и моделирования ВМК МГУ Евгений Евгеньевич Тырты́шников. (https://w.wiki/BKnD).

Накануне мероприятия, журналист газеты «China Science Daily» взял интервью у Евгения Тыртышникова. На встрече так же присутствовал Альберт Ефимов - директор Управления исследований и инноваций Сбербанка, крупнейшего коммерческого банка России, Сбербанк России (Сбер). В прошлом году (2023) Евгений Тыртышников стал лауреатом ежегодной Научной премии Сбера, в номинации «Цифровая вселенная».

В интервью Евгений Тыртышников и Альберт Ефимов поделились своими ожиданиями о предстоящей конференции. Для Евгения Тыртышникова участие в конференции — это возможность узнать и лучше понять передовые технологии в области высокопроизводительных вычислений и искусственного интеллекта. Он также надеется поделиться достижениями России в этой области исследований с коллегами. Альберт Ефимов выразил надежду найти направления в области высокопроизводительных вычислений и искусственного интеллекта, которые способны углубить сотрудничество между китайскими и российскими учеными. Он также отметил, что в будущем у Китая и России будет множество возможностей для плодотворного сотрудничества в области образования и науки.

Что математика может дать высокопроизводительным вычислениям и искусственному интеллекту?

Основные области исследований Тыртышникова — линейная алгебра, матричные методы и их приложения, которые включают множество сложных вычислительных задач. Эти области, которые кажутся «элементарными» в науке, обычно изучают в университетах, и проблемы в них, казалось бы, уже решены, но на самом деле это не так. Тыртышников приводит такой пример: «Представьте, что вам нужно решить систему линейных уравнений, в которой количество неизвестных и степень уравнений равны 83 в 10-й степени, что эквивалентно общему количеству атомов во Вселенной. Как это можно сделать? На практике оказывается, что даже самая лучшая линейная алгебра в университете бесполезна, когда сталкиваешься с такими «астрономическими числами», и кажется, что нет никакой надежды на решение этой проблемы с помощью классических методов».

Тыртышников заявил, что его исследование направлено на помощь современным суперкомпьютерам в замене «астрономических объёмов» данных массивов на специальные малопараметрические представления. Он также предложил эффективные алгоритмы вычислений, основанные на этих представлениях. Это исследование является реализацией универсального вычислительного подхода, дополняющего зрелые модели классических линейных алгебраических вычислений.

С развитием науки и техники возникает всё большая потребность в масштабных и сложных вычислениях в различных областях, таких как прогнозирование погоды, анализ биологической информации, физическое и гидродинамическое моделирование и других. Высокопроизводительные вычисления (High Performance Computing, HPC) становятся ключевым инструментом для решения этих задач требующих расчетов. Важнейшими аспектами HPC являются высокоэффективные алгоритмы и программное обеспечение, максимально использующие вычислительные ресурсы и повышающие эффективность вычислений, а также параллельные методы вычислений, способные выполнять несколько задач или операций одновременно. Это является ключевым аспектом развития HPC, и именно в этой области Тыртышников находит «точку соприкосновения» математики и HPC.

Он рассказал, что ещё в 1980 году российский учёный Марчук предложил важную идею сопоставления алгоритмов со структурой компьютерных систем. После этого всё больше российских учёных исследовали эффективные алгоритмы HPC и параллельные вычисления, проводя множество конференций и активно искали решения. В 2023 году Тыртышников стал лауреатом Научной премии Сбера. Говоря о причинах награждения, Тыртышников заявил, что это в основном связано с его вкладом в развитие матричных и тензорных методов, в частности, с изобретением тензорных поездов (Tensor Trains, TT). Эти методы могут решать задачи, которые выходят за рамки возможностей современных суперкомпьютеров. Ключевая идея заключается в использовании специальных моделей для представления многомерных массивов (тензоров) на основе матриц с низким рангом.

Он рассказал, что один из способов эффективно обучить эту модель — это позволить получить параметры модели с помощью небольшого количества элементов массива. Компактное представление данных требует, чтобы модель обладала важным свойством: помимо сжатия данных, для вычисления формата модели также требуется эффективный и надёжный алгоритм. Кроме того, он успешно собрал мощную команду из молодых исследователей. Именно на факультете вычислительной математики и кибернетики эта команда в 2009 году разработала очень успешную модель многомерного матричного представления с малым количеством параметров — тензорный поезд (Tensor Train).

В случае тензорных поездов у нас есть удивительный алгоритм, который по своему характеру похож на получение приближённых значений с помощью известного алгоритма сингулярного разложения (SVD). Сложность вычислений зависит от размера «поезда» и линейно зависит от размерности массива, при этом гарантируется хорошая оценка приближённой точности. Особенностью является построение кросс-алгоритма тензорного поезда на основе приближённых элементов массива, количеством которых по сравнению с общим количеством элементов можно пренебречь.

В настоящее время математическая теория этого типа методов получила положительное развитие, а её практическое применение за последние 15 лет продемонстрировало удивительную эффективность. На этой основе был успешно разработан новый эвристический алгоритм глобальной оптимизации, который по сравнению с генетическим алгоритмом обладает достаточной конкурентоспособностью, а в некоторых случаях даже более эффективен, например, при решении задачи «состыковки» в процессе разработки новых лекарств.

Тыртышников считает, что математические проблемы, связанные с нейронными сетями, функциональным и приближённым анализом, очень глубоки. Известное исследование Андрея Николаевича Колмогорова (https://w.wiki/9d7h), получившего решение тринадцатой проблемы Гильберта, можно считать предшественником современных нейронных сетей. Это исследование доказало, что любая многомерная непрерывная функция может быть реализована с помощью комбинации функций одной переменной и сложения. Впоследствии было доказано, что функция одной переменной может быть получена путём умножения переменной на коэффициент и сдвига в рамках единственной функции. В настоящее время существуют нейронные сети, основанные на этой идее Колмогорова. Их потенциал ещё предстоит изучить более подробно.

Тыртышников также считает, что между широким инженерным применением методов искусственного интеллекта и математикой существует явный разрыв, и математика поможет инженерам в разработке. Не существует математической теории, которая могла бы убедительно объяснить, почему одна архитектура (например, в больших языковых моделях) лучше или хуже другой.

Таким образом, какие же непосредственные влияния оказал метод искусственного интеллекта на математику? Тыртышников объяснял: «Метод искусственного интеллекта применяется для решения математических и физических задач, например, для оптимизации всех элементов процесса. На мой взгляд, эти методы помогут решить проблему отображения сопоставления алгоритмов с архитектурой вычислительных систем. Однако, ещё слишком рано более точно говорить о статусе этих методов».

Сотрудничество в области исследований и разработок способствует развитию передовых технологий

В последние годы объединение HPC (высокопроизводительных вычислений) и AI (искусственного интеллекта) быстро меняет области научных исследований и инноваций. Развитие генеративного AI, особенно в лице ChatGPT, предъявляет к HPC более высокие требования и становится одной из важных областей его применения. Вице-президент Сбера Андрей Ефимов возглавляет научно-инновационный департамент компании и является основателем лаборатории роботов. Он глубоко понимает взаимодействие между высокопроизводительными вычислениями, искусственным интеллектом и развитием роботов.

В интервью Эфимов сначала рассказал о Научной премии Сбера. Премия включает четыре номинации: «Физический мир», которая охватывает физику, химию, астрономию, науки о Земле и технические науки; «Науки о жизни», которая охватывает биологию, медицину и сельскохозяйственные науки; «Цифровая вселенная», которая охватывает математику, компьютерные науки и информатику; а также «AI в науке», которая присуждается молодым исследователям в возрасте до 35 лет и призвана отметить их выдающиеся достижения в области искусственного интеллекта.

Говоря об первоначальном намерении Сбера учредить Научную премию, Ефимов сказал, что Сбер уже стал крупнейшей технологической компанией в России, а ее конкурентное преимущество заключается в инвестициях в исследования и разработки в области технологий. Сбер очень хорошо понимает, как проводить прикладные исследования и создавать полезные технологии и продукты. Но перед коммерческой компанией всегда стоит сложная проблема: как поддержать фундаментальные научные исследования? «Первоначальная цель создания нами Научной премии Сбера — поддержка фундаментальных научных исследований», — сказал Ефимов.

Научная премия Сбера имеет две основные особенности. Во-первых, она присуждается учёным, открывшим новые горизонты в научных исследованиях. Во-вторых, эта премия имеет абсолютный авторитет в научном сообществе. «Эти две особенности делают Научную премию Сбера ориентиром для молодых учёных и всего российского научного сообщества в создании принципиально новых прорывных решений и создании на их основе новых технологий», — сказал Эфимов.

Может ли эта награда в будущем выйти на международную арену? Эфимов, конечно, допускает такую возможность, но считает, что это будет непросто. Например, нужно будет определить, какие области исследований будут интересны российским и китайским учёным. По его мнению, одной из таких областей является исследование искусственного интеллекта.

Сбер, как одна из крупнейших технологических компаний в России, добилась значительных результатов в области технологий, включая искусственный интеллект и высокопроизводительные вычисления. В сфере искусственного интеллекта Сбер реализовал несколько десятков проектов, используя передовые технологии, включая генеративный искусственный интеллект.

Ефимов привел три примера.

1. Генеративная модель искусственного интеллекта от Сбера, известная как GigaChat. Технология позволяет пользователям работать с текстом, изображениями и другими типами данных.
2. Нейронная сеть Kandinsky, разработанная Сбером. которая может создавать изображения и видео на основе текстовых описаний. Одна из особенностей этой нейронной сети - поддержка китайского языка.
3. Модель прогнозирования погоды, созданная на основе AI-технологий, которая позволяет эффективно прогнозировать климатические риски, связанные с глобальным потеплением.

Причина такой высокой продуктивности компании, по словам Ефимова, заключается в том, что у Сбера есть два основных механизма исследований и разработок. Первый — внутренний механизм, состоящий из собственных лабораторий Сбер, которые занимаются исследованиями в различных областях: от искусственного интеллекта и робототехники до квантовых вычислений и блокчейна. Второй — внешний механизм. Сбер сотрудничает с семью ведущими университетами России в области искусственного интеллекта, а также установил связи с многими уважаемыми учёными в этой области. «Это дает нам уникальную возможность укрепить сотрудничество между Россией и Китаем в области фундаментальных прикладных наук».

По мнению Эфимова, сегодня робототехника и ИИ связаны между собой особым образом. Поскольку данные, доступные для обучения искусственного интеллекта, почти исчерпаны, в будущем большие модели смогут обучаться только на данных, полученных через взаимодействие с реальным миром. Технологии роботов могут дать ИИ возможность взаимодействовать с физическим миром и учиться в нём. В свою очередь ИИ помогает роботам принимать более разумные решения, что делает их надёжными и безопасными помощниками для человека. «В сложной и динамичной среде только искусственный интеллект может помочь роботам выполнять полезные функции для человека», — говорит он.

Активный поиск сотрудничества с китайскими партнёрами

Евгений Евгеньевич Тыртышников до сих пор помнит, как в 1998 году он впервые посетил Гонконг по приглашению, где познакомился со многими коллегами и друзьями, а также посетил несколько университетов. «Одна из первых статей о тензорных поездах была опубликована в виде препринта в Гонконгском баптистском университете, где я несколько лет работал в Институте вычислительной математики».

Тыртышников сказал журналисту из «China Science News»: «Я очень рад видеть, что идеи, о которых мы первоначально говорили на различных семинарах и научных конференциях, теперь получили такое широкое распространение. В ноябре этого года институт, в котором я работаю, проведет конференцию в МГУ-ППИ в Шэньчжэне на тему тензорных методов в математике и науке о данных. Также состоится международный конгресс, на который будут приглашены ведущие эксперты в этой области».

Говоря о перспективах сотрудничества с Китаем, он считает, что в будущем есть много областей для углублённого сотрудничества в сферах образования и науки. К ним относятся применение методов искусственного интеллекта для решения задач вычислительной математики, особенно линейной и многомерной алгебры, а также применение алгоритмов на суперкомпьютерах.

«Поиск математической теории, которая может принести реальную пользу инженерным приложениям искусственного интеллекта, является важной темой в развитии науки. Хотя я не могу с уверенностью сказать, что такая теория обязательно появится, я верю, что исследования в этой области внесут значительный вклад в развитие математики!» - заключил Тыртышников.

Ефимов сообщил журналисту, что их организация (Сбер) сотрудничает со многими научными учреждениями Китая. Российские учёные часто приезжают в Китай для участия в различных научных конференциях и обмениваются опытом с китайскими университетами и другими партнёрами. «Наряду с этим мы также проводим многочисленные встречи с нашими коллегами для обсуждения ключевых областей развития, которые вызывают интерес как в России, так и в Китае» - сказал Ефимов.

---

Оригинал статьи на китайском языке

https://news.sciencenet.cn/htmlnews/2024/9/530601.shtm