Новый алгоритм обеспечивает точную кросс-доменную дискриминацию ИИ
Китайские исследователи представили алгоритм Geometric Rate-Distortion Invariance (RDI), который решает проблему резкого снижения производительности моделей глубокого обучения при работе с данными из разных доменов
Short Summary
Исследовательская группа под руководством профессора Бай Шу из Национальной ключевой лаборатории по производству и доставке биопрепаратов Института инженерии процессов Китайской академии наук предложила новый алгоритм «Геометрическая инвариантность скорость-искажение» (RDI). Этот метод направлен на решение ключевой проблемы глубокого обучения — резкого падения дискриминационной способности моделей в сценариях с кросс-доменными данными. Результаты исследования были опубликованы на ведущей международной конференции по ИИ ICML 2026.
Проблема возникает из-за расхождения в распределении данных между обучением и реальным применением, особенно в таких областях, как интерфейсы «мозг-компьютер» и медицинская визуализация, из-за индивидуальных различий испытуемых, дрейфа датчиков и изменений в оборудовании. Существующие методы, такие как выравнивание распределений и состязательное обучение, часто нестабильны при ограниченных выборках и могут привести к коллапсу представлений. Алгоритм RDI использует низкоразмерную геометрическую структуру признаков для построения надёжных классификаторов, выравнивая направления признаков внутри одного класса и контролируя их «объём», чтобы сохранить межклассовые различия.
Эксперименты показали, что RDI обладает адаптивной регуляцией: при малом количестве классов он расширяет пространство признаков, а при большом — сжимает избыточную информацию. На стандартном тесте DomainBed алгоритм значительно превзошёл существующие методы инвариантного обучения по средней точности, демонстрируя устойчивость на архитектурах CNN и ViT. Работа получила высокую оценку рецензентов ICML и предлагает новый геометрический подход к решению проблем смещения распределения в реальных приложениях.
Новый алгоритм RDI
Предложен метод «Геометрической инвариантности скорость-искажение», использующий геометрическую структуру данных для повышения кросс-доменной обобщающей способности моделей ИИ
Решение проблемы кросс-доменной генерализации
Алгоритм решает проблему снижения производительности моделей при изменении распределения данных, вызванного индивидуальными различиями или изменениями условий сбора данных
Адаптивная регуляция
RDI способен автоматически расширять пространство признаков для простых задач и сжимать его для сложных, сохраняя стабильную производительность на неизвестных доменах
Превосходство над существующими методами
На тесте DomainBed RDI показал значительно более высокую среднюю точность, чем современные методы инвариантного обучения, и стабильно работал на разных архитектурах, таких как ResNet и DeiT
Text generated using AI
