Как обеспечить контролируемое развитие генеративного медицинского искусственного интеллекта
В Гуанчжоу представлен экспертный консенсус по этическому управлению клиническим применением генеративного медицинского ИИ, направленный на снижение рисков и обеспечение безопасного внедрения технологий
Короткое резюме
В Гуанчжоу на академическом обмене по искусственному интеллекту и профилактике инфекционных заболеваний был официально представлен «Экспертный консенсус по этическому управлению клиническим применением генеративного медицинского искусственного интеллекта (GMAI) (2025)». Документ призван решить проблемы, связанные с быстрым развитием технологии, такие как защита данных пациентов, алгоритмическая предвзятость и ответственность, которые в настоящее время отстают от внедрения технологий.
Консенсус состоит из четырёх основных разделов и содержит 29 рекомендаций, охватывающих техническую безопасность и гуманитарные аспекты. Особое внимание уделяется контролю над «галлюцинациями генерации» — риском, присущим GMAI, когда система выдаёт необоснованную или вымышленную медицинскую информацию. Для снижения этого риска предлагаются количественные пороги «галлюцинаций», визуализация цепочки принятия решений ИИ и механизмы перекрёстной проверки данных. Документ также подчёркивает необходимость адаптации GMAI для работы в условиях ограниченных ресурсов базового медицинского обслуживания и поддержки различных диалектов для обеспечения справедливости.
Консенсус чётко определяет распределение ответственности: врач является конечным ответственным лицом за клинические решения, а разработчики несут ответственность за исходные риски алгоритмов. Пациентам гарантируется право отказаться от использования ИИ без ущерба для качества обслуживания. Для обеспечения актуальности документ планируется обновлять каждые два года, чтобы он мог реагировать на новые вызовы в клинической практике и технологическом развитии, обеспечивая безопасное и контролируемое развитие GMAI.
Контроль «галлюцинаций генерации»
Введены количественные пороги для частоты ошибок ИИ: менее 3 % для высокорисковых сценариев (первичная диагностика, планирование операций) и менее 5 % для низкорисковых
Врач как конечный ответственный
GMAI позиционируется исключительно как вспомогательный инструмент; врач несёт полную этическую и юридическую ответственность за окончательное клиническое решение
Право пациента на отказ
Пациенты имеют право отказаться от использования ИИ в своём лечении, при этом им гарантируется тот же уровень медицинского обслуживания, что и при традиционных методах
Адаптация для базового уровня и справедливости
Рекомендуется оптимизация GMAI для работы с ограниченными вычислительными ресурсами и поддержка как минимум семи основных диалектов для преодоления цифрового разрыва
Текст сгенерирован с использованием ИИ
