Китайская система управления искусственным интеллектом в здравоохранении должна строиться с учетом семи аспектов
Группа экспертов опубликовала «20 предложений по китайскому законодательству об ИИ в здравоохранении» для регулирования применения искусственного интеллекта в медицинской сфере
Короткое резюме
Опубликован проект «20 предложений по китайскому законодательству об искусственном интеллекте в здравоохранении» (далее — Предложения), разработанный междисциплинарной группой экспертов в области медицины, права, общественного здоровья и ИИ. Документ направлен на создание системы правил, охватывающей весь жизненный цикл, обеспечивающей баланс между безопасностью и всеобщим доступом, а также связывающей политику с практикой, с основной целью «защиты здоровья нации, расширения возможностей первичной медицины и стимулирования промышленных инноваций».
Предложения состоят из 20 пунктов, которые акцентируют внимание на ключевых проблемах, включая дифференцированное регулирование по уровням риска, безопасность медицинских данных, управление алгоритмами, этическую экспертизу, клиническое разрешение, расширение возможностей первичного звена, определение ответственности и промышленную поддержку. Документ выделяет семь основных аспектов регулирования, реализующих концепцию законодательства, ориентированного на здоровье населения: 1) классификация и дифференцированный надзор по уровням риска; 2) защита данных и конфиденциальности пациентов; 3) повышение прозрачности и доверия к алгоритмам; 4) стандартизация клинического применения и этической экспертизы; 5) расширение возможностей первичного звена для равного доступа к качественным услугам; 6) усиление надзора на протяжении всего жизненного цикла продукта; 7) совершенствование систем поддержки для практической реализации ИИ.
Документ содержит конкретные меры, такие как обязательная сертификация для высокорисковых продуктов, предоставление объяснений алгоритмов для врачей и пациентов, запрет на имитацию живого врача ИИ-системами, строгий контроль за передачей данных за рубеж и требование к динамически обучающимся моделям отчитываться каждые 6 месяцев. Авторы надеются, что Предложения послужат основой для дальнейшего совершенствования законодательства об ИИ в здравоохранении Китая и привлекут больше общественных сил к участию в нормативном развитии и правовом строительстве этой сферы, обеспечив надёжные технологические и правовые гарантии для укрепления здоровья нации.
Дифференцированное регулирование по уровню риска
Продукты и услуги ИИ в здравоохранении разделены на три уровня риска (высокий, средний, низкий) с соответствующими различными режимами надзора: от строгих проверок для высокорисковых до упрощённых процедур для низкорисковых
Требование прозрачности алгоритмов
Для ключевых диагностических алгоритмов требуется предоставление чётких объяснений, включая ключевые входные данные и пути рассуждений, чтобы врачи могли проверять результаты, а пациенты — понимать диагноз
Запрет на имитацию живого врача
Персонализированные медицинские сервисы ИИ должны иметь постоянную и видимую маркировку как ИИ, им запрещено выдавать себя за живого врача, а также запрещены функции эмоциональной манипуляции или провоцирования зависимости
Обязательная периодическая оценка для самообучающихся моделей
Для продуктов с динамическим обучением требуется предоставление отчёта об оценке производительности каждые 6 месяцев для выявления и решения проблем, таких как дрейф алгоритмов или функциональные аномалии
Текст сгенерирован с использованием ИИ
