ИИ пока не обладает способностью к независимой клинической диагностике и лечению
Новое исследование показывает, что современные большие языковые модели не справляются с ключевыми аспектами клинических рассуждений, такими как дифференциальная диагностика, и не готовы к автономной работе в медицине
Короткое резюме
Несмотря на прогресс в применении искусственного интеллекта в медицине, новое исследование Массачусетской больницы общего профиля (MGH) пришло к выводу, что современные генеративные ИИ, включая ChatGPT и Gemini, не обладают способностью к независимому клиническому мышлению и не готовы самостоятельно выполнять задачи диагностики и лечения.
Исследователи протестировали 21 крупную языковую модель на 29 опубликованных клинических случаях, симулируя реальный процесс диагностики. Хотя при наличии полной информации модели правильно ставили окончательный диагноз в более чем 90% случаев, они показали слабые результаты на ранних, критически важных этапах. В более чем 80% случаев модели не смогли предложить обоснованный дифференциальный диагноз — системный анализ и отбор возможных заболеваний, что является краеугольным камнем клинических рассуждений врача.
Исследователи подчеркивают, что текущие модели больше подходят для помощи врачам в принятии решений, а не для их замены. Их ценность заключается в поддержке, а не в автономной работе. Хотя новые модели показывают улучшения по сравнению со старыми, и их результаты улучшаются по мере получения дополнительных данных (лабораторных, визуализации), для безопасного клинического применения по-прежнему необходим надзор со стороны человека.
Провал в дифференциальной диагностике
Более чем в 80% случаев ИИ не смог предложить системный анализ возможных заболеваний (дифференциальный диагноз), что является ключевым навыком клинического мышления
Зависимость от полноты данных
Модели демонстрируют высокую точность (свыше 90%) при постановке окончательного диагноза только при наличии полной клинической информации, но слабы в условиях неопределенности
Непригодность для автономной работы
Текущее поколение больших языковых моделей не подходит для независимого использования в клинической практике и требует обязательного надзора врача
Прогресс и ограничения
Новые модели в целом превосходят старые, а их производительность улучшается с получением дополнительных данных, но фундаментальный пробел в клинических рассуждениях сохраняется
Текст сгенерирован с использованием ИИ
