Врачам трудно отличить поддельные рентгеновские снимки

Новое исследование, опубликованное в журнале «Радиология», выявило тревожную проблему: большинство радиологов не способны отличить реальные рентгеновские снимки от сгенерированных искусственным интеллектом. Лишь 41% специалистов заподозрили наличие синтетических изображений в представленном наборе, а при целенаправленной проверке средняя точность распознавания составила лишь 75%. При этом сами ИИ-модели, такие как ChatGPT и Gemini, также демонстрируют несовершенство в различении, показывая точность от 57% до 85%.

Проблема вызвана высокой реалистичностью ИИ-генерации, которая способна воспроизводить мельчайшие детали медицинских изображений. Исследователи из Медицинской школы Икана на горе Синай отмечают, что опыт радиологов (от 0 до 40 лет) не влиял на их способность обнаруживать подделки. Эксперты, такие как микробиолог Элизабет Бик, предупреждают, что это ставит под угрозу не только целостность научных исследований, но и клинические процессы, страховые выплаты и судебные разбирательства, где рентгеновские снимки используются как доказательства.

В качестве решений ученые предлагают специальные обучающие программы для радиологов, которые учат выявлять характерные артефакты ИИ-изображений (например, слишком гладкие кости или неестественно прямые позвоночники). Также рассматриваются технологии цифровых водяных знаков и регулирующие меры со стороны государственных органов. Парадоксально, но синтетические данные могут принести и пользу, заполняя пробелы в наборах для обучения диагностических ИИ-моделей и улучшая их производительность, как отмечает Кертис Лэнглотц из Стэнфордского университета.