ИИ и этика

В условиях стремительного развития искусственного интеллекта (ИИ) эксперты выделяют новый тип рисков — «техногенные», проистекающие из внутренних свойств самих технологий, а не из ошибок человека. Ли Юнь, директор Центра исследований этики искусственного интеллекта Хунаньского педагогического университета, предлагает подход «инженерной этики», основанный на встраивании этических принципов в технические системы. В то же время Чжан Синь, секретарь парткома больницы Сянья при Центрально-Южном университете, подчеркивает, что ИИ в медицине должен оставаться вспомогательным инструментом, а не заменять врача.

Ли Юнь поясняет, что «техногенные» риски, такие как «алгоритмический черный ящик», возникают из-за внутренних недостатков технологий, в отличие от «алгоритмических манипуляций», являющихся результатом преднамеренных действий. Предложенная им «инженерная этика» представляет собой метод «технология-этика», который сочетает этические рамки и техническую реализацию, чтобы преодолеть разрыв между этикой и инженерией. Подход реализуется в два этапа: разработка этической структуры и ее инженерное внедрение, что можно проследить до традиционной китайской концепции «встраивания ритуала в инструменты». В качестве примера приводится «Конституционный ИИ» от компании Anthropic, где этические правила внедряются в модель, позволяя ей развиваться в соответствии с ними.

Чжан Синь акцентирует внимание на медицинской этике: ИИ уже трансформирует модель принятия решений из «врач-пациент» в «врач-пациент-ИИ», но окончательное решение всегда остается за врачом. Среди ключевых вызовов — качество данных, «черный ящик» алгоритмов, недостаточная объяснимость и риск дегуманизации отношений. Для здорового развития медицинского ИИ необходимо повышать качество данных, прозрачность моделей, обеспечивать справедливость и уважать автономию пациента. В будущем ожидается внедрение новых моделей совместного принятия решений, где ИИ выступает как надежный ассистент, а врач сохраняет контроль и ответственность, что требует от медицинских работников повышения квалификации в области ИИ и этики.