Переименование ИИ в «суперинтеллект» снимает с человека ответственность за технологические катастрофы — футуролог

Директор института философии РГПУ им. А. И. Герцена, футуролог Алексей Воскресенский заявил о логических ошибках, возникающих при попытке заменить этическую рефлексию терминологическими играми.

Вместо содержательного обсуждения угроз предлагается переименовать «искусственный интеллект» в «суперинтеллект». Первая логическая ошибка здесь — лингвистическая, считает эксперт. Переименование — это не спор о терминах, а фиксация онтологического сдвига. Слово «искусственный» указывает на артефакт: он создан человеком и подконтролен ему. Слово «суперинтеллект» наделяет технологию статусом превосходящего субъекта. Она становится квазисуществом, которое якобы существует вне человеческой воли.

«Мы помним: «Как вы яхту назовете, так она и поплывет». Это потенциально опасная семантическая операция. Она снимает с человека бремя ответственности. Если ИИ — это «суперинтеллект», то он вроде как сам по себе, он субъектен и «естественен», — прокомментировал Алексей Воскресенский.

Искусственный интеллект не обладает сознанием, намерением и способностью осознавать последствия своих действий. Он не может выступать моральным агентом. Ответственность неизбежно остается у человека — разработчика, пользователя или владельца системы. Переименование в «суперинтеллект» — это попытка стереть эту антропологическую границу, считает футуролог.

Вторая ошибка — риторика отрицания риска. «Объявить опасения недобросовестными — значит устранить саму возможность этической рефлексии. Это классический прием: если ты не можешь опровергнуть аргумент по существу, объяви его носителя недобросовестным. Гейтс говорил не о вероятности, а о возможности», — сказал Алексей Воскресенский.

Третья ошибка — утилитаристское оправдание «пользой». Аргумент о том, что ИИ решит медицинские проблемы и это перевешивает риски, содержит этическую асимметрию.

«Мы не можем взвешивать на одних весах спасенные жизни и потенциально утраченные. Философия утилитаризма здесь дает сбой. Речь идет о несопоставимых величинах: о благе, которое можно спланировать, и катастрофе, которую нельзя отменить. Сама постановка вопроса «либо польза, либо риск» ложна. Речь должна идти о регулировании. Технологии, которые могут убить миллиард, не могут развиваться в режиме «невидимой руки рынка», — заявил директор института.

Человечество стоит перед выбором, который философы сформулировали еще в прошлом веке: этика ответственности перед будущим. Она требует не оптимизма и не пессимизма, а осознанной осторожности. Не страха, парализующего волю, а бдительности, направляющей ее. Проблема не в названии. «Проблема в том, что люди создают инструменты, последствия которых не способны полностью предвидеть, и при этом отказываются брать на себя ответственность за их регулирование», — резюмировал Алексей Воскресенский.

---