Батлерианский Джихад: почему «Дюна» — не фантастика, а инструкция для юристов по ИИ
Когда речь заходит об опасностях искусственного интеллекта, мы чаще думаем о технических сбоях, а не о культурных уроках. Но что, если главные предупреждения уже давно записаны не в кодексах, а на страницах фантастических романов? В новогоднем подкасте Виктор Наумов провёл неожиданную параллель между нашим будущим и вселенной «Дюны» Фрэнка Герберта. И это была не просто метафора для красного словца.
Почему «Дюна» — это юридический казус
Помните Батлерианский Джихад? В далёком будущем саги человечество так увлеклось созданием «мыслящих машин», что оказалось ими порабощено. Освободиться удалось лишь ценой чудовищной войны, в которой погибла половина человечества. Итогом стал жёсткий, табуированный на века запрет на искусственный интеллект.
Виктор Наумов использует этот сюжет не как литературную отсылку, а как серьёзный мысленный эксперимент. Подчёркивая юридический характер своего анализа, он тем не менее находит в «Дюне» прочную культурную опору: «Чтобы восполнить вопросы, связанные с аргументацией, позвольте мне адресовать их непосредственно к трудам автора».
По сути, «Дюна» становится эталоном — моделью того, к чему может привести слепая вера в прогресс без оглядки на последствия.
Право, которое игнорирует будущее
Современное право, по словам Виктора Наумова, ведёт себя так, будто этого сценария не существует. Оно «крайне пассивно и воспринимает технический прогресс как нечто замечательное и само собой разумеющееся».
На вопрос о том, можно ли научить сильный ИИ соблюдать законы, Виктор Наумов ответил жёстко: «Я боюсь, что как только появится сильный искусственный интеллект, то что-либо регулировать будет уже поздно».
Ждать, пока технология станет всемогущей, чтобы начать её ограничивать, — это прямой путь к своему, реальному «Батлерианскому Джихаду». Только в нашей версии может не найтись героев, способных всё исправить ценой невероятных жертв.
Три вывода, которые меняют взгляд на регулирование
- Фантастика — это не побег, а руководство. Книги вроде «Дюны» — это смоделированные кейсы от «юристов будущего». Игнорировать их — непрофессионально.
- Регулировать нужно не последствия, а процесс. Ждать точки невозврата — самая рискованная стратегия. «Красные линии» нужно проводить сегодня.
- Право должно догнать будущее. Его роль — не восхищаться новыми технологиями, а задавать им жёсткие, человекоцентричные рамки с самого старта.
«Дюна» — это канонический пример запоздалой реакции права на экзистенциальный вызов. История Герберта показывает худший сценарий, который возникает именно из-за отсутствия превентивных правовых барьеров. Пора перестать читать её как фантастику и начать — как инструкцию к действию.
---
Хотите больше узнать о том, какими еще мыслями поделился Виктор Наумов в новогоднем подкасте №108? Слушайте полную версию, чтобы больше узнать о праве и регулировании искусственного интеллекта!
---
Эфир подготовлен для социальных сетей Journal of Digital Technologies and Law: рецензируемый научно-практический журнал о цифровых технологиях и праве, @t.me/JournalDTL
