OpenAI стремится создать автономного «ИИ-исследователя»
Компания OpenAI планирует к 2028 году разработать полностью автоматизированную систему искусственного интеллекта, способную самостоятельно решать сложные научные задачи в различных областях, от математики до анализа политики
Короткое резюме
OpenAI объявила о масштабной цели — создать к 2028 году полностью автономную систему «ИИ-исследователя», способную самостоятельно проводить научные изыскания в математике, физике, биологии, химии и анализе политики. Первый этап проекта, «автономный научно-исследовательский стажер ИИ», должен быть запущен уже в сентябре этого года, что знаменует собой новый этап в применении ИИ и стратегический ответ на растущую конкуренцию.
Основой для амбициозного проекта служит существующая система Codex, способная генерировать код и выполнять сложные вычислительные задачи. По словам главного научного сотрудника OpenAI Ильи Суцкевера, ключевым направлением развития является увеличение «дальнодействующей работоспособности» моделей, то есть их способности к длительной, последовательной работе без вмешательства человека. Для этого используются методы «цепочки рассуждений» и интенсивное обучение на задачах из математических и программистских соревнований. Хотя уже есть успехи, например, использование GPT-5 для решения нерешённых математических проблем, эксперты указывают на сохраняющиеся трудности с накоплением ошибок в многошаговых логических процессах.
Реализация «ИИ-исследователя» сопряжена с серьёзными вызовами в области безопасности и этики, включая риски сбоев, взлома или неверной интерпретации инструкций. OpenAI работает над внедрением технологий мониторинга, таких как «аудит цепочки рассуждений», и рассматривает возможность размещения мощных моделей в изолированных «песочницах». Суцкевер подчёркивает, что концентрация огромной исследовательской мощи в руках небольшой группы людей создаст новые социальные и политические проблемы, требующие совместных усилий общества, регулирующих органов и научного сообщества для разработки адекватных мер контроля и управления.
Сроки и этапы проекта
OpenAI планирует создать полностью автономного «ИИ-исследователя» к 2028 году, при этом первый функциональный прототип — «автономный научный стажер» — должен быть представлен уже в сентябре 2024 года
Технологическая основа
Проект развивается на базе системы Codex, которая рассматривается как прототип. Ключевое направление развития — повышение «дальнодействующей работоспособности» моделей через методы «цепочки рассуждений» и обучение на сложных задачах
Уже достигнутый прогресс
Модели на базе GPT-5 уже демонстрируют практическую пользу, находя решения для ранее нерешённых математических задач и ускоряя процесс написания и проверки кода, экономя время исследователей
Ключевые риски и вызовы
Создание столь мощной автономной системы порождает серьёзные риски безопасности, этики и концентрации влияния, что требует разработки новых методов мониторинга (например, аудита «цепочки рассуждений») и коллективных усилий по регулированию
Текст сгенерирован с использованием ИИ
