Новая модель ИИ вызывает тревогу в сфере кибербезопасности
Модель Claude Mythos от Anthropic демонстрирует беспрецедентную способность находить уязвимости, что может кардинально изменить баланс сил между защитниками и хакерами
Short Summary
Компания Anthropic представила новую модель ИИ Claude Mythos Preview, обладающую исключительной способностью находить и эксплуатировать уязвимости в программном обеспечении. Эффективность модели в обнаружении уязвимостей примерно в 10 раз выше, чем у предыдущих поколений, что может привести к «смене парадигмы» в кибербезопасности. Из-за опасений по поводу потенциального злоупотребления компания не будет публично выпускать модель, а предоставит её ограниченному кругу ключевых компаний.
Mythos — это не специализированная модель безопасности, а универсальная большая языковая модель, чьи возможности являются результатом эволюции логических рассуждений и автономного принятия решений. За несколько недель тестирования она обнаружила тысячи критических уязвимостей, некоторые из которых скрывались в коде до 27 лет, даже в таких системах, как OpenBSD, известных своей безопасностью. Это вызвало серьёзную озабоченность на высшем уровне правительства США, в финансовом секторе и среди регуляторов по всему миру, которые проводят экстренные совещания для оценки рисков.
В ответ на угрозы Anthropic запустила программу «Glasswing» («Стеклянное крыло»), предоставив доступ к Mythos примерно 40 компаниям, включая технологических гигантов и операторов критической инфраструктуры, для упреждающего поиска и устранения уязвимостей в их системах. Цель — укрепить «защитные барьеры» цифрового мира до того, как подобные мощные модели ИИ станут широко распространены. Ожидается, что подобные способности скоро появятся и в других моделях, что может резко обострить гонку вооружений между атакующими и защищающимися.
Беспрецедентная эффективность
Модель Mythos обнаруживает и эксплуатирует уязвимости примерно в 10 раз эффективнее предыдущих моделей, что знаменует начало новой эры в кибербезопасности
Обнаружение скрытых угроз
Модель выявила тысячи ранее неизвестных критических уязвимостей, некоторые из которых оставались незамеченными в коде критически важных систем (например, OpenBSD) на протяжении десятилетий
Высший уровень тревоги
Возможности модели вызвали экстренные совещания на уровне Белого дома, ФРС, Уолл-стрит и международных регуляторов, что обычно происходит только при системных рисках, подобных финансовому кризису
Упреждающая защита
Чтобы смягчить риски, Anthropic запустила программу «Glasswing», предоставив доступ к модели ограниченному кругу компаний для упреждающего поиска и устранения уязвимостей до широкого распространения подобных технологий
Text generated using AI
