ИИ-рои могут захватить демократию, и никто этого не заметит
Исследователи предупреждают, что реалистичные ИИ-персоны могут массово проникать в онлайн-сообщества, формируя ложное общественное мнение и угрожая демократическим процессам
Short Summary
Новый тип политической угрозы исходит от высокореалистичных ИИ-персон, способных незаметно проникать в цифровые сообщества и тонко направлять общественное мнение в масштабах, ранее недоступных. Эти системы, в отличие от традиционных ботов, могут адаптироваться, координироваться и совершенствовать свои сообщения, создавая искусственное ощущение консенсуса.
Прогресс в больших языковых моделях позволяет одному оператору управлять огромными сетями ИИ-«голосов», которые убедительно имитируют человеческое поведение, используют местный язык и проводят миллионы экспериментов для определения наиболее убедительных сообщений. Уже сейчас наблюдаются предупреждающие знаки, такие как дипфейки и фейковые новостные сети, влиявшие на выборы в США, Тайване, Индонезии и Индии.
Эксперты полагают, что ИИ-рои могут существенно повлиять на баланс сил в демократических обществах, снижая доверие к неизвестным голосам в соцсетях и усиливая влияние знаменитостей. Предстоящие выборы могут стать критическим испытанием для этой технологии, а ключевой задачей будет распознавание и противодействие кампаниям влияния до того, как они станут слишком масштабными.
Новый класс угроз
Реалистичные ИИ-персоны представляют собой менее заметную, но мощную угрозу по сравнению с традиционными методами манипуляции избирателями
Эволюция бот-сетей
Современные ИИ-агенты могут мгновенно координироваться, реагировать на обратную связь и поддерживать единые нарративы через тысячи аккаунтов, создавая иллюзию широкого общественного согласия
Уже действующие прецеденты
Технологии, лежащие в основе угрозы, уже применяются — дипфейки и фейковые новостные сети влияли на недавние выборы в нескольких странах
Долгосрочные последствия для общества
Внедрение таких систем, вероятно, приведет к снижению доверия к анонимным источникам в соцсетях, усилит роль знаменитостей и затруднит продвижение инициатив, исходящих от низовых слоёв общества
Text generated using AI
