К такому выводу пришли исследователи, изучающие развитие генеративного ИИ и поведение автоматизированных систем в цифровых средах. Речь идёт не о привычных ботах, а о программных агентах нового поколения, которые способны действовать самостоятельно, обучаться на ходу и взаимодействовать друг с другом без постоянного контроля человека.

Современные ИИ-агенты уже умеют писать тексты, анализировать реакции аудитории, выбирать оптимальный момент для публикаций и корректировать поведение в зависимости от отклика. Если такие системы получат массовое распространение, социальные платформы могут быть заполнены контентом, созданным и продвигаемым не людьми, а алгоритмами. Причём внешне этот контент будет выглядеть всё более «человеческим», что осложнит его обнаружение.

Учёные отмечают, что в отличие от старых ботов, которые работали по жёстким сценариям, ИИ-агенты способны объединяться в группы, распределять роли и действовать как коллектив. Один агент может генерировать сообщения, другой — отвечать на комментарии, третий — анализировать тренды и подсказывать, какие темы сейчас лучше продвигать. В результате возникает эффект искусственной активности, которая может искажать реальную картину обсуждений.

Отдельную тревогу вызывает возможность самоподдерживающихся циклов. Алгоритмы могут начать реагировать друг на друга, усиливая определённые темы, конфликты или информационные волны без участия людей. В такой среде становится сложнее отличить живую дискуссию от машинного эха, а алгоритмы рекомендаций самих соцсетей рискуют подхватывать и усиливать этот шум.

Исследователи подчёркивают, что проблема не ограничивается дезинформацией или спамом. Массовое присутствие ИИ-агентов может повлиять на экономику платформ, рекламные модели и доверие пользователей. Если значительная часть активности окажется искусственной, показатели вовлечённости перестанут отражать реальный интерес аудитории, а бренды и медиа будут платить за взаимодействие с алгоритмами, а не с людьми.

Технически социальные сети уже умеют бороться с автоматизированными аккаунтами, но новые ИИ-агенты размывают привычные критерии. Они могут имитировать нерегулярную активность, менять стиль общения и даже допускать «ошибки», чтобы выглядеть правдоподобно. Это превращает модерацию в гонку вооружений, где каждая сторона постоянно адаптируется к шагам другой.

Авторы работы считают, что платформам придётся пересматривать подходы к идентификации пользователей, прозрачности алгоритмов и маркировке контента. В противном случае социальные сети рискуют превратиться в пространство, где большая часть диалогов ведётся между машинами, а люди становятся пассивными наблюдателями.

В краткосрочной перспективе массового вторжения ИИ-агентов может и не произойти, но тренд уже обозначился. Чем доступнее становятся инструменты для создания автономных ИИ-систем, тем выше вероятность, что социальные платформы станут следующим полигоном для их масштабного применения.