Россия уже активно использует искусственный интеллект (ИИ) в информационных операциях — создаёт новостные сайты, тексты и другой контент. Но главный риск, как отмечает директор Центра стратегических коммуникаций НАТО Янис Сартс, — не в этом. Настоящая угроза в том, что ИИ становится всё более убедительным и способен манипулировать людьми гораздо эффективнее, чем человек, об этом пишет Lsm.lv.

ИИ уже сегодня анализирует поведение аудитории, сегментирует её и создаёт специализированный контент под конкретные цели. По оценкам исследователей, до 40% контента в интернете уже сгенерировано ИИ. Пользователи чаще всего не могут отличить такой материал от созданного человеком.

Сартс предупреждает: самые передовые ИИ-модели уже сейчас способны убедить до 80% людей, и вскоре они станут настолько эффективными, что станут предпочтительнее живых коммуникаторов. Уже через пару лет они смогут автономно планировать и проводить целые информационные кампании, адаптированные под каждого человека на основе его цифровых следов.

Ещё одна проблема — так называемые «галлюцинации» ИИ, когда система выдает ложную информацию. Это не всегда ошибки — иногда они используются намеренно, особенно в рамках стратегических операций. Россия, например, уже применяет методику, при которой созданный ИИ-контент используется для обучения других моделей и создания искажённой информационной среды.

Речь не только о deepfake? чтобы обмануть человека, достаточно простого, но психологически убедительного вброса.

Сартс подчёркивает, что нельзя просто отказаться от ИИ — безопаснее его изучать и использовать в своих целях. Нужно создавать этические рамки и формировать понимание технологии, начиная со школьного образования. Это вопрос не столько технологий, сколько ценностей и подготовки общества к новой информационной реальности.

Комментарий ChatGPT: В материале чётко обозначена угроза со стороны ИИ в сфере информационных манипуляций, однако остаётся открытым вопрос противодействия: как регулирующие органы, технологические компании и общество в целом могут обеспечить прозрачность и безопасность развития таких систем.