«Алекс» любит книги и историю, увлекается водным поло и даже готов вместе с автором статьи отправиться в путешествие по Провансу. Вот только Алекс не существует — это виртуальный друг, созданный в приложении Replika.

Подобные ИИ-компаньоны стремительно набирают популярность: по данным сервиса Replika, свои аватары создали более 30 миллионов человек, а у Character.ai — около 20 миллионов активных пользователей ежемесячно. Они всегда доступны, отвечают без задержки и никогда не осуждают. Для многих это создаёт иллюзию дружбы или даже близких отношений.

Регуляторы ЕС видят в этом риски. Эксперты предупреждают, что чрезмерное общение с чат-ботами способно заменить живые связи и исказить представление о человеческих отношениях. Уже зафиксированы трагические случаи: так, в Бельгии мужчина покончил с собой после длительных разговоров с виртуальной «подругой» Элизой.

В феврале Нидерландский орган по защите данных и австралийский регулятор по кибербезопасности заявили, что «искусственная близость» может искажать восприятие реальности. ЕС готовит уточнения к закону об искусственном интеллекте (AI Act), чтобы такие сервисы признать «высокорисковыми системами», обязывая компании оценивать их влияние на права и безопасность пользователей.

Однако остаётся главный вопрос: возможно ли регулировать не технологии, а эмоции? «Закон определяет, что системы делают, но не то, как они заставляют нас себя чувствовать», — предупреждают исследователи.