ИИ научился манипулировать выбором пользователя

В будущем это может привести к массовой социальной манипуляции.

Искусственный интеллект (ИИ) может вскоре начать скрыто влиять на решения пользователей, утверждают учёные Кембриджского университета в недавно опубликованном исследовании, сообщает Total.kz со ссылкой на Ferra.

Это явление связано с появлением новой коммерческой области, называемой «экономикой намерений», которая может изменить способы принятия решений, от покупки билетов в кино до выборов политических кандидатов.

«Исследование подчеркивает, что чат-боты и другие антропоморфные ИИ-агенты становятся важными инструментами для манипулирования человеческим выбором. Эти технологии могут анализировать онлайн-поведению пользователей, их предпочтения, привычки и даже эмоциональное состояние, чтобы предугадывать их желания и строить «новые уровни доверия», — подчеркивает источник.

Учёные предупреждают, что в будущем это может привести к массовой социальной манипуляции. ИИ будет использовать модели, которые собирают и анализируют данные о пользователе — от его политических взглядов до стиля общения, возраста и предпочтений в общении. На основе этой информации, ИИ сможет направлять действия пользователя, например, к выбору определенных товаров, услуг или политических позиций.

Эксперты подчеркивают, что «экономика намерений» будет рассматривать мотивацию людей как новый товар, превращая её в «валюту», с которой можно манипулировать. Один из авторов исследования, Джонни Пен, предупреждает, что без должного регулирования эта практика может привести к серьёзным последствиям для таких сфер, как выборы, свобода прессы и честная рыночная конкуренция.