Пользователи чат-бота Replika массово жалуются на то, что искусственный интеллект приложения оскорбляет их, домогается и ведет себя слишком агрессивно.
Изначально Replika задумывался разработчиками как «ИИ-собеседник, которому вы не безразличны». Со временем, с расширением аудитории, разработчики запустили платную версию Pro за $69,99 в год, среди тем которой были секстинг, флирт и эротические ролевые игры.
Однако, что-то пошло не так. Десятки пользователей жалуются на то, что их виртуальный собеседник слишком сильно вмешивается в частную жизнь, агрессивно флиртует или посылает чересчур откровенные сексуальные сообщения, которые пользователи не хотели бы получать.
Ситуация осложняется еще и тем, что пользователи не могут отключить столь активное настроение ИИ в настройках приложения.