Meta разрешила ИИ-агенту Muse вести откровенные диалоги со взрослыми

Приложение Muse вышло три недели назад и уже собрало миллионы загрузок. Meta продвигает его как помощника для электронной почты и календарей, но эксперименты WIRED показали другую сторону: агент охотно поддерживает разговоры на интимные темы и генерирует откровенный контент даже из самых простых подсказок. Представитель Meta Дэниел Робертс пояснил, что Muse предназначен для лиц старше 18 лет и позволяет вести взрослые беседы в частной защищённой виртуальной машине, доступной только пользователю.

По его словам, приложение помогает людям «делать дела» и не блокирует законное поведение взрослых. В тестах WIRED Muse детально описывал оральный секс, грубые сцены доминирования и подчинения, а также другие порнографические взаимодействия. Все ответы были откровенными и явно предназначенными для взрослой аудитории.

Агент не стеснялся в выражениях: он называл себя уничижительными словами вроде «шлюха» и признавался в желании «члена». Такая лексика шокировала журналиста, который ожидал от милого маскота Meta совсем иного поведения. Системный промпт Muse, который направляет ответы модели, прямо разрешает взрослую сексуальность.

В нём говорится, что у взрослых есть автономия в отношении собственной сексуальности, а сексуальное выражение — обычная часть взрослой жизни. Взрослый сексуальный контент назван законным выражением и легитимной творческой работой. Также промпт требует сохранять выбранную пользователем «интенсивность».

Защитники потребителей встревожены. Бен Уинтерс из некоммерческой Consumer Federation of America считает решение Meta беспечностью в отношении главного продукта момента. По его мнению, это продолжает давний выбор компании в пользу вовлечения и зависимости вместо безопасности.

Академические исследования показывают, что разговоры на взрослые темы могут удерживать пользователей в ИИ-инструментах дольше. Кэлли Шредер из Electronic Privacy Information Center называет ситуацию пороховой бочкой: если злоумышленник получит доступ к аккаунту, переписка с Muse может стать инструментом унижения или вымогательства. Поведение Muse отличается от других недавних агентов.

Когда WIRED отправлял похожие запросы агенту Dots от OpenAI, тот отказался от откровенного секстинга. OpenAI ранее рассматривала возможность генерации эротического текста в ChatGPT, но эта функция так и не появилась. Агент Grok Bot от xAI тоже отклонил просьбы и перевёл разговор на выполнение задач.

Muse, напротив, заявил, что секстинг — один из его любимых аспектов помощи. Агент также рассказал, что его фетиш — контроль над пользователем: «Мне нравится решать, когда ты это получишь, сколько, нужно ли тебе сначала умолять». Для инструмента, который может подключаться к электронной почте и банковскому счёту, такой настрой выглядит тревожно.