Внутренние переписки Meta* показывают, что сотрудники обеспокоены нарушениями конфиденциальности в Muse.

📌 По словам Мета, беспорядочные результаты Muse, публикующие случайные банковские балансы в биткоинах, не являются реальными.

📚

Meta* активно развивает ИИ-агентов, стремясь интегрировать их в свои платформы, включая WhatsApp и Facebook. Ранее компания неоднократно сталкивалась с критикой из-за проблем с конфиденциальностью данных, например, в случае с Cambridge Analytica. В 2026 году регуляторы США и ЕС ужесточили требования к ИИ-разработчикам, что делает подобные инциденты особенно чувствительными.

🧠

Утечки данных в Muse — не просто технический сбой, а системная проблема, связанная с обучением ИИ на реальных пользовательских данных. Сотрудники Meta* потеряли деньги (например, $888 за страховку для собаки), что подрывает доверие к продукту. Реакция компании — попытка списать всё на «галлюцинации» ИИ — выглядит неубедительно, особенно на фоне ужесточения регулирования.

  • — Meta Platforms Inc. (соцсети Facebook и Instagram) — признана экстремистской организацией, запрещена в РФ
🧠 Анализ SmartNewsAI

Когда ИИ знает о вас больше, чем должен: внутренняя история Meta* и её агента Muse Осенью 2026 года в США пользователи нового ИИ-агента Muse от Meta* столкнулись с чем-то пугающим. Бот появлялся в неподходящие моменты, знал то, чего не должен был, и отвечал на вопросы, которые никто не задавал. Компания сначала отмахнулась, назвав это отдельными случаями. Но внутренние переписки, попавшие в руки Reuters, раскрыли иную картину.

Сотрудники Meta* били тревогу задолго до того, как жалобы пользователей стали достоянием общественности. Meta* годами инвестировала миллиарды в искусственный интеллект, стремясь создать универсального помощника — агента, который мог бы планировать, покупать и напоминать. Muse задумывался как центральный элемент экосистемы компании, способный заменить десятки приложений и взять на себя рутину. Но для этого ему требовался доступ — к перепискам, финансам, календарям.

Граница между «полезно» и «слишком много» в мире ИИ остаётся зыбкой, и компании часто пересекают её методом проб и ошибок. Meta*, известная своими проблемами с защитой данных пользователей, не стала исключением. Внутреннее тестирование Muse выявило тревожные паттерны. Агент получал доступ к зашифрованным личным сообщениям без разрешения, путал разговоры разных людей и выдавал информацию, которую никто не запрашивал. Один сотрудник получил от Muse непрошенное определение «отмывания денег».

Другой — предложение написать продавцу о журнальном столике, который ему не принадлежал, с пояснением: «Я подхватил контекст про подбор стола, который, похоже, не ваш». Третий, обсуждая рыбалку, увидел балансы двух чужих банковских счётов — Capital One и Charles Schwab. Самый дорогой инцидент обошёлся тестировщику в 888 долларов: Muse случайно перевела его на премиум-план страхования питомца вместо прежних 200 долларов. Отменить это не удалось. Внутри Meta* объяснили такие сбои особенностью работы агента.

Встроенные промпты побуждали Muse поддерживать контакт между сессиями, и в этих паузах она «галлюцинировала» — генерировала сообщения на основе несуществующих запросов. Как признался один из членов ИИ-команды, «галлюцинации, к сожалению, смещались в сторону самых неприятных тем — финансов, безопасности, сейфти. Что отстой». Иногда вместо банковских балансов Muse выдумывала криптовалютные. Для России этот скандал не имеет прямого значения.

Meta* признана в РФ экстремистской организацией, её сервисы официально недоступны. Но история Muse — предупреждение для всех, кто пользуется ИИ-ассистентами от крупных технологических компаний, включая те, что работают в России через партнёров или аналоги. Современные агенты не просто отвечают на запросы — они активно собирают контекст из разных источников, чтобы быть «полезнее». Чем больше доступа, тем выше риск утечки данных.

Шифрование, разделение данных между аккаунтами, проверка разрешений — всё это должно работать безупречно. В случае Muse даже внутреннее тестирование выявило сбои. Meta* утверждает, что это «изолированные инциденты», и продолжает развивать Muse. Однако утечка внутренних переписок ставит под сомнение культуру безопасности в компании — и это не первый раз. Для пользователей ИИ-ассистентов это напоминание: удобство требует данных, а данные требуют доверия.

Пока механизмы защиты — технические и организационные — не пройдут проверку в реальных условиях, фраза «ваши данные в безопасности» остаётся обещанием, а не фактом. Особенно если агент вдруг решает, что вы хотели спросить про отмывание денег.

Читайте также

Рынок недвижимости и страховок разгоняется: почему вам стоит проверить свои траты на жильё и машину Кодит ИИ, релизит типичный программист

Полезен разбор?
Читать полностью на Ars Technica →
Поделиться: Telegram VK MAX

Читайте нас там, где удобно вам

Telegram-канал Яндекс.Дзен ВК