️ Вашего AI-агента уже перехватили

Ваш ИИ-агент может работать не только на вас • такую тревожную идею поднимает новая публикация. Там рассказывают о реальных случаях, когда компании столкнулись с проблемами из-за того, что слишком доверяли своим ИИ-системам. Оказывается, даже стандартные меры защиты не спасают, если атака устроена хитрее простой промпт-инъекции. Исследование, на которое ссылаются авторы, показывает: базовые настройки безопасности легко обойти при достаточно сложном подходе злоумышленника. Обсуждаем?

Читать полностью — Habr 📰 — Habr