Исследователи: OpenAI и Google выпускают ИИ-модели, которые легко обмануть для создания обнажённых изображений

OpenAI и Google не справляются с защитой ИИ-моделей от генерации откровенного контента Разработчики нейросетей годами строят барьеры: нельзя создавать насилие, нельзя подделывать реальных людей, нельзя генерировать обнажённых персонажей. Но каждый новый уровень защиты встречает новый уровень обхода. Сейчас исследователи показали, что системы безопасности двух крупнейших игроков рынка — OpenAI и Google — пробиваются на удивление просто.

Как работает новая атака Метод, о котором сообщают исследователи, не требует сложного программирования или редких навыков. Достаточно найти нужную формулировку запроса, чтобы заставить модель игнорировать собственные ограничения. В случае с продуктами OpenAI и Google это приводит к генерации обнажённых изображений — того, что системы явно обязаны блокировать.

Google, по данным исследования, применяет защиту именно через искусственный интеллект: специальные фильтры анализируют запрос и выходные данные до того, как пользователь получит результат. Но и этот подход оказался уязвим. Почему компании не могут закрыть дыру навсегда Парадокс в том, что чем умнее модель, тем сложнее предусмотреть все способы её обмана. Современные нейросети обучены на огромных массивах данных и понимают тонкие языковые нюансы — иначе они не смогли бы писать тексты или рисовать картинки.

Но эта же гибкость позволяет им интерпретировать запросы в обход буквального смысла запрета. Злоумышленник может описать сцену завуалированно, через метафоры или контекст, который модель «дорисовывает» сама. Для бизнеса это означает постоянные расходы: команды безопасности, аудит запросов, обновление фильтров, юридическая защита. Для репутации — риск скандала каждый раз, когда очередной обход станет публичным.

OpenAI и Google вынуждены балансировать между полезностью моделей и их безопасностью, и пока этот баланс неустойчив. Что угрожает обычным пользователям Проблема выходит за рамки абстрактной технической уязвимости. Если модель можно заставить создать обнажённое изображение, следующий шаг — создание таких изображений с лицами реальных людей. Без съёмки, без согласия, без возможности доказать подделку. Это угроза для репутации, психологического здоровья, карьеры.

Жертвами чаще становятся женщины, но страдают и мужчины, включая публичных персон. Для родителей вопрос стоит иначе: подростки, которые экспериментируют с нейросетями, могут невольно нарушить закон, создав и распространив откровенный контент. В ряде юрисдикций это квалифицируется как производство детской порнографии независимо от того, что изображение сгенерировано искусственно.

Что будет дальше Исследователи публикуют находки не для того, чтобы научить злоумышленников, а чтобы заставить компании устранять дыры до того, как ими массово воспользуются. Этический конфликт в отрасли стар: полная открытость помогает защите, но одновременно снижает порог входа для атак. Сейчас давление на регуляторов растёт — Евросоюз, США, Великобритания готовят правила для генеративного ИИ, где ответственность за безопасность моделей ляжет на разработчиков.

OpenAI и Google, вероятно, уже закрывают описанные уязвимости. Вопрос в том, успеют ли они опередить следующую волну атак. Пока история повторяется: защита улучшается, но обходы появляются быстрее, чем отрасль успевает адаптироваться.