📌 METR опубликует свои собственные оценки рисков, инцидентов и практик Anthropic, и производитель моделей искусственного интеллекта Frontier отказался от права блокировать их.
Брокерский счёт с бонусом до 5 000 ₽ новым клиентам
Открыть брокерский счётПартнёрский материал. Мы получаем вознаграждение от партнёров.
📚
Anthropic — один из лидеров в разработке продвинутых ИИ-моделей, таких как Claude, конкурирующих с ChatGPT. METR (Machine Learning Evaluation, Transparency, and Responsibility) — независимая организация, оценивающая риски ИИ. Ранее крупные tech-компании редко допускали сторонних исследователей к внутренним процессам, опасаясь утечек и репутационных рисков.
🧠
Anthropic добровольно пошла на беспрецедентную открытость, вероятно, чтобы опередить регуляторные требования. Решение связано с растущим давлением на ИИ-гигантов: в 2026 году ЕС и США ужесточили правила аудита алгоритмов. METR получит доступ на уровне сотрудников, что позволит выявлять скрытые уязвимости. Главный выигрыш — регуляторы и общественность, которые получат независимую оценку. Проигрывают конкуренты, такие как OpenAI, — их закрытость теперь выглядит слабым местом.
Anthropic открыла внутренние системы для независимых аудиторов Крупнейшие разработчики моделей искусственного интеллекта всё чаще оказываются в центре дискуссий о безопасности технологий. Общество требует прозрачности: как обучаются системы, какие риски они несут, кто контролирует процесс. Ответы на эти вопросы традиционно оставались за закрытыми дверями корпораций. Ситуация начинает меняться, но медленно и неравномерно.
Производитель моделей уровня Frontier компания Anthropic сделал шаг, который пока редко встретишь в отрасли. Организация METR, занимающаяся оценкой рисков искусственного интеллекта, получила доступ к внутренним системам Anthropic на уровне обычного сотрудника. Это означает не публичные отчёты или подготовленные презентации, а реальную рабочую среду с её процессами и инцидентами.
Условие без прецедента
Главное отличие этой сделки — отказ Anthropic от права блокировать публикации METR. Компания не сможет редактировать, откладывать или запрещать оценки рисков, описания инцидентов и анализ практик, которые подготовят исследователи. Такой подход резко контрастирует с обычной практикой, когда внешние аудиторы работают по согласованным протоколам и публикуют только то, что одобрил заказчик.
Что стоит за этим решением
Для Anthropic открытость — способ укрепить доверие в условиях, когда регуляторы по всему миру готовят жёсткие правила для ИИ-индустрии. Добровольная прозрачность позволяет опередить обязательные требования и сформировать репутацию ответственного игрока. Для METR доступ к живым системам даёт возможность проводить оценки, основанные не на заявлениях компании, а на фактических данных.
Что это меняет для обычных людей
Технологии уровня Frontier — это системы, способные решать сложные задачи в науке, программировании, медицине. Они же несут риски: от распространения дезинформации до помощи в создании опасных материалов. Когда оценки безопасности готовят независимые исследователи без цензуры разработчика, пользователи получают более полную картину. Это помогает принимать осознанные решения: какими сервисами пользоваться, какие данные доверять, какие профессии осваивать в меняющемся мире.
Что будет дальше
METR опубликует собственные оценки по итогам аудита. Их содержание станет индикатором: насколько глубокой и честной окажется эта прозрачность на практике. Если модель сработает, её могут перенять другие компании отрасли — или регуляторы встроят подобные механизмы в законодательство. Если выявятся системные проблемы, это ускорит дебаты о необходимости внешнего контроля над разработкой передовых моделей.
В любом случае, прецедент создан: рынок получил пример, как добровольная открытость может выглядеть в реальности, а не в рекламных брошюрах.
Читайте нас там, где удобно вам
Получайте такие новости первым
Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.
Вступить в TelegramБесплатно · Без спама · Отписка в 1 клик
Комментарии
Оставить комментарий