📌 По мнению судей, "чрезмерно ограниченные модели искусственного интеллекта" могут привести к провалу военных операций.
Расчётный счёт для бизнеса — 3 мес бесплатно, потом скидка 50%
Открыть счёт для бизнесаПартнёрский материал. Мы получаем вознаграждение от партнёров.
⚡
Федеральный суд США разрешил администрации Donald Trump внести компанию Anthropic в чёрный список из-за отказа внедрить дополнительные функции в модель Claude. Судьи сослались на риск провала военных операций при использовании «чрезмерно ограниченных моделей искусственного интеллекта».
📚
Антропик — один из трёх крупнейших разработчиков разговорных моделей в США наряду с OpenAI и Google. Компанию основали в 2021 году бывшие сотрудники OpenAI, включая Дарио и Даниэля Амодеи, из-за разногласий по вопросам безопасности. С 2023 года вокруг Anthropic велись переговоры о безопасности: Пентагон хотел гарантий, что военные могут использовать Claude для планирования без отказов системы. Компания отстаивала принцип «конституционного ИИ» — самоограничения модели по этическим соображениям.
Администрация Donald Trump ужесточила подход к технологическим компаниям, отказывающимся сотрудничать с оборонным ведомством.
Суд разрешил Трампу внести Anthropic в черный список из-за Claude Когда компании разрабатывают искусственный интеллект, они сталкиваются с дилеммой: насколько строго ограничивать ответы модели. Слишком мягкие фильтры — риск для безопасности. Слишком жёсткие — отказ от выполнения критически важных задач. Этот конфликт вышел на уровень федерального суда и может обернуться санкциями для одного из ведущих создателей чат-ботов.
Предыстория спора
Администрация [Трампа] требовала от Anthropic изменить настройки Claude — флагманского продукта компании. Суть претензии: модель слишком сильно ограничивает выдачу информации, что делает её бесполезной в экстренных ситуациях. Anthropic отказалась идти на уступки. В ответ правительство пригрозило внести компанию в чёрный список, что фактически перекрыло бы доступ к государственным контрактам и серьёзно ударило по репутации.
Позиция суда
Судьи встали на сторону администрации. Их аргументация прямолинейна: чрезмерно ограниченные модели искусственного интеллекта способны привести к провалу военных операций. Речь идёт о сценариях, когда система отказывается выполнять запрос из-за встроенных этических барьеров — даже если речь идёт о задачах национальной безопасности. Для суда это не абстрактный спор о технологиях, а вопрос работоспособности инструментов в критических условиях.
Почему это важно обычным людям
Решение задаёт прецедент, который коснётся каждого пользователя чат-ботов. Если власти получают рычаги давления на разработчиков за «избыточную» осторожность, баланс между безопасностью и полезностью ИИ-систем сдвинется. Для бизнеса это означает риск: инструменты, в которые вложены деньги, могут внезапно изменить поведение под внешним давлением. Для обычных пользователей — непредсказуемость: сегодня модель отказывается помочь с потенциально опасным запросом, завтра — уже нет.
А платить за эти колебания придёт всем рынком.
Что дальше
Anthropic оказалась в щекотливом положении. Внесение в чёрный список лишит компанию федеральных заказов и отпугнёт корпоративных клиентов, чувствительных к репутационным рискам. Сопротивление же грозит судебными исками и регуляторным прессингом. Скорее всего, компании придётся искать компромисс — технический или юридический — чтобы сохранить доступ к ключевому рынку. Остальные игроки отрасли уже изучают это дело как инструкцию: какие барьеры можно выставлять, а за какие придётся отвечать перед государством.
Читайте нас там, где удобно вам
Получайте такие новости первым
Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.
Вступить в TelegramБесплатно · Без спама · Отписка в 1 клик
Комментарии
Оставить комментарий