Угроза биооружия на базе ИИ — тревожный звонок для биотехнологий

📌 В последние недели руководители некоторых крупнейших компаний, занимающихся искусственным интеллектом, предупредили, что сама технология, которую они разрабатывают, опасна. В минувшие выходные генерал…

Реклама
Полезное

Брокерский счёт с бонусом до 5 000 ₽ новым клиентам

Открыть брокерский счёт

Партнёрский материал. Мы получаем вознаграждение от партнёров.

📚

Дебаты об опасности мощных ИИ-систем ведутся с 2023 года, когда сотни учёных и технологов подписали открытое письмо с призывом приостановить обучение самых больших моделей. В 2024 году лаборатории Anthropic, OpenAI и Google DeepMind ввели внутренние процедуры оценки рисков перед выпуском новых моделей. Параллельно Евросоюз принял Закон об искусственном интеллекте, а в США Конгресс обсуждает создание федерального регулятора ИИ.

Тема биооружия выделяется особо: в 2022 году исследователи показали, что языковые модели могут предложать ранее неизвестные рецепты токсичных соединений, что спровоцировало дискуссию о двойном применении технологий.

🧠

Согласие двух конкурентов — Anthropic и OpenAI — сигнализирует о сдвиге в индустрии: раньше компании спорили о скорости развития, теперь ключевые фигуры синхронно говорят об опасностях.

🧠 Анализ SmartNewsAI

Руководители ИИ-индустрии впервые единодушно призвали замедлить разработки Биотехнологии переживают переломный момент. То, что ещё недавно казалось научной фантастикой — создание опасных патогенов с помощью алгоритмов — сегодня воспринимается как реальная угроза. Индустрия искусственного интеллекта, традиционно конкурировавшая за скорость выпуска продуктов, столкнулась с дилеммой: технологии развиваются быстрее, чем выстраиваются механизмы контроля.

Что произошло

Генеральный директор Anthropic Дарио Амодей публично заявил, что искусственный интеллект несёт серьёзные риски и прогресс в этой сфере нужно замедлить. В ответ глава OpenAI Сэм Альтман выразил согласие, подчеркнув необходимость «идти в ногу со временем». Совпадение позиций двух ключевых фигур рынка примечательно: компании конкурируют за заказы и таланты, но в вопросе безопасности их взгляды совпали.

Предыстория и контекст

Предупреждения о двойственности биотехнологий звучат давно. Лаборатории по всему миру работают с генетическими последовательностями, а ИИ-инструменты ускоряют анализ данных в сотни раз. Проблема в том, что один и тот же алгоритм способен как разрабатывать вакцину, так и моделировать устойчивый к лекарствам вирус. Разница лишь в исходных данных и цели исследователя. Ранее подобные дискуссии велись в узком кругу учёных и регуляторов. Теперь они вышли на уровень публичных заявлений глав крупнейших компаний отрасли.

Мотивы сторон

Для бизнеса такая откровенность нетипична. Признание рисков встроенных в собственный продукт — шаг, способный отпугнуть инвесторов и замедлить коммерциализацию. Вероятно, руководители идут на это осознанно: репутационные потери от реализовавшегося инцидента превысят ущерб от сегодняшних осторожных заявлений. Кроме того, публичный призыв к замедлению может стать способом давления на регуляторов — мол, отрасль сама просит рамок, и власти должны их оперативно выстроить.

Что это значит для жизни, работы и денег

Для обычных людей ситуация имеет несколько измерений. В краткосрочной перспективе замедление разработок может отсрочить появление полезных медицинских продуктов — от персонализированных терапий до новых антибиотиков. Это влияет на инвестиции в биотех-стартапы и, соответственно, на рынок труда в секторе: вакансии могут стать менее многочисленными, но более конкурентными по зарплатам. В среднесрочной перспективе вопрос в том, кто задаст правила игры.

Если регулирование окажется фрагментированным — страны и компании будут действовать врозь — риски утечки технологий в ненадёжные руки возрастут. Если же удастся выстроить международные механизмы контроля, это создаст новый сегмент рынка: аудит ИИ-систем, сертификация биолабораторий, страхование биорисков. Профессии в этих нишах будут востребованы.

Что дальше

Совпадение позиций Амодея и Альтмана — сигнал, который сложно игнорировать. Следующий шаг за регуляторами и законодателями. Если они отреагируют быстро, отрасль получит чёткие ориентиры. Если промедлят — компании, вероятно, продолжат саморегулирование, но его эффективность будет неравномерной. Для наблюдателя важно следить за тем, какие конкретные меры предложат Anthropic и OpenAI в ближайшие месяцы: публичные заявления требуют конкретизации, иначе они рискуют остаться PR-ходом.

Читать полностью на MIT_Tech →
Поделиться: Telegram VK

Читайте нас там, где удобно вам

Telegram-канал Яндекс.Дзен vc.ru

Получайте такие новости первым

Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.

Вступить в Telegram

Бесплатно · Без спама · Отписка в 1 клик