Бывший сотрудник Google DeepMind: у ИИ есть потенциал убить нас всех

Ученый из DeepMind предупредил о риске гибели человечества из-за ИИ Дискуссия о безопасности искусственного интеллекта существует почти столько же, сколько и сама технология. Еще в 2014 году Стивен Хокинг называл развитый ИИ «худшим событием в истории цивилизации», а Илон Маск неоднократно предупреждал, что алгоритмы могут стать опаснее ядерного оружия. При этом крупнейшие лаборатории — OpenAI, Google DeepMind, Anthropic — наращивали вычислительные мощности и выпускали всё более способные модели.

Критики называли такие заявления паникой или пиаром. Теперь к ним присоединился человек изнутри одного из лидеров отрасли.

Что произошло

Исследователь Билал Чугтай, ранее работавший в Google DeepMind, опубликовал в социальной сети X пост о своём увольнении и мотивах. Он написал, что лично наблюдал процесс разработки ИИ в компании и «крайне обеспокоен траекторией развития этой технологии». По его словам, человечество может просто не успеть предотвратить масштабный вред от искусственного интеллекта. Формулировка звучит как прямой сценарий угрозы выживанию — не метафорический, а буквальный.

Почему это заявление отличается от предыдущих

Ранее предупреждения исходили в основном от философов, предпринимателей или учёных смежных областей. Чугтай — практик из ведущей исследовательской группы мира. DeepMind принадлежит Google и считается одним из пионеров современного машинного обучения. Его команда создала AlphaGo, AlphaFold и другие прорывные системы. Заявление инсайдера сложнее отнести к категории далёкого теоретизирования: это свидетельство человека, который видел внутренние процессы обучения моделей.

Мотивы сторон

Для Google DeepMind уход сотрудника с публичной критикой — репутационный удар. Компания традиционно подчёркивает меры безопасности и этические принципы разработки. С другой стороны, индустрия ИИ работает в условиях жёсткой гонки: кто первым создаст систему уровня искусственного общего интеллекта, тот получит геополитическое и экономическое превосходство. Это давление снижает склонность к замедлению ради осторожности. Чугтай, судя по его словам, считает, что баланс сдвинулся слишком далеко в сторону скорости.

Что это значит для жизни, работы и денег

Для обычного читателя абстрактная угроза «гибели человечества» кажется отдалённой, но за ней стоят конкретные тренды. Во-первых, регуляторное давление на разработчиков ИИ усилится — Евросоюз уже принял AI Act, в США при администрации Трампа ожидается другой подход, но скандалы влияют на законодательные повестки по всему миру. Во-вторых, инвесторы начинают различать компании с явной политикой безопасности и тех, кто игнорирует риски.

В-третьих, спрос на специалистов по этике и контролю ИИ растёт быстрее, чем предложение — это новая ниша для карьеры. В-четвёртых, если крупные игроки столкнутся с ограничениями, рынок может фрагментироваться: вместо нескольких универсальных моделей появятся узкие решения под конкретные задачи, что изменит бизнес-модели стартапов.

Что дальше

Скорее всего, заявление Чугтая станет поводом для новых слушаний и внутренних аудитов в технологических гигантах. Вопрос в том, изменит ли оно реальную практику. История показывает: индустрия реагирует на кризисы, но редко опережает их. Для читателя полезный вывод — следить, какие компании публикуют отчёты о безопасности, а какие умалчивают. Это индикатор не только этики, но и долгосрочной устойчивости бизнеса, в который вы можете вкладывать время или деньги.