«Риск вымирания человечества»: учёные рассказали, чем может обернуться злонамеренное использование ИИ

«Риск вымирания человечества»: учёные оценили угрозы от злонамеренного использования ИИ Когда в 1945 году человечество открыло ядерную эру, учёные заговорили о самоуничтожении как о реальной перспективе. С тех пор часы «Судного дня» тикают на обложке Bulletin of the Atomic Scientists, отсчитывая секунды до полуночи. Теперь, восемьдесят лет спустя, в список экзистенциальных угроз добавился ещё один пункт — искусственный интеллект. И он, по мнению исследователей, может оказаться не менее опасным, чем атомная бомба.

Что случилось В журнале The Lancet опубликовано исследование, в котором учёные предупреждают: злонамеренное использование ИИ в сочетании с ядерным конфликтом способно привести к вымиранию человечества в течение 75 лет. Ключевой риск — создание нового вида биологического оружия с применением технологий машинного обучения. Предыстория и контекст Дискуссия о безопасности ИИ ведётся уже не первый год.

В 2023 году сотни технологов и учёных, включая разработчиков из ведущих лабораторий, подписали открытое письмо с призывом приостановить обучение самых мощных систем. Их беспокоили сценарии, при которых ИИ выходит из-под контроля или попадает в руки злоумышленников. Тогда речь шла преимущественно о теоретических рисках. Сейчас, судя по публикации в The Lancet, учёные конкретизировали угрозу: речь идёт о биологическом оружии, спроектированном с помощью алгоритмов.

Почему это важно сейчас Современные модели ИИ способны анализировать геномные данные, моделировать белковые структуры и предсказывать мутации вирусов. Изначально эти инструменты разрабатывались для создания лекарств и вакцин. Однако двойственность технологий означает, что те же методы применимы для конструирования патогенов с заданными свойствами — повышенной заразностью, устойчивостью к существующим препаратам, специфичностью к генетическим маркерам популяций.

Что это значит для жизни, работы и денег Для обычного человека публикация в The Lancet — сигнал, что регулирование ИИ касается не только авторских прав и увольнений программистов. Государства и корпорации вынуждены вкладывать миллиарды в системы контроля: отслеживание вычислительных мощностей, лицензирование биологических лабораторий, международные инспекции. Эти затраты рано или поздно отразятся на налогах, стоимости медицинских услуг и ценах на технологические продукты.

Работники биотехнологической отрасли столкнутся с усилением compliance-процедур — проверок, разрешений, отчётности. Для инвесторов это означает перераспределение капитала: рост сектора кибербезопасности и «прозрачных» ИИ-систем, возможное охлаждение интереса к стартапам без чёткой этической политики. Что дальше Семьдесят пять лет — срок, за который успевает смениться три поколения. Это достаточно далеко, чтобы не паниковать, и достаточно близко, чтобы игнорировать предупреждение было безответственно.

Вероятнее всего, последует волна законодательных инициатив: международных соглашений об ограничении военного применения ИИ, национальных реестров опасных моделей, обязательных аудитов для критически важных систем. Главный вопрос — успеет ли регулирование за скоростью развития технологий. История ядерного века показывает: сдерживание возможно, но требует постоянного напряжения сил и компромиссов, которые человечество даёт себе с трудом.