Папа римский предостерег от наступления "машинного рая"

Папа римский против «машинного рая»: зачем Ватикан вступился за человечность В последние годы искусственный интеллект перешёл из разряда лабораторных экспериментов в повседневную реальность: алгоритмы рекомендуют фильмы, управляют автопилотами, помогают врачам ставить диагнозы. Но по мере распространения технологии растёт и тревога — не только у учёных и программистов, но и у духовных лидеров.

Ватикан, традиционно осторожный к технологическим переменам, выстроил прямой диалог с разработчиками из Кремниевой долины, пытаясь предугадать, как автоматизация изменит общество. В ходе апостольского визита в Париж папа римский Лев XIV публично предостерёг от «машинного рая» — мира, где технологическое совершенство обернётся утратой человечности. Понтифик призвал «вернуть человека в центр всех размышлений» об искусственном интеллекте.

Это не импровизация: годом ранее, в мае, в своей первой энциклике Magnifica Humanitas он уже требовал «разоружения ИИ», чтобы предотвратить его господство над человечеством. Позиция церкви выстроена вокруг конкретных угроз. Во-первых, концентрация данных, инфраструктуры и вычислительной мощности в руках небольшого числа корпораций. Во-вторых, военное применение алгоритмов и массовая слежка, которую технологии делают технически тривиальной.

Ватикан видит свою роль в том, чтобы напоминать: прогресс без этических рамок становится опасным.

Почему это касается обычных людей

Работа. Автоматизация уже перекраивает рынок труда. Когда ключевые решения — кого нанять, кого уволить, кому одобрить кредит — принимают алгоритмы, у человека мало рычагов воздействия. Позиция папы римского подчёркивает: такие решения нельзя полностью передавать машинам. Приватность. Концентрация данных в руках немногих игроков означает, что информация о поведении, предпочтениях, перемещениях миллионов собрана в узких узлах. Утечки, злоупотребления, продажа данных — риски растут пропорционально монополизации.

Моральные дилеммы. ЕС уже согласился с мнением понтифика об этических ограничениях для ИИ. Вопрос о том, может ли алгоритм решать вопросы морали — например, кого спасать в критической ситуации беспилотника — требует общественного обсуждения, а не закрытых корпоративных решений.

Что дальше

Диалог между Ватиканом и технологическими лидерами продолжится. Евросоюз закрепляет этические нормы в законодательстве. Но главный вопрос — не в регуляции, а в распределении власти. Пока данные и инфраструктура концентрируются, «разоружение ИИ» остаётся метафорой. Реальная задача — создание механизмов, при которых человек сохраняет контроль над тем, что машины делают от его имени.