Нет, искусственный интеллект не похож на Манхэттенский проект

Почему ИИ — это не атомная бомба, и почему это важнее, чем кажется В середине XX века Манхэттенский проект собрал лучших учёных мира под крышкой государственной секретности. Результат — атомное оружие — появился из военных лабораторий и остался под жёстким контролем государств. Эта модель стала эталоном любой «экзистенциальной» технологии: опасная разработка требует секретности, регулирования и единого командного центра. Современная ситуация с искусственным интеллектом ломает этот шаблон.

Угроза, если говорить о ней всерьёз, выросла не из правительственных программ, а из коммерческих офисов и университетских кампусов. Частные компании, стартапы и открытые исследовательские группы создают системы, которые по масштабу воздействия сопоставимы с ядерными технологиями, но по происхождению — их полная противоположность.

Что изменилось

Раньше прорывные технологии шли сверху вниз: бюджет финансировал, армия применяла, граждане приспосабливались. Сейчас процесс обратный. Модели обучаются на публичных данных, распространяются через API и облачные сервисы, улучшаются сообществом разработчиков по всему миру. Государство оказывается не архитектором, а догоняющим — регулятором, который пытается накрыть уже разгоревшийся костёр. Это меняет экономику риска.

В Манхэттенском проекте контроль был технически простым: ограниченное число объектов, проверяемые люди, физическая невозможность скопировать реактор в гараже. С современными моделями так не работает. Они копируются, дообучаются, встраиваются в приложения без лицензий и разрешений. Секретность невозможна по определению, потому что сама бизнес-модель строится на массовом доступе.

Что это значит для обычного человека

Работа. Автоматизация приходит не по приказу чиновника, а через подписку на сервис. Переписка, чертежи, код, диагностика — всё это уже обрабатывается системами, созданными частными фирмами. Работодатель покупает доступ дёшево, сотрудник адаптируется или уходит. Инвестиции. Акции компаний, разрабатывающих эти системы, растут на ожиданиях, а не на прибыли. Рынок пытается оценить технологию, у которой нет исторического прецедента.

Это создаёт пузыри и внезапные коррекции — без всякого мошенничества, просто из-за неопределённости. Личная безопасность. Дипфейки, фишинг, автоматизированный социальный инжиниринг — всё это доступно не спецслужбам, а любому пользователю с базовыми навыками. Государственные регуляторы выпускают директивы, пока мошенники уже обновили инструментарий.

Что дальше

Параллель с Манхэттенским проектом удобна риторически, но вводит в заблуждение. Она предполагает, что достаточно найти «современного Оппенгеймера», собрать комитет и установить контроль. Реальность сложнее: технология децентрализована, коммерциализирована и распределена по тысячам юрисдикций. Это не значит, что регулирование невозможно. Но оно потребует новых инструментов — не секретности, а прозрачности; не запрета, а аудита; не единого центра, а координации конкурентов.

Частный сектор, создавший эту угрозу, вынужден будет участвовать и в её сдерживании. Иначе рынок сам накажет тех, кто потеряет доверие пользователей. Для читателя вывод практический: не ждите, что кто-то «разберётся сверху». Проверяйте источники информации, учите базовую цифровую гигиену, следите за тем, какие данные отдаёте сервисам. Контроль над ИИ сейчас — это вопрос личной осведомлённости, не меньше.