Политолог: создание аналога МАГАТЭ для ИИ маловероятно

Почему мировой контроль за искусственным интеллектом остаётся мечтой Идея создать международный орган, который бы следил за развитием искусственного интеллекта наподобие того, как МАГАТЭ контролирует ядерные технологии, периодически всплывает в дискуссиях политиков и учёных. Однако в реальности этот проект сталкивается с принципиальными препятствиями. Политолог Владимир Козюлин в комментарии Lenta.ru объяснил, почему такой механизм маловероятен.

Предыстория вопроса

После бурного развития генеративных моделей в 2022–2023 годах ряд стран и международных площадок выступил с инициативами регулирования ИИ. Европейский Союз принял свой акт, в США обсуждают федеральные рамки, а в ООН проходят дебаты о глобальных правилах игры. Параллельно звучат призывы замедлить развитие технологий ради безопасности. Однако между декларациями и реальным контролем лежит огромная пропасть.

Почему верификация невозможна

Козюлин выделяет несколько ключевых барьеров. Во-первых, передовые разработки в области ИИ часто носят закрытый характер — компании и государства не спешат раскрывать архитектуру моделей и данные для обучения. Во-вторых, пользователей технологий слишком много: речь идёт о миллионах разработчиков, интеграторов и конечных потребителей по всему миру. В-третьих, скорость распространения решений на основе ИИ делает любой контроль устаревшим ещё до вступления в силу.

Особую сложность создаёт двойное назначение технологий. Одна и та же модель может применяться и для диагностики болезней, и для создания дипфейков, и для оптимизации логистики, и для автоматизации кибератак. Кроме того, ИИ встраивается в огромное число сторонних систем — от умных холодильников до банковских приложений, — что делает отслеживание каждого использования физически невозможным.

Позиция экспертов по информационной безопасности

Ранее эксперт Антон Бочкарёв выразил скепсис по поводу самой идеи торможения прогресса. По его мнению, попытки остановить или полностью проконтролировать технологическое развитие обречены на провал. История показывает: запретные технологии уходят в тень, но не исчезают. Разница лишь в том, кто ими владеет.

Что это значит для обычных людей

Для читателей важен практический вывод: международных «правил игры» в сфере ИИ в обозримом будущем не предвидится. Это означает, что ответственность за последствия использования технологий остаётся на национальных регуляторах и — в немалой степени — на самих пользователях. Работодатели уже сейчас внедряют ИИ-системы без единых стандартов прозрачности.

Соискателям приходится сталкиваться с автоматическим отсевом резюме, клиентам банков — с алгоритмическим скорингом, пациентам — с диагностикой, основанной на непроверяемых моделях. Отсутствие глобального контроля ускоряет эти процессы, но одновременно оставляет больше пространства для злоупотреблений.

Что дальше

Скорее всего, мир увидит фрагментарное регулирование: каждая юрисдикция будет выстраивать свои правила, а крупные игроки — адаптироваться под самые жёстие из них. Для России это означает необходимость развивать собственные механизмы проверки ИИ-решений, применяемых в чувствительных сферах — финансах, здравоохранении, государственном управлении.

Глобального «атомного инспектора» для искусственного интеллекта не будет — и задача общества состоит в том, чтобы научиться жить в этом неконтролируемом пространстве, развивая собственную критическую грамотность и требуя прозрачности там, где это возможно.