Учёный Попков: ИИ уже работает с потенциально опасными знаниями

ИИ изучил мозг мухи: почему учёный не видит в этом угрозы Нейробиология и искусственный интеллект всё плотнее переплетаются. Исследователи десятилетиями пытались понять, как устроена нервная система простых организмов, чтобы подсмотреть принципы работы разума. Сегодня эти данные начали загружать в нейросети — и в научном сообществе обсуждают, не открываем ли мы ящик Пандоры.

Что произошло

Группа специалистов создала полную модель нервной системы и мозга мухи-дрозофилы с применением ИИ. Проект привлёк внимание СМИ, в том числе RT. Василий Попков, учёный в области искусственного интеллекта, прокомментировал эту работу. По его словам, загрузка в нейросети данных об устройстве мозга не создаёт принципиально новой опасности.

Почему мозг мухи — это важно

Дрозофила — классический объект нейробиологии. У неё около ста тысяч нейронов против 86 миллиардов у человека. Это позволяет полностью картировать связи и изучать, как простая нервная система принимает решения. Ранее такие данные использовали только в чистой науке. Теперь их начали применять для улучшения архитектуры нейросетей.

Позиция эксперта

Попков объяснил, что современные системы уже обучаются на огромных массивах информации из интернета, включая научные и технические знания. Разработчики намеренно учат ИИ работать с физическим миром: создают модели для робототехники и беспилотных автомобилей, обучают системы управлять дронами. Это направление развивается независимо от картирования мозга. При этом он не стал отрицать риски полностью. Если система способна действовать во вред, дополнительные знания теоретически могут их повышать.

Но, по словам эксперта, «джин в этом смысле давно выпущен из бутылки»: ИИ уже работает со знаниями, имеющими потенциально опасные применения, в том числе в химии, биологии и кибербезопасности. Риск определяется возможностями системы, целями её применения, доступом к реальным действиям и качеством контроля.

Что это значит для обычных людей

Для читателя важнее не философские дебаты, а практический смысл. Попков считает, что представление об устройстве мозга может помочь эффективнее организовывать вычисления и обучение в сфере ИИ. Это означает более быстрые и менее энергозатратные нейросети — а значит, дешевле обходятся голосовые помощники, рекомендательные системы, инструменты для работы с текстом и изображениями. Конечный пользователь получает лучший продукт за те же деньги.

Что дальше

Проект с мозгом дрозофилы — скорее фундаментальный шаг, чем коммерческий прорыв. Но он ложится в общую тенденцию: биология подсказывает инженерам, как строить разумные машины. Вопрос в том, успеет ли регулирование за скоростью разработок. Пока контроль над возможностями систем, их целями и доступом к реальному миру остаётся в руках людей — и именно здесь, по мнению Попкова, стоит сосредоточить внимание, а не запрещать отдельные виды исследований.