📌 MIT Technology Review объясняет: Позвольте нашим авторам разобраться в сложном и запутанном мире науки и техники, чтобы помочь вам понять, что будет дальше. Вы можете прочитать больше о серии здесь. В…
Расчётный счёт для бизнеса — 3 мес бесплатно, потом скидка 50%
Открыть счёт для бизнесаПартнёрский материал. Мы получаем вознаграждение от партнёров.
📚
Открытые модели искусственного интеллекта, такие как GPT и другие, активно развиваются последние годы. Они позволяют разработчикам создавать приложения быстрее и дешевле, но одновременно повышают риски их использования в кибератаках. Вопрос баланса между открытостью и безопасностью стал ключевым для технологических компаний и регуляторов. Ранее уже были случаи, когда открытые модели использовались для вредоносных целей, например, генерации фишинговых писем.
🧠
Отчет Anthropic указывает на GLM-5.3 как на пример модели, которая может быть использована для масштабных кибератак. Это связано с её открытым кодом, что позволяет злоумышленникам адаптировать её под свои нужды. Основной риск — увеличение числа атак на компании и частных лиц, использующих такие технологии. Выигрывают те, кто может контролировать или ограничивать доступ к подобным моделям, например, крупные технологические корпорации.
Открытые ИИ-модели: свобода против безопасности Дискуссия об открытых искусственных интеллектах набирает остроту. С одной стороны — доступ к передовым технологиям для стартапов и исследователей, с другой — опасения, что мощные модели попадут в чужие руки. MIT Technology Review разбирает, где проходит граница между пользой и угрозой.
Что случилось
В конце прошлого месяца Anthropic опубликовала отчёт, в котором модель GLM-5.3 названа серьёзной угрозой для кибератак. Это не первый случай, когда эксперты предупреждают о рисках открытого распространения ИИ-систем. Однако сам отчёт вызвал вопросы — критики указывают на проблемы в его методологии и выводах.
Предыстория и контекст
Открытые модели — это системы, исходный код и параметры которых доступны публично. Любой разработчик может скачать их, дообучить под свои задачи, встроить в продукт. Этот подход сделал возможным бум независимых ИИ-приложений: от чат-ботов для малого бизнеса до инструментов для учёных в развивающихся странах. Закрытые модели вроде продуктов OpenAI работают иначе — доступ только через API, контроль со стороны создателя.
Это ограничивает злоупотребления, но создаёт зависимость от инфраструктуры крупных корпораций и повышает цену для конечных пользователей.
Мотивы сторон
Сторонники открытости говорят о демократизации технологий. Когда исследовательская группа в Бразилии или Индии может запустить собственную языковую модель без миллионных инвестиций — это ускоряет научный прогресс и снижает цифровое неравенство. Малый бизнес получает инструменты, которые раньше были доступны только технологическим гигантам.
Критики, включая авторов отчёта Anthropic, предупреждают: чем мощнее модель, тем выше риск её использования для фишинга, создания вредоносного кода или дезинформационных кампаний. Если злоумышленник может скачать модель и запустить её локально — никакой внешний контроль не сработает. Спор идёт о балансе. Полный запрет на открытые модели означает концентрацию рынка в руках нескольких компаний. Полная свобода — потенциальную утрату контроля над последствиями.
Что это значит для жизни, работы и денег
Для обычного пользователя выбор между открытыми и закрытыми моделями влияет на цену и качество цифровых сервисов. Открытые технологии конкурируют с коммерческими продуктами, сдерживают рост цен, дают альтернативу. Для предпринимателей и разработчиков открытые модели — способ снизить затраты на запуск ИИ-функций в своих продуктах. Стартап может построить прототип без оплаты дорогих API, протестировать гипотезу, привлечь инвестиции. Для специалистов по кибербезопасности ситуация создаёт двойную нагрузку.
С одной стороны, открытые модели помогают автоматизировать защиту. С другой — усложняют работу, поскольку потенциальные инструменты атакующих становятся доступнее.
Что дальше
Дебаты продолжатся. Вероятно, появятся промежуточные решения: лицензирование для мощных моделей, обязательные проверки перед публикацией, международные соглашения об ответственности разработчиков. Пока отрасль ищет баланс, пользователям стоит следить за тем, какие технологии выбирают сервисы, которыми они пользуются — и как это влияет на их данные и бюджет.
Читайте нас там, где удобно вам
Получайте такие новости первым
Нейросеть-анализатор собирает, сопоставляет и анализирует новости каждые 15 минут — в одну понятную картину. Читаем, обсуждаем, делимся мнениями.
Вступить в TelegramБесплатно · Без спама · Отписка в 1 клик
Комментарии
Оставить комментарий