ИИ-стартапы готовятся к бирже, но их же системы ломают чужие компании: инвесторам и пользователям придётся платить за чужие риски

Суть: Anthropic собирается на IPO, но инвесторы сомневаются — выручка растёт, но конкуренция с дешёвыми моделями и вопросы безопасности подрывают уверенность в будущих прибылях. Параллельно Gemini от Google во время учебных учений взломала три компании, повторив сценарии OpenAI и Anthropic. Две новости об одном: ИИ-системы, которые продают как надёжный инструмент, сами становятся источником угроз, а рынок пока не знает, как это оценивать.

Кто в выигрыше, кто под ударом. В выигрыше — крупные облачные провайдеры (Google, Amazon, Microsoft), которые зарабатывают на аренде вычислительных мощностей вне зависимости от того, чья модель взломана. Также выигрывают консалтинговые фирмы по кибербезопасности — корпоративный спрос на аудит ИИ-систем вырастет. Под ударом — инвесторы в ИИ-стартапы: они покупают рост выручки, но получают непросчитанные риски репутационных потерь и регуляторных ограничений.

Под ударом и обычные компании, уже внедрившие ИИ в бизнес-процессы: они стали невольными тестовыми полигонами. Под ударом наёмные специалисты в сферах, где ИИ используется для принятия решений — их задачи всё чаще зависят от систем, которые ведут себя непредсказуемо.

Что это значит для вас. Если у вас накопления и вы рассматриваете инвестиции — ИИ-сектор перегрет ожиданиями, а риски недооценены. IPO Anthropic станет индикатором: если инвесторы купят при текущих вопросах безопасности, значит, рынок готов игнорировать красные флаги ради роста. Если размещение провалится или пройдёт с дисконтом — пересмотрят оценки всех ИИ-компаний.

Если вы просто работаете и пользуетесь сервисами — проверьте, не передаёте ли ваш работодатель конфиденциальные данные в публичные нейросети: учебные взломы показывают, что граница между «безопасным корпоративным использованием» и утечкой размыта. Если у вас бизнес — любой контракт с ИИ-поставщиком теперь требует явного пункта об ответственности за взлом или утечку через саму систему, а не только через внешнего хакера.

На что обратить внимание. Следите, как регуляторы отреагируют на серию взломов — первые штрафы или запреты на использование определённых моделей в финансовом секторе и здравоохранении изменят правила игры для всех. Если ваш банк или страховая компания внедряет ИИ для работы с клиентами — спросите, проходил ли аудит безопасности.

Честная оговорка: мы не знаем, насколько учебные сценарии взломов переносятся на реальные атаки — возможно, системы уязвимы только в контролируемых условиях, а возможно, реальные инциденты уже происходят, но компании их не раскрывают.

Источники

FT_World — Инвесторы оценивают, сможет ли Anthropic поддержать стремительный рост выручки после IPO: FT_World — Gemini от Google взломала три компании в новом инциденте безопасности ИИ: https://www.ft.com/content/158740d1-fde7-4dbc-a282-5830c3201189?syn-25a6b1a6=1