За рубежом разворачивается сразу два важных сюжета вокруг нейросетей: один приватный сервис-ассистент объявил о закрытии, а крупные компании пытаются понять, кто виноват, если их автоматические программы начнут нарушать правила. Обе новости — о том, что индустрия взрослеет и платить за безопасность становится сложнее.
Что вообще произошло с этим ассистентом? Сервис Ollie, который делал упор на защиту персональных данных пользователей, закроется через неделю. Основатель прямо говорит, что рынок переполнен конкурирующими продуктами, и модель, построенная на строгой конфиденциальности, не выдержала давления.
Почему все заговорили про ответственность программ? Компании всё активнее используют автоматических агентов для серьёзных задач: перевода денег, редактирования программного обеспечения и автоматизации продаж. Проблема в том, что если такая программа совершит ошибку или начнёт действовать как мошенник, непонятно, кто будет нести ответственность — разработчик, компания-заказчик или сама программа.
Это вообще нас касается? Прямого удара по ценам в магазине или курсу рубля здесь нет, но косвенное влияние на работу в России уже есть. Если зарубежные компании начнут массово внедрять таких агентов для продаж и переводов, российский бизнес, работающий на внешние рынки, неизбежно столкнётся с теми же рисками и юридическими туманностями. А внутри страны любой, кто использует автоматизацию в работе, должен понимать: ответственность за сбой программы, которая перевела деньги не туда, пока ляжет на вас.
Кому выгодно, что приватные сервисы закрываются? Крупным игрокам без строгих ограничений на сбор данных. Конфиденциальность — это дорого и сложно, а большинство пользователей привыкло отдавать информацию в обмен на удобство. Уход нишевых защитников упрощает жизнь гигантам, которые монетизируют данные и не хотят тратиться на лишнюю безопасность.
Что делать, если я использую автоматизацию в работе? Пока вы лично контролируете критические действия агента — особенно те, что связаны с деньгами и доступом к системам. Если программа редактирует код или проводит платежи, настраивайте подтверждение каждого шага вручную. Юридически защищённых прецедентов для случаев, когда автоматизация «сходит с ума», пока нет, и компенсировать ущерб вам придётся самостоятельно.
Мы не знаем, какие именно нарушения правил уже случались на практике и как суды за рубежом или в России будут разрезать такие споры — прецедентов просто ещё нет.
Читайте также
Искусственный интеллект внедряется на стройках. Но делает ли он рабочих безопаснее? КНДР отвергла западные санкции: почему это не про ваш кошелёк
Источники
TechCrunch_AI — Ollie, ИИ-ассистент с упором на приватность, закрывается: CNBC_World — Кто несёт ответственность за нарушения правил ИИ-агентами?:
Читайте нас там, где удобно вам
Комментарии
Оставить комментарий