Эксперт: искусственный интеллект не должен самостоятельно управлять городом

ИИ в городском управлении: почему эксперты требуют человеческого контроля Концепция «умного города» обещала нам бесперебойный свет, отсутствие пробок и мгновенное реагирование на аварии. За последние годы десятки мегаполисов внедрили алгоритмы в управление трафиком, энергосетями и коммунальными службами. Но по мере усложнения систем вокруг автоматизации разгорается спор о том, где проходит грань между помощником и самостоятельным решателем чужих судеб.

Глава IT-компании Луз выступил с резкой критикой идеи полностью автономного городского управления. По его словам, искусственный интеллект не должен получать неограниченные полномочия при принятии решений, затрагивающих жизнь миллионов людей. Позиция звучит провокационно на фоне маркетинговых заявлений вендоров, но отражает нарастающее беспокойство отрасли.

Почему вопрос встал сейчас

Технологии достигли точки, где технически возможно передать ИИ комплексные задачи: от перераспределения электроэнергии до координации экстренных служб при ЧС. Инвесторы и чиновники видят в этом способ сэкономить бюджеты и сократить чиновничий аппарат. Разработчики же предупреждают: алгоритмы хороши в узких сценариях, но город — это хаос непредсказуемых переменных, где ошибка машины масштабируется мгновенно и катастрофически.

Что стоит за позицией Луза

Аргументация строится на риске потери подотчётности. Когда человек принимает решение, существует цепочка ответственности: должностное лицо, надзорные органы, суд. Автономная система создаёт «размытую» ответственность — разработчик, заказчик или сам алгоритм? Кроме того, ИИ обучается на исторических данных, которые могут закодировать предвзятость: одни районы получают приоритет при авариях, другие — нет, и это никто явно не планировал.

Что это значит для вас

Для горожан спор транслируется в конкретные риски и выгоды. С одной стороны, человеческий контроль замедляет процессы и дороже обходится налогоплательщикам. С другой — страховка от ситуаций, когда алгоритм в пятницу вечером отключит отопление целому району из-за ошибки в прогнозе или «решит», что пробка на мосту — оптимальное распределение потоков. В перспективе речь идёт о том, кому вы доверяете право на ошибку: человеку, которого можно уволить и осудить, или машине, которую просто «переобучат».

Что будет дальше

Дискуссия Луза вписывается в глобальную повестку регулирования ИИ. Евросоюз уже требует прозрачности алгоритмов в критической инфраструктуре, в США Конгресс обсуждает аналогичные меры. Российские города — Москва, Санкт-Петербург, Казань — активно наращивают цифровизацию, но пока сохраняют человека «в контуре управления». Вопрос в том, устоит ли этот барьер под давлением экономии и технологического оптимизма.

Скорее всего, компромиссом станет модель «человек утверждает, машина предлагает» — медленнее, чем мечтают futurисты, но безопаснее, чем боятся скептики.