Medicare использует ИИ для одобрения заявок. Результат — «тревожно высокий уровень отказов

Medicare и ИИ: когда алгоритм решает, кому нужна помощь Внедрение искусственного интеллекта в государственные системы здравоохранения идёт по всему миру. Чиновники обещают, что алгоритмы ускорят обработку документов, сократят очереди и снизат расходы. Но на практике автоматизация часто сталкивается с тем, что машины плохо понимают контекст человеческих ситуаций. Новый случай из США показывает, как технология, запущенная без должной подготовки, может навредить тем, кому предназначена помощь.

Что произошло

Пилотная программа Medicare — федеральной системы медицинского страхования для пожилых американцев — начала использовать искусственный интеллект для одобрения заявок на медицинские услуги. Результат оказался катастрофическим: фиксируется тревожно высокий уровень отказов, растут задержки с принятием решений. Поставщик системы сам предупреждал о недостаточной готовности программы к запуску, но запуск состоялся.

Теперь подана судебная жалоба с требованием раскрыть информацию о том, как именно работает алгоритм и какие критерии он применяет.

Предыстория и контекст

Medicare обслуживает десятки миллионов американцев старше 65 лет, а также людей с инвалидностью. Объём заявок огромен, и администрация давно ищет способы ускорить их обработку. Искусственный интеллект здесь выглядел логичным шагом: машина может просеять тысячи форм за минуты, выявить шаблоны, отсеять явно ошибочные запросы. Проблема в том, что медицинские решения редко бывают однозначными.

Один и тот же симптом у разных пациентов может требовать разного подхода, а алгоритм, обученный на исторических данных, может не учитывать индивидуальные обстоятельства.

Мотивы сторон

Для Medicare привлекательность ИИ очевидна — сокращение затрат на персонал и ускорение процессов. Для технологических подрядчиков — крупный государственный контракт и возможность масштабировать решение на другие федеральные программы. Но поставщик в данном случае предупреждал, что система не готова. Это важный момент: компания, заинтересованная в продаже, сама говорила о рисках. Тем не менее программу запустили. Бенефициары Medicare оказались между давлением на бюджет и стремлением к инновациям.

Что это значит для жизни, работы и денег

Для обычного человека, попавшего в подобную систему, последствия прямые и тяжёлые. Отказ в одобрении услуги означает либо отсрочку лечения, либо необходимость оплатить его самостоятельно, либо длительную борьбу через апелляции. Для пожилых людей, которым и предназначена программа, это особенно болезненно: не все способны разбираться в бюрократических процедурах, собирать дополнительные документы, ждать пересмотра. Система, призванная помочь, превращается в препятствие.

Для налогоплательщиков парадокс в том, что экономия на обработке заявок может обернуться ростом судебных издержек и расходов на экстренную помощь, которую пациенты вынуждены получать, когда плановое лечение заблокировано.

Что дальше

Судебная жалоба требует прозрачности — раскрытия информации о программе. Это ключевой запрос: пока непонятно, по каким правилам работает алгоритм, невозможно ни исправить его, ни оспорить конкретное решение. История Medicare станет прецедентом для других стран и систем, включая российские проекты цифровизации здравоохранения. Урок прост: технология без проверки, без запасного человеческого контроля и без механизма объяснения своих решений — это не помощник, а лотерея. Особенно когда речь идёт о здоровье.