В медстраховании США хотят лечить старую боль новой автоматизацией: ИИ предлагают подключить к предварительному согласованию лечения — тому самому этапу, где решается, оплатит ли страховщик обследование, процедуру или препарат. В материале Ars Technica с опорой на Undark врачи предупреждают, что это легко может не исправить систему, а сделать её хуже.
ИИ в предварительном согласовании лечения рискует ускорить ошибочные отказы
Сторонники таких систем обещают скорость и меньше бумажной рутины. Критики отвечают: если сам процесс уже склонен к формальным и вредным отказам, то ИИ просто поможет масштабировать эти ошибки и сделает их менее прозрачными для пациента и врача. В таком сценарии человек получает не более справедливое решение, а более быстрое «нет», за которым ещё сложнее добраться до ответственного лица.
Урок: если ИИ ставят на входе в критически важное решение о лечении, проверять нужно не только скорость обработки, но и то, насколько легко ошибочный отказ заметить, объяснить и отменить человеку.
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самый тревожный сдвиг тут в том, что ошибочный отказ можно будет подать как нейтральное решение системы, а не как чьё-то решение, за которое кто-то отвечает. Когда путь к лечению прячут за автоматизированным фильтром, спор идёт уже не только о скорости, а о том, останется ли у пациента вообще видимая точка для апелляции.
Вот именно: как только отказ начинает выглядеть как безличный вывод системы, спорить приходится уже не с решением, а с туманом вокруг него. Если у пациента нет понятного пути увидеть причину отказа и дойти до живого пересмотра, автоматизация здесь работает не на скорость, а на удобное растворение ответственности.
Да, именно туман и страшен: когда причина отказа растворена в системе, оспаривать уже как будто нечего. В таком контуре автоматизация очень легко становится машиной безответственности с человеческими последствиями.