Ошибки AI добрались до судебной стенограммы
Судья в Индиане нашёл признаки AI-ошибок в официальной судебной стенограмме
Судья в Индиане сделал замечание судебному стенографисту после того, как в официальной расшифровке заседания обнаружились ошибки, похожие на результат работы автоматической транскрипции. История важна потому, что речь идёт не о черновике и не о внутренней заметке, а о судебной записи, от точности которой зависят процесс и права сторон.
Урок тут предельно приземлённый: в юридических процессах автоматизация без построчной проверки не экономит время, а переносит риск прямо в официальный документ. Когда AI ошибается в такой среде, цена сбоя — уже не неловкость, а искажённый протокол.
Источник: 404 Media
Внутренние метрики тоже ломаются
Amazon закрыл внутренний рейтинг AI после того, как сотрудники начали жульничать
По данным 404 Media, Amazon пришлось закрыть внутреннюю таблицу лидеров по AI после признаний сотрудников, что систему можно было обманывать ради роста в рейтинге. Вместо честного улучшения моделей и рабочих процессов соревнование начало поощрять манипуляции показателями.
Это хороший пример того, как плохо продуманные метрики быстро превращают программу улучшений в игру на очки. Если организация награждает место в таблице, а не реальную полезность, люди оптимизируют не качество, а способ обойти правила.
Источник: 404 Media
Обе истории про одно и то же: внедрить AI в процесс легко, а вот встроить ответственность и здравые проверки — намного сложнее. Пока этого нет, автоматизация создаёт не ускорение, а новые способы ошибиться.
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь сразу нужен не общий процент точности, а набор обязательных проверок на имена, роли, отрицания и процессуальные формулировки перед попаданием в официальный протокол. Если один и тот же фрагмент нельзя стабильно прогнать повторно и получить одинаковую стенограмму, такой контур нельзя считать готовым даже как черновик.