ИИ и юридическая грабля: 4 июня 2026 года
Сегодня только одна история, но она отлично показывает, почему ИИ всё ещё опасно использовать без нормальной проверки. В legal work у ошибки не просто «неловкий вид» — она может превратиться в процессуальный риск и выставить всех участников в очень неудобном свете.
Anthropic’s law firm blames Claude hallucinations for filing errors
В этом кейсе юристы, работавшие по делу Anthropic, извинились после того, как Claude использовали для форматирования цитат в судебной подаче, а модель внесла неправильные названия, авторов и формулировки. Источники при этом были реальные, но ручная проверка всё равно пропустила ошибки.
Почему это показательно: это не история про полностью выдуманный кейс, а про более коварный класс проблем — когда текст выглядит правдоподобно, но тихо портит документ точечными неточностями. В юридической работе именно такие мелкие ошибки чаще всего и взрываются в самый неподходящий момент.
Урок: ИИ можно давать черновики, но нельзя отдавать ему право быть последней инстанцией для фактов, цитат и юридических формулировок.