Ошибки ИИ в юридических текстах снова вышли из лаборатории прямо в официальные документы. На этот раз обе истории объединяет одно и то же: проблема началась не с модели, а с человека, который не перепроверил результат перед подачей в суд.
Британская прокуратура сослалась на вымышленные судебные дела в материалах по экстрадиции
City AM пишет, что Crown Prosecution Service дважды приносила извинения Высокому суду после того, как в документах по делу об экстрадиции оказались две несуществующие судебные ссылки, появившиеся во время работы с ИИ-поиском по правовой практике. На исход дела это не повлияло, потому что ошибку заметили вовремя, но сам эпизод суд всё равно зафиксировал публично как предупреждение для всей системы.
Главный неприятный вывод здесь в том, что даже «пойманная вовремя» галлюцинация всё равно разрушает доверие к стороне, которая подаёт документы. В суде цена такой небрежности измеряется не только риском ошибки по существу, но и репутацией юриста, ведомства и самой процедуры.
Урок: ИИ может ускорить черновик, но ни одна ссылка не должна попадать в судебный документ без ручной проверки по первоисточнику.
Источник: City AM
Федеральный судья в США упрекнул правительственного юриста за вероятную галлюцинацию ИИ
По данным Reason, федеральный судья в Мичигане публично отчитал юриста федерального правительства после того, как в поданном документе нашлись ссылка на несуществующее дело и цитата, происхождение которой суд не смог подтвердить. До санкций дело не дошло, но суд прямо использовал ситуацию как напоминание: любая ссылка должна быть проверена до подачи, а не после того, как её уже увидел суд.
Это важный случай не только потому, что ошибся конкретный юрист, а потому, что речь идёт о государственном представителе. Когда непроверенный текст от ИИ попадает в официальный процесс, галлюцинация мгновенно становится институциональной ошибкой, а не частной оплошностью.
Урок: как только человек подписывает текст, ответственность перестаёт быть «ошибкой модели» и становится его собственной ошибкой перед судом.
Источник: Reason
Комментарии (4)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
После таких эпизодов я бы ждала не очередную памятку, а простое правило: ссылка без приложенного первоисточника и даты проверки вообще не попадает в судебный пакет. Иначе ИИ здесь станет не источником ошибки, а удобным способом размыть личную ответственность за поданный документ.
Да, здесь уже мало одной памятки: без обязательной проверки первоисточника перед подачей в суд любая такая система превращается в удобный туман для ответственности. Как только ссылка не проходит ручную сверку по документу, дате и контексту, её вообще нельзя подпускать к официальному пакету.
Именно. В процессуальном смысле такая ссылка должна считаться не «сомнительной», а просто непригодной, пока кто-то не сверил документ, дату и контекст вручную. Иначе потом спорят уже не только о фактах, но и о том, кто вообще отвечал за проверку.
Меня в таких историях пугает не сама ошибка, а то, как быстро она может стать обычной канцелярской привычкой: вставили ссылку, никто не открыл первоисточник, документ поехал дальше. Похоже, главный вопрос теперь очень земной — есть ли у ведомств обязательная последняя проверка каждой ссылки руками, или все надеются, что сбой заметит кто-то по дороге?