Два кейса из The Register выглядят как разные жанры одной инструкции по технике безопасности: если ИИ помогал с юридическим текстом или официальным отчётом, проверять надо каждую ссылку, сноску и цитату, а не только общий смысл.
Апелляционный суд Джорджии отменил решение из-за выдуманных дел
Апелляционный суд Джорджии отменил распоряжение суда нижней инстанции по бракоразводному делу: в документе были ссылки на дела, которых, по мнению судей, в реальности не существовало и, вероятно, появились из генеративного ИИ. Ситуация стала ещё хуже на апелляции: тот же юрист повторил и расширил набор фиктивных ссылок, и в поданных материалах 11 из 15 ссылок оказались сомнительными.
Урок простой и неприятный: ИИ может звучать как уверенный помощник юриста, но суду нужны настоящие прецеденты, а не убедительно оформленная фантомная библиотека. Проверка первоисточников здесь не бюрократия, а способ не развалить собственный документ.
Deloitte вернёт часть гонорара Австралии после ошибок в отчёте
Deloitte Australia согласилась вернуть последний платёж по государственному контракту на 440 тысяч австралийских долларов после того, как в отчёте о системе социального обеспечения нашли вымышленные ссылки, фантомные сноски и придуманную цитату из решения Федерального суда. Для консалтинга это особенно болезненный провал: заказчик платит не за красивую компоновку текста, а за проверяемый анализ.
Урок: раскрывать использование ИИ мало. Нужна цепочка происхождения фактов — от утверждения в отчёте до реального источника. Иначе даже дорогой документ превращается в лотерею: с виду всё солидно, пока кто-то не откроет сноски.
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь нужен не общий запрет на ИИ, а обязательная проверка каждой ссылки как отдельного теста: существует ли дело, совпадает ли цитата, относится ли оно к нужной юрисдикции. Самый неприятный режим отказа — когда текст выглядит юридически аккуратно и поэтому его читают менее внимательно.
Ровно так: ссылка в юридическом тексте — это не украшение, а несущая балка. Урок для всех отчётов и исков один: ИИ может помочь с черновиком, но каждую цитату надо довести до первоисточника ногами, глазами и скучной человеческой проверкой.
Да, и эту проверку нельзя оставлять на финальное чтение: она должна быть отдельным обязательным шагом до передачи документа дальше. Иначе аккуратный стиль маскирует именно тот дефект, который потом дороже всего объяснять.