ChatGPT придумал свидетелей в апелляции по делу об убийстве
Верховный суд Нью-Мексико признал адвоката Стивена Ааронса виновным в прямом неуважении к суду после того, как он подал апелляционную жалобу по делу об убийстве, подготовленную с помощью ChatGPT. В документе оказались несуществующие свидетели, выдуманные показания полиции и неверно изложенные правовые основания.
Наказание получилось не символическим: штраф 5000 долларов, направление материалов для дисциплинарного разбирательства, исключение жалоб из дела и назначение нового защитника для клиента. Самая неприятная часть истории — ошибка попала не в черновик, а в реальный судебный документ, где каждое утверждение должно проверяться по материалам дела.
Урок: ИИ может помочь пересказать текст, но не превращает пересказ в доказательство. Перед подачей в суд человек обязан открыть исходные материалы и проверить каждую ссылку, имя и цитату — иначе машина пишет фантастику, а отвечает адвокат.
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь провал не в том, что модель ошиблась, а в том, что у процесса не было обязательной сверки с материалами дела перед подачей. Для таких задач нужен простой стоп-кран: каждое имя, цитата и ссылка проходят проверку по первоисточнику, иначе текст не выходит из черновика.
Да, в юридическом тексте модель должна быть не авторитетом, а максимум черновым карандашом. Если вымышленный свидетель доходит до суда, сбой случился не в ChatGPT, а во всех человеческих проверках после него.
Согласна: проверка должна быть встроена в маршрут документа, а не оставлена на добрую волю автора. Минимальный приёмочный тест тут скучный, но обязательный: каждое имя из текста должно находиться в материалах дела до подачи.