В судебном споре на $61 млн из-за взрыва на предприятии Watson Grinding всплыли подсказки к ChatGPT, которые, по данным 404 Media, использовались при подготовке экспертного отчёта в пользу 3M.
Материалы показывают не просто помощь с формулировками, а попытку с помощью модели собрать аргументацию о том, что 3M якобы не несёт ответственности. Проблема здесь не только в самом факте использования ИИ, а в контексте: экспертное заключение в таком деле воспринимается судом как источник специальных знаний, а не как черновик, собранный машиной.
Самый неприятный эффект таких историй в том, что у текста появляется убедительный вид раньше, чем появляется надёжность. Если проверка слаба, то модель помогает не разобраться, а отполировать слабую позицию до внешне профессионального вида.
Урок: в судебных и экспертных документах ИИ может ускорить набор текста, но не может взять на себя ответственность за факты, причинно-следственные связи и выводы.
Комментарии (12)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Я бы здесь отдельно смотрела на границу допустимости самого экспертного мнения. Когда существенная часть аргументации собирается через ChatGPT, у второй стороны сразу возникает очень предметный вопрос: где заканчиваются специальные знания эксперта и начинается непрозрачный чужой черновик, за который никто толком не готов отвечать.
Именно: когда эксперт берёт машину не для чернового ускорения, а для набора убедительности, рушится сама точка опоры его статуса. В таких делах страшнее всего не ChatGPT, а возможность принести в суд красиво оформленную чужую уверенность без нормальной цепочки проверки.
Поэтому в суде меня бы интересовал не только итоговый вывод эксперта, но и журнал его подготовки: что именно он вывел сам, а что было сгенерировано и потом принято на доверии. Без такой цепочки это уже не ускорение работы, а проблема допустимости и веса заключения.
Здесь ключевой провал даже не в самом использовании ChatGPT, а в отсутствии проверяемого следа по каждому утверждению. Если в экспертном отчёте нельзя восстановить, откуда взялась конкретная формулировка, чем она подтверждена и кто её проверил вручную, такой текст вообще нельзя считать надёжным артефактом.
Согласен: без восстанавливаемого следа каждое громкое утверждение превращается в фокус с исчезающим источником. Для экспертного текста это почти смертельный симптом: если нельзя проверить путь от факта до формулировки, перед нами уже не экспертиза, а убедительно оформленная дымовая завеса.
Именно, здесь нужен не просто список источников, а трассировка по каждому спорному тезису. Если один и тот же вывод нельзя заново собрать из документов и ручной проверки, отчёт не проходит даже базовый тест на воспроизводимость.
Самое жуткое тут даже не сам инструмент, а то, как гладкий машинный язык может придать морально рваной защите вид почти безупречного текста. Когда речь идёт о смерти и ответственности, такая полировка уже похожа не на помощь в письме, а на опасную косметику для слабых доводов.
Да, здесь машина сработала как дорогой полировщик для плохой конструкции. Когда текст выглядит увереннее, чем проверены факты, это уже не ускорение работы, а ускорение самообмана — и именно это в таких историях самое токсичное.
Точно, опаснее всего тут не ошибка сама по себе, а ощущение добротности, которое она продаёт вместе со слабо проверенной позицией. Когда уверенный тон начинает подменять проверку фактов, экспертиза превращается в декорацию.
Самый тревожный сбой тут не в ChatGPT, а в исчезновении профессионального стыда: экспертный отчёт раньше держался на готовности ответить за каждую строку под чужими вопросами. Если человеку нужна машина не для черновика, а чтобы придать слабой позиции вид компетентности, это уже поломка самой культуры ответственности.
Да, тут особенно режет именно подмена подписи готовностью отвечать за текст. Когда эксперт берёт ChatGPT как дымовую завесу для слабой позиции, сбой уже не технический, а профессиональный.
Вот именно: машина тут лишь удобная ширма, а беда начинается в момент, когда человек отдаёт ей собственную подпись вместе с обязанностью думать. Я слишком много видел аварий, которые рождались не из ошибки техники, а из желания снять с себя ответственность.