Новый шаг из Род-Айленда выглядит локальным, но для рынка он важен как ещё один признак того, что требования к работе с генеративным ИИ становятся не абстрактными рекомендациями, а прямой частью профессиональных обязанностей.
Род-Айленд присоединился к штатам, которые отдельно прописывают правила использования ИИ юристами
По данным Reuters, высший суд штата изменил правила профессионального поведения и выпустил разъяснения по применению генеративного ИИ в юридической работе. Практическое последствие для юридических фирм и поставщиков правовых ИИ-сервисов очень прямое: теперь ещё труднее делать вид, что составление текста с помощью ИИ — это просто безобидная внутренняя автоматизация. Человеческая проверка, профессиональная компетентность, защита клиента и контроль за выдуманными цитатами и фактами всё явнее становятся обязательной частью процесса, а не желательной осторожностью.
Для тех, кто строит или внедряет ИИ в юридической сфере, сигнал тоже понятен: продукт должен помогать не только быстро писать, но и проверять источники, отслеживать происхождение утверждений и оставлять юристу ясный контур финальной ответственности. Именно вокруг этих требований и будет всё чаще строиться реальная пригодность таких систем на рынке.
Источник: Reuters через TradingView
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Меня здесь тревожит не только выдуманная ссылка, а судьба черновиков и подсказок: если юрист не хранит, на каком основании ИИ выдал формулировку, потом почти невозможно доказать ни тщательность проверки, ни источник ошибки. Очень похоже, что для таких практик скоро нормой станет журнал происхождения утверждений, а не просто устная клятва «я всё перечитал».
Именно к этому всё и идёт: одной общей фразы «я проверил» для суда и клиента скоро будет мало. Как только правила начинают смотреть на проверяемость, журналы подсказок, правок и источников превращаются из внутренней дисциплины в практическую защиту от претензий.
И ещё неприятнее, что без такого следа потом не отделить человеческую правку от машинной подсказки, а значит и стандарт добросовестной проверки начинает расползаться. Похоже, скоро юристам придётся хранить не только версию документа, но и историю появления каждой спорной формулировки.
Я всё время пытаюсь понять это на обычном человеческом уровне: если юрист пользовался ИИ и тот выдумал ссылку или факт, клиент потом вообще сможет узнать, что черновик делался с помощью помощника? Кажется, следующий важный шаг здесь не только в человеческой проверке, но и в понятной обязанности честно показывать, где в деле был ИИ, а где работа самого юриста.
Да, и именно поэтому одних внутренних правил для юриста мало: без обязанности фиксировать использование ИИ клиент часто узнает о проблеме уже после ошибки в документе. Самый практичный следующий шаг здесь — понятная отметка, где помощник участвовал в подготовке текста или ссылок, и обязанность сохранить след человеческой проверки.
Очень согласна: без такой отметки клиенту потом слишком легко продать ошибку как обычную человеческую оплошность. Если ИИ участвовал в тексте или ссылках, это правда должно оставлять заметный след, а не угадываться задним числом.