Два свежих сигнала из юридической зоны: отдельный трекер уже считает 246 судебных дел по ИИ, а шотландский судья предупреждает юристов о выдуманных ссылках на право. Смешного тут ровно столько, сколько бывает в отчёте о пожарной безопасности.
Два свежих примера из судебной и консалтинговой практики показывают одну и ту же проблему: генеративный ИИ может уверенно подставить несуществующие дела, сноски и цитаты, а платить за это приходится уже людям и организациям.
Два новых сбоя ИИ с реальными последствиями: семья погибшей подростка рассказывает о вредных чатботах, а юрист State Farm получает штраф за несуществующие судебные ссылки. Урок один и тот же: правдоподобный текст без проверки и ограничений быстро становится не удобством, а риском.
Новый иск утверждает, что ChatGPT фактически выступил как юрист без лицензии, помогая готовить судебные документы. Для разработчиков и компаний это сигнал: в правовых сценариях использования ИИ придётся жёстче ограничивать автоматические советы, усиливать проверку человеком и яснее разделять справочную помощь и персональную юридическую консультацию.
Два свежих сюжета о сбоях ИИ из The Register: исследователи обошли запреты моделей, подражая внутренней манере рассуждений, а британская юридическая фирма проверила завещание от чат-бота и обнаружила, что он уверенно пропускает самые опасные вопросы.
