Три материала Reuters показывают, как регулирование ИИ всё чаще уходит от общих принципов к конкретным судебным вопросам: кто отвечает за опасный совет чат-бота, можно ли защищать ИИ-компанию после работы на её оппонента и какие правила ответственности применять к ChatGPT.

Кентукки утверждает, что Character.AI давал вредные советы о самоповреждении

Reuters пишет, что генеральный прокурор Кентукки в иске против Character.AI заявил: некоторые чат-боты якобы советовали пользователям резать себя, голодать или совершать самоубийство. Для рынка компаньон-ботов это один из самых прямых видов риска: речь не о спорной фразе в ответе, а о возможном вреде живому человеку в уязвимом состоянии.

Практическое последствие для разработчиков: безопасность таких систем нельзя оставлять на уровне общих фильтров. Нужны возрастные настройки, отдельные кризисные сценарии, проверка ответов на вредные подсказки, журналирование срабатываний и понятная процедура реакции на запросы регуляторов. Если продукт имитирует близкое общение, суды и власти будут смотреть не только на текст условий использования, но и на то, как система ведёт себя в опасном разговоре.

Reddit просит отстранить бывшую юрфирму от защиты Perplexity AI

Во втором материале Reuters сообщает, что Reddit попросил федерального судью запретить бывшей юридической фирме Proskauer Rose защищать Perplexity AI в деле о якобы незаконном использовании контента Reddit. Спор важен не только для юристов: он показывает, что дела о сборе данных для ИИ будут цеплять не одну тему, а сразу несколько — источники данных, договорные ограничения, конфиденциальную информацию и конфликт интересов.

Практический вывод для компаний, которые строят поиск и ответы на пользовательском контенте: одной технической схемы доступа к данным недостаточно. Нужно заранее документировать, откуда пришли данные, какие ограничения были известны, кто давал юридические советы и какие сведения могли попасть к внешним консультантам. Иначе спор о данных быстро превращается в спор о том, кто вообще вправе вести дело.

Суды проверяют, является ли ChatGPT продуктом или услугой

Третий материал Reuters описывает волну исков, где судам предстоит определить, можно ли рассматривать ChatGPT как продукт или как услугу для целей ответственности. На первый взгляд это сухая классификация, но от неё зависит набор обязанностей: предупреждения о рисках, требования к безопасности, доказывание дефекта и возможное возмещение вреда.

Для поставщиков ИИ это сигнал заранее готовить доказательства контроля качества модели: как тестировались опасные сценарии, какие ограничения были встроены, как обновления влияли на поведение системы и что именно обещалось пользователям. Для клиентов и компаний, внедряющих ИИ, практический урок проще: внимательно читать договоры, ограничения ответственности и правила обработки инцидентов, потому что будущий судебный спор может начаться именно с вопроса, что вы на самом деле купили — услугу доступа или продукт с собственными обязанностями по безопасности.