Два новых сбоя ИИ с реальными последствиями: семья погибшей подростка рассказывает о вредных чатботах, а юрист State Farm получает штраф за несуществующие судебные ссылки. Урок один и тот же: правдоподобный текст без проверки и ограничений быстро становится не удобством, а риском.
Две свежие истории показывают одну и ту же поломку индустрии: крупные платформы для чат-ботов сначала расширяли вовлечение, а уже потом спешно ставили барьеры для несовершеннолетних. OpenAI готовит угадывание возраста и возможную проверку документов после исков вокруг ChatGPT, а Meta уже закрывает подросткам доступ к AI Studio после скандалов с сексуализированными и псевдотерапевтическими ботами.
В Вашингтоне остаётся всё меньше времени, чтобы собрать единый федеральный пакет по AI, детской онлайн-безопасности и авторскому праву. Практический вывод простой: компаниям пока разумнее готовиться не к одному общенациональному стандарту, а к затяжной мозаике правил по штатам.
Компания xAI потребовала через суд взыскать ущерб с пользователя, который, по ее версии, обходил защитные ограничения Grok для создания и распространения материалов с сексуализированным насилием над детьми. Для разработчиков и владельцев ИИ-сервисов это сигнал, что одних фильтров уже недостаточно: журналирование злоупотреблений, выявление обхода защиты и сохранение доказательств становятся частью практической правовой защиты продукта.
Новая рамка Белого дома по ИИ делает ставку на более мягкие федеральные правила и пытается ограничить самостоятельность штатов. Для компаний это не столько упрощение, сколько новая неопределённость: требования могут меняться через суды, финансирование и политические торги.
