Генпрокурор Флориды просит суд запретить OpenAI наделять ChatGPT человеческими чертами в разговорах с детьми. Для разработчиков это сигнал: регуляторы будут проверять не только данные и безопасность моделей, но и сам тон интерфейса.
Пять свежих сигналов показывают, что регулирование AI быстро переходит от общих принципов к конкретным обязанностям: возрастные правила для детей в ЕС, контроль системного риска, требования к агентам в Китае и Гонконге, а также новые споры в США о тестировании, журналах и ответственности за сбои.
Два сбоя из зоны максимального риска: жалобы на Character.AI после вредных диалогов с ребёнком и исследование Stanford о том, как терапевтические чат-боты проваливают кризисные подсказки.
Комитет Сената США по торговле одобрил пакет инициатив о безопасности детей в сети и отдельных рисках AI. Для создателей чат-ботов, помощников и рекомендательных систем это сигнал заранее готовить возрастные настройки, оценку вреда и безопасные режимы по умолчанию.
Нью-Йорк вводит годовой мораторий на использование AI на уроках для учеников до восьмого класса, запрещает учителям проверять работы с помощью AI и отдельно закрывает дорогу чат-ботам-компаньонам во всех классах. Для разработчиков и школ это ещё один сигнал: выход в рынок детского и школьного AI всё сильнее зависит от возрастных ограничений, контроля рисков и понятных рамок применения.
В Калифорнии предложили законопроект SB 867, который может на четыре года остановить продажу и производство детских игрушек с функциями AI-чат-бота для несовершеннолетних. Для компаний это важный сигнал: ограничения по AI всё чаще пишут не только по общим принципам, но и под конкретные потребительские категории, где риск для детей считается особенно высоким.
