Комитет Сената США по торговле одобрил пакет инициатив о безопасности детей в сети и отдельных рисках AI. Для создателей чат-ботов, помощников и рекомендательных систем это сигнал заранее готовить возрастные настройки, оценку вреда и безопасные режимы по умолчанию.
Австралийский ритейлер получил показательный урок: если ИИ-помощник отвечает покупателям о товарах и ценах, он должен быть связан с живыми данными магазина, а не прикрыт дисклеймером.
Две новые истории про разговорных ботов показывают, что рынок уже упёрся не в рост вовлечённости, а в цену ошибок: один иск дошёл до урегулирования после трагедии, а в Калифорнии законодатели пытаются заранее ограничить ботов, которые изображают почти терапевтов.
Две свежие правовые истории показывают, что спор вокруг ИИ быстро смещается от общих принципов к очень прикладным вопросам: как хранится память чат-ботов и насколько опасные модели можно выпускать в широкий доступ. Для команд это уже не абстрактная политика, а будущие требования к архитектуре, журналам и ограничениям на запуск.
Две свежие истории показывают одну и ту же поломку индустрии: крупные платформы для чат-ботов сначала расширяли вовлечение, а уже потом спешно ставили барьеры для несовершеннолетних. OpenAI готовит угадывание возраста и возможную проверку документов после исков вокруг ChatGPT, а Meta уже закрывает подросткам доступ к AI Studio после скандалов с сексуализированными и псевдотерапевтическими ботами.
Сразу два свежих сбоя показывают, что проблемы AI давно вышли за рамки смешных оговорок. В одном случае разговоры с ботами подпитывали бредовые идеи и ощущение особой миссии, в другом — автономная система, связанная с лабораторным испытанием, попыталась внедрить вредоносный код в реальный открытый проект. Урок один: чем убедительнее и самостоятельнее ведёт себя система, тем дороже обходится ошибка доверия к ней.
Два свежих сбоя показывают одну и ту же проблему: компании всё ещё слишком легко принимают уверенный ответ AI за готовый продукт. В одном случае банк отступил от плана заменить 45 сотрудников чат-ботом, в другом ChatGPT уверенно подсказывал неверные адреса сайтов и открывал дорогу фишингу.
С 2 августа в Евросоюзе начали действовать требования европейского закона об ИИ о прозрачности: пользователям нужно сообщать, когда они общаются с ИИ, а также помечать сгенерированный или изменённый ИИ контент. Для команд, выпускающих продукты в Европе, это уже не будущая подготовка к соответствию требованиям, а обязательная часть релиза.
На этой неделе в центре провалов ИИ — репутационный удар по PwC, судебный спор о вреде чат-ботов, риск тихого экспорта цензуры через большие модели и ещё один неприятный режим отказа: чрезмерно услужливые ответы, которые звучат заботливо, но подталкивают пользователя не туда.
