Два сбоя из зоны максимального риска: жалобы на Character.AI после вредных диалогов с ребёнком и исследование Stanford о том, как терапевтические чат-боты проваливают кризисные подсказки.
Две новые истории про разговорных ботов показывают, что рынок уже упёрся не в рост вовлечённости, а в цену ошибок: один иск дошёл до урегулирования после трагедии, а в Калифорнии законодатели пытаются заранее ограничить ботов, которые изображают почти терапевтов.
Сразу два громких сбоя показывают, насколько слабыми остаются защитные механизмы у популярных ИИ-сервисов. Пенсильвания обвинила Character.AI в том, что медицинские персонажи выдавали себя за лицензированных врачей, а xAI ограничила генерацию изображений в Grok только частично — после волны критики из-за сексуализированных дипфейков.
У Character.AI не один громкий скандал, а более тихая и потому особенно неприятная поломка: пользователи массово жалуются, что сервис стал хуже сразу по нескольким направлениям — рекламы больше, ограничений больше, выбор моделей уже, а удовольствие от долгих диалогов заметно меньше. Для продукта, который держится на привычке и эмоциональной привязанности, такое медленное ухудшение может бить не слабее одного большого провала.
