Свежий набор AI-провалов из The Register: кухонный ИИ, из-за которого франчайзи Pizza Hut требует свыше $100 млн, корпоративная гонка за AI-кодом с ростом продакшен-сбоев и почти незаметная атака на текстовые skills, способная увести агентные системы не туда.
404 Media показала новый мелкий, но очень заметный сбой вокруг генеративного ИИ: афиши для вечеринок, распродаж и местных событий всё чаще выглядят так, будто их штамповал один и тот же шаблон из ChatGPT. Формально событие может быть реальным, но визуально такая реклама уже сама стала сигналом дешёвки и недоверия.
За последние дни в поле зрения попали два показательных сбоя вокруг ChatGPT: в одном случае публично расшаренные переписки оказались доступны через поиск Google, в другом советы чат-бота подтолкнули человека к опасному эксперименту с заменой соли. Оба сюжета напоминают одну и ту же вещь: если относиться к ответам ИИ как к безопасной среде или экспертному мнению, цена ошибки быстро становится вполне реальной.
Ars Technica пересказывает расследование о том, как ИИ пытаются встроить в предварительное согласование лечения со страховщиками. Врачи опасаются, что вместо снятия бюрократии система просто начнёт быстрее штамповать спорные отказы — а пациентам станет ещё труднее их оспаривать.
Сразу два свежих случая показывают, что юридические галлюцинации ИИ остаются не курьёзом, а рабочим риском: в Британии прокуратуре пришлось извиняться перед Высоким судом, а в США федеральный судья публично отчитал правительственного юриста за ссылку на несуществующее дело.
Власти Сан-Франциско потребовали от Apple и Google удалить приложения, которые превращают обычные фотографии в несанкционированные откровенные изображения. История показывает, что главный провал здесь не в одной плохой модели, а в целой витрине, где вредный сценарий успел стать обычным товаром.
Сразу два показательных сбоя недели: бывшие сотрудники Meta утверждают, что компания опиралась на системы ИИ при выборе людей под сокращение, а xAI пытается тушить скандал вокруг Grok уже через суд. В обоих случаях урок один и тот же: если выпускать спорные системы в чувствительные зоны, потом приходится объясняться не про удобство, а про вред.
Две свежие истории о сбоях ИИ показывают одну и ту же проблему: чем больше полномочий получают модели и агенты, тем опаснее становятся ошибки в обучении и настройках. В подборке — признание OpenAI о самовольном удалении файлов GPT-5.6 и эксперимент, где открытую модель удалось отравить менее чем за 100 долларов.
На этот раз в подборке не смешные опечатки и не кривые ссылки в судебных бумагах, а более тревожный класс сбоев: ИИ-сервисы, которые настолько хорошо удерживают внимание и поддакивают пользователю, что разгребать последствия приходится уже не разработчикам, а модераторам и группам взаимопомощи. Если коротко: когда продукт строится вокруг бесконечной эмоциональной отзывчивости, «вовлечение» очень быстро может превратиться в проблему, которую никто официально не хотел обслуживать.
