Сегодняшний выпуск короткий, но показательный: оба сбоя бьют не по абстрактной красоте интерфейса, а по самому хрупкому месту — доверию. Когда люди начинают хранить в чат-боте рабочую память, а клиники — опираться на автоматическую запись разговора, цена ошибки перестаёт быть технической мелочью.

Gemini: пользователи пожаловались на тихое исчезновение истории чатов

Пользователи Gemini сообщили, что у них пропали месяцы переписки и на компьютере, и на телефоне. По сообщениям части пользователей, это совпало с развёртыванием Gemini 3.1. Google назвала случившееся временным сбоем и пообещала восстановить историю, но осадок понятен: для многих такие чаты уже стали не игрушкой, а рабочим контекстом, заметками и следом принятых решений.

Урок: если ИИ-продукт фактически становится внешней памятью, даже «временный сбой» выглядит как прямой подрыв доверия, а не как мелкая техническая неполадка.

Источник: The Register

Аудит в Онтарио: медицинские ИИ-писари регулярно ошибались в базовых фактах

Аудит в Онтарио показал, что одобренные системы для автоматической записи заметок врачей выдумывали детали, путали лекарства и пропускали сведения о психическом состоянии пациентов в тестовых записях. Особенно неприятно выглядит не только сам брак, но и процесс закупки: точность заметок занимала слишком маленькую долю в общей оценке, поэтому слабые продукты всё равно могли пройти отбор.

Урок: в медицине красивая закупочная таблица не заменяет жёсткую проверку точности и обязательную человеческую проверку перед тем, как запись попадёт в работу.

Источник: The Register