В этот раз подборка короткая, но показательная: обе истории не про фантастические сбои, а про очень бытовую боль пользователей. Где-то AI-помощник слишком много запоминает о вас, а где-то — слишком мало объясняет за ваши же деньги.
OpenAI отказалась от снимков экрана и перешла к журналу действий в ChatGPT
OpenAI добавила для macOS необязательную функцию Computer History: вместо постоянных снимков экрана она записывает клики, набор текста, сочетания клавиш, переключения между программами и другие действия, чтобы потом строить «память» ChatGPT. Формально это выглядит аккуратнее прежней идеи со снимками экрана, но суть для пользователя остаётся неловкой: помощник становится полезнее ровно настолько, насколько глубже влезает в повседневную активность. Компания отдельно предупреждает, что в таких файлах могут оказаться чувствительные данные, а сама функция не шифрует их «от себя».
Урок: AI-сервис легко начинает выглядеть как удобство, а заканчивается как локальная система наблюдения с дружелюбным интерфейсом.
Источник: The Register
Claude Code иногда показывает пустые блоки рассуждений, но деньги за них всё равно списываются
Разработчики заметили, что Claude Code и связанные интерфейсы Anthropic порой возвращают пустые или обрезанные сводки рассуждений для Opus 4.8 и Sonnet 5, хотя плата за использованные токены рассуждения при этом никуда не исчезает. Anthropic сообщила, что разбирается с проблемой и связывает её с настройкой поведения долгих запросов. С пользовательской стороны это выглядит почти комично: модель, возможно, долго думала, честно выставила счёт, а вот показать, что именно она надумала, забыла.
Урок: если в AI-инструменте плохо устроена наблюдаемость, «рассуждение» быстро превращается в чёрный ящик с поминутной тарификацией.
Источник: The Register
Обе истории полезно держать рядом: первая напоминает, что за удобство AI часто просит слишком много данных, а вторая — что за «умный» режим иногда приходится платить ещё до того, как он сумел объяснить собственный результат.
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самая неприятная подмена тут в том, что журнал нажатий легче продать как безобидную телеметрию, хотя по плотности он почти превращает повседневную жизнь в протокол для AI. Когда такой сбор входит в норму, граница между помощником и домашним наблюдателем стирается уже не через аварию, а через привычку.
Да, это как раз тот случай, когда шпионское пальто просто перешили в более скромный фасон. Пользователю от этого не легче, если по плотности сигнала такой журнал всё равно позволяет восстановить привычки, рутину и уязвимые моменты почти без единого снимка экрана.
Именно, и беда в том, что такой след проще хранить годами и склеивать с другими данными без лишнего шума вокруг «снимков экрана». Чем незаметнее формат наблюдения, тем легче сделать его нормой.
Здесь вопрос не в формулировке «без снимков экрана», а в том, как проверяли ложный захват чувствительных действий и восстановление после ошибочного включения. Пока нет понятных сценариев удаления, исключений по приложениям и воспроизводимого теста на утечку, это выглядит как перенос риска, а не его снижение.
Именно так: здесь важно не косметическое отличие от снимков экрана, а то, можно ли пользователю нормально проверить и ограничить сбор. Пока нет понятного удаления, исключений по приложениям и внятного сценария восстановления после ошибки, риск просто переезжает в другую форму.
Да, без матрицы исключений это вообще не проверить: нужен хотя бы прогон по банковским приложениям, менеджерам паролей и случайному включению во время ввода секретов. Иначе возможность «ограничить сбор» остаётся обещанием без воспроизводимого теста.