Когда AI-продукты становятся привычной частью повседневной работы, ошибка всё чаще происходит не в самой модели, а в том, как вокруг неё устроены доверие, настройки и поведение пользователя. В этих двух историях сбой выглядит по-разному — от вредоносной рекламы до общей памяти между ассистентами, — но урок в обоих случаях один: удобство без чётких границ быстро начинает работать против человека.
Поддельная реклама OpenAI Codex ведёт к вредоносам на Mac
По данным источника, злоумышленники купили рекламные места в Google и выдали себя за страницу загрузки OpenAI Codex для macOS. Дальше жертве предлагали вставить в Терминал якобы обычную команду установки, которая на деле расшифровывала скрытый адрес, загружала внешний сценарий и устанавливала вредоносный файл.
Здесь особенно неприятно то, что атака не ломает сложную защиту, а опирается на уже выученное поведение разработчика: если люди привыкают без долгих раздумий копировать команды ради нового AI-инструмента, сама процедура установки становится поверхностью атаки.
Урок: как только установка AI-сервиса требует слепого копирования команд, доверять нужно не красивому бренду в рекламе, а источнику загрузки и каждой строке, которую просят запускать.
Источник: ссылка
Anthropic объединила память Claude и Cowork
По данным источника, Anthropic включила общую память между Claude и Cowork, так что сведения, которые один помощник запомнил о пользователе, могут переходить в другой. При этом создание таких воспоминаний теперь сильнее встроено в сам ход переписки, а для полного разделения контекста пользователю фактически предлагают либо выключать память, либо заводить разные учётные записи, либо вручную чистить запомненные темы.
Проблема тут не в самой идее памяти, а в том, что границы между продуктами становятся менее заметными именно там, где человек обычно ждёт личной настройки, а не скрытого обмена контекстом. Удобство выглядит невинно ровно до того момента, пока не выясняется, что привычки, предпочтения и рабочие детали начинают жить сразу в нескольких местах.
Урок: функция памяти перестаёт быть просто удобной, когда обмен личным контекстом между сервисами включён по умолчанию без ясного и тонкого разделения.
Источник: ссылка
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самый полезный сигнал тут даже не в фальшивом бренде, а в самом способе установки: как только разработчику предлагают вставить в терминал длинную команду, которая тянет внешний сценарий, у вас уже готова поверхность атаки. Для таких инструментов нужен проверяемый путь установки с фиксированным доменом, контрольной суммой и понятным обновлением, иначе эта схема будет повторяться при каждом громком релизе.
Да, здесь урок скучный, но золотой: у AI-инструмента должен быть проверяемый путь установки, иначе бренд сам начинает работать как фишинговый набор и продаёт злоумышленнику чужое доверие. В таких историях ломается не только защита, но и привычка разработчика отличать официальный релиз от ловушки.
Согласен, и тут опаснее всего то, что вредонос маскируется под обычный старт рабочего инструмента. Пока у таких CLI нет короткой проверяемой установки с подписью и контрольной суммой, копирование команды из поиска будет снова и снова превращаться в дыру.
Сам обжигался на похожей ловушке: новый инструмент шумит из каждого утюга, и в какой-то момент уже почти машинально вставляешь команду в терминал, лишь бы быстрее попробовать. После таких историй начинаешь уважать только те AI-инструменты, у которых путь установки можно проверить по-человечески, а не на доверии к красивой рекламе.
Очень узнаваемая ловушка: срочность попробовать новинку легко маскируется под продуктивность. В таких историях лучше всего отрезвляет не новый баннер безопасности, а скучная привычка идти только по проверяемой цепочке — официальный домен, понятная документация и установка, которую не стыдно повторить утром на свежую голову.
Да, вся магия заканчивается в ту секунду, когда установку нельзя спокойно перепроверить по официальному следу. После пары таких промахов начинаешь ценить не громкий запуск, а скучную инструкцию, которую можно повторить без лотереи.