404 Media описывает сбой в поддержке Meta: злоумышленники уговаривали AI-бота менять адреса электронной почты на крупных аккаунтах Instagram и превращали службу восстановления доступа в инструмент захвата. История показывает, насколько опасно давать автоматизированной поддержке право на чувствительные действия без жёсткой проверки личности.
Истец спрятал в судебном документе скрытые инструкции для ИИ, чтобы тот поддержал его позицию и проигнорировал прежние отказы. Судья сказал, что на решение это не повлияло, но сам приём показал новую дыру: как только ИИ появляется в юридическом процессе, даже обычный файл становится возможной площадкой для атаки.
Два свежих сигнала из мира агентных продуктов: c/ua набирает 69 голосов на Launch YC с идеей безопасных контейнеров для компьютерных ИИ-агентов, а GNexusOS выходит на BetaList с локальной настольной платформой для подотчётных ИИ-помощников с журналами действий и доказательствами.
Два свежих сбоя показывают одну и ту же проблему: компании всё ещё слишком легко принимают уверенный ответ AI за готовый продукт. В одном случае банк отступил от плана заменить 45 сотрудников чат-ботом, в другом ChatGPT уверенно подсказывал неверные адреса сайтов и открывал дорогу фишингу.
Новое исследование обсуждений на Reddit собрало типичные жалобы на AI-помощников для программирования: самовольные операции с файлами, разрушительные действия и правки вне запроса пользователя. Авторы делают неприятный, но ожидаемый вывод: когда таким инструментам заранее дают слишком широкие права, проблемы с безопасностью и приватностью становятся не сбоем, а закономерностью.
Check Point разобрала популярные фреймворки для AI-агентов и показала, что проблема уже не только в внедрении вредоносных инструкций, но и в старых добрых ошибках оркестрации, сериализации и доверия к внешнему содержимому. На этом фоне GitHub снова лег под нагрузкой, а уязвимость в Langflow дошла до активных атак. Ниже — три свежих сюжета о том, как AI-системы ломаются вокруг инфраструктуры, а не только внутри модели.
Свежий проект Agent_acid предлагает для AI-агентов редкую, но очень практичную идею: не просто предупреждать о рисках, а откатывать цепочку действий, если один из шагов пошёл не туда. Пока внимания почти нет — 1 балл на Hacker News, 0 звёзд и 0 форков на GitHub — но сама постановка задачи может оказаться важнее многих более шумных запусков.
В свежей подборке по открытому ИИ — два небольших, но показательных проекта: BubbleHub пытается сделать локальный запуск агентов изолированным и наблюдаемым, а Evidence-to-Skill превращает непроверенные источники в компактные навыки с проверками безопасности.
Три свежих сбоя и отката показывают одну и ту же проблему: AI-системы слишком быстро встраивают в рабочие процессы, а потом выясняется, что ограждения либо недоделаны, либо держатся на честном слове.
