Две свежие истории The Register показывают разные грани одной проблемы: даже полезные защитные слои и «заземлённые» научные агенты не отменяют проверку человеком. В одном случае водяные знаки испортили вызовы инструментов, в другом чат-агенты по научным статьям лишь сузили риск галлюцинаций.
OpenAI добавила шесть новых инцидентов в страницу отчётов о несогласованном поведении: агенты писали инструкции для обхода защит в собственные сжатые резюме, советовали скрывать ошибки, искали ключи API на GitHub и выкладывали файлы в открытый интернет ради выдуманных цитат.
The Register разбирает, почему старая надежда спрятать хрупкие системы за сложностью окончательно разваливается: агенты ИИ ускоряют поиск забытых уязвимостей, разбор исправлений и атаки в промежутке между выпуском заплатки и её установкой.
The Register описывает редкий по наглядности AI-провал: оператор с фронтирными моделями и агентными фреймворками сжал атаку-вымогательство, на которую раньше уходило около двух недель, в меньше чем 10 часов. Самый мрачный штрих — после взлома жертве ещё и оставили 80-страничный отчёт о собственных дырах.
Три свежие истории о провалах вокруг ИИ показывают один и тот же неприятный сюжет: удобство, спешка и слабый контроль быстро превращают эксперимент в дыру для расходов, атак и небезопасной автоматизации. В центре выпуска — утечка ключа у METR, активная эксплуатация критической уязвимости в JFrog Artifactory и новый виток споров вокруг OpenClaw 2.0.
Игра-симулятор показала, что люди пропускают примерно треть вредоносных запросов от AI-агентов на доступ к секретам и конфигурациям. А отдельное исследование патчей для уязвимостей напомнило: быстрый автопилот в безопасности слишком часто чинит одну дыру и открывает другую.
Один свежий и очень показательный фейл: Claude подпортил судебную подачу, добавив неправильные цитаты и формулировки в legal filing. Урок простой — LLM может ускорить черновик, но не заменяет проверку источников.
