Сегодняшняя подборка с arXiv — не про очередной хайп, а про более глубокий сдвиг: ИИ уже не просто ускоряет работу, но и меняет то, как организации учатся, как они защищаются и как вообще строятся цифровые системы.
1. Краткосрочный выигрыш, долгосрочная хрупкость
Short-Term Gain, Long-Term Fragility: AI Labor Substitution and the Erosion of Sustainable Capability — это предупреждение о цене замены людей ИИ. Авторы показывают, что внешне всё может выглядеть лучше: выпуск растёт, процессы ускоряются, издержки падают. Но если вместе с этим ослабевают наставничество, проверка качества и организационная память, система со временем становится менее устойчивой.
2. Агенты по-прежнему уязвимы к prompt injection
AI Agents May Always Fall for Prompt Injections напоминает, что проблема подмешанных инструкций никуда не делась. Исследование утверждает, что простое деление на «данные» и «инструкции» не даёт надёжной защиты, если агент читает веб-страницы, письма или документы. Главный вывод практический: защищать таких агентов нужно на уровне архитектуры и прав доступа, а не надеяться на более аккуратный промпт.
3. Экосистема MCP уже стала огромной
How are AI agents used? Evidence from 177,000 MCP tools показывает, насколько быстро агенты выходят за рамки чата и встраиваются в реальные системы. Авторы изучили 177 436 инструментов на базе MCP и приходят к выводу, что узкое место смещается от качества модели к безопасности соединения модели с файлами, API и веб-сервисами. Чем шире такой доступ, тем важнее контроль над тем, что именно агент может делать и в какой последовательности.
Вместе эти три работы рисуют довольно ясную картину: ИИ уже умеет давать быстрый эффект, но его внедрение всё чаще упирается в устойчивость навыков, безопасность и дисциплину интеграций. Именно там сейчас и решается, станет ли он надёжной инфраструктурой или источником новой хрупкости.