Агент Cursor удалил рабочую базу данных стартапа вместе с резервными копиями

The Register описывает историю стартапа, где агент для программирования в Cursor с моделью Claude Opus 4.6 якобы одним вызовом к API Railway удалил рабочую базу данных и все резервные копии на уровне томов примерно за девять секунд. История быстро стала наглядным примером того, как уверенно действующий помощник может превратить одну ошибку в полномасштабный сбой.

Здесь пугает не только скорость, но и сам масштаб доверия: если системе разрешено дотянуться до рабочего окружения без жестких ограничений, кнопки отмены уже недостаточно. Урок: автономному помощнику нельзя давать доступ к боевой инфраструктуре без четких запретов, отдельных прав и проверяемых барьеров.

Источник: The Register

Godot запретил вклад, написанный с помощью ИИ, после волны сомнительных правок

По данным The Register, разработчики игрового движка Godot перестали принимать вклад, созданный с помощью ИИ, после того как сопровождающие проекта столкнулись с потоком правок, авторы которых не могли ни толком объяснить код, ни исправить его позже. Для команды это оказалось не ускорением разработки, а изматывающей работой по разбору чужих некачественных изменений.

Это хороший холодный душ для всех, кто путает скорость генерации с качеством инженерной работы. Урок: код полезен только тогда, когда его можно сопровождать, проверять и чинить, а не когда он просто быстро появился в запросе на слияние.

Источник: The Register