В этот раз в центре внимания не просто забавные промахи, а истории, где ошибки сразу бьют по доверию к продукту и по реальным данным людей.

Сбой в rsync после изменений с участием Claude вызвал скандал вокруг ИИ-помощи в критичном коде

В материале о rsync 3.4.3 говорится, что пользователи сообщили о сломанных инкрементальных резервных копиях, а обсуждение быстро ушло в спор о том, насколько допустима помощь ИИ в инструменте, от которого зависят рабочие схемы резервирования во множестве систем на Unix и Linux. Дополнительное раздражение вызвал сам факт, что сбой затронул именно программу из разряда «сломать нельзя», где любая ошибка сразу бьет по базовому доверию.

Почему это важно: когда ломается резервное копирование, разговор про аккуратное использование ИИ перестает быть теорией и становится вопросом доверия к базовой инфраструктуре. Урок простой: чем критичнее программа, тем строже должны быть проверка изменений, воспроизводимые тесты и человеческая ответственность за итоговый код.

В приложении на платформе Lovable нашли базовые уязвимости и утечку данных 18 тысяч пользователей

Во втором сюжете исследователь сообщил, что в приложении, размещенном через Lovable, было найдено 16 уязвимостей, из них шесть критических. По его данным, из-за отсутствия базовых ограничений доступа и логической ошибки без авторизации можно было получить доступ к данным более чем 18 тысяч пользователей. История особенно показательна тем, что внешне такие продукты часто выглядят готовыми и аккуратными, хотя под капотом не проходят даже простейшую проверку безопасности.

Почему это важно: ИИ может быстро собрать работающий интерфейс и логику, но он не подменяет архитектуру доступа, разграничение прав и нормальную проверку безопасности перед выпуском. Урок здесь еще жестче: если нет человеческого аудита, контроля ролей и проверки доступа на уровне данных, демонстрационная скорость очень легко превращается в производственную аварию.

Обе истории хорошо показывают общий предел нынешней автоматизации: чем дороже цена ошибки, тем опаснее путать скорость сборки с надежностью. ИИ полезен как инструмент ускорения, но в критичных местах он пока не отменяет ни ревью, ни тестирование, ни здравый страх перед последствиями.