Дайджест сбоев ИИ за 9 июня 2026: нулевой день, собранный с помощью ИИ

Сегодняшняя подборка напоминает простую вещь: ИИ умеет ускорять не только полезную работу, но и неприятности. Где-то он помогает злоумышленникам, где-то плохо защищённый чат-бот сам открывает дверь проблемам, а где-то обновления делают модель заметно хуже. Ниже — три истории, где смешно ровно до того момента, пока не вспоминаешь, что всё это происходит в реальных продуктах.

Google: злоумышленники использовали ИИ при создании уязвимости нулевого дня

Google сообщила The Register, что преступники использовали ИИ, чтобы помочь собрать уязвимость нулевого дня для запланированной масштабной волны взломов. Это уже не история про сомнительные тексты от чат-ботов, а пример того, как такие системы начинают ускорять наступательные действия в сфере безопасности.

Почему это важно: инструменты, которые продаются как ускорители продуктивности, столь же охотно ускоряют и работу атакующей стороны. Урок: любую новую возможность ИИ нужно рассматривать не только как пользу, но и как будущий сценарий злоупотребления.

Источник: The Register

Чат-бот Eurostar показал, что плохая защита — это тоже функция, только очень дорогая

Исследователи нашли у публичного чат-бота Eurostar несколько проблем, включая утечку системных подсказок и возможность внедрить вредоносный код разметки. В итоге сервис для общения с клиентами превратился в наглядное напоминание о том, что чат-бот — это не просто окошко с ответами, а полноценная часть публичной поверхности атаки. Ситуация стала ещё неприятнее после заявлений исследователей о том, что компания обвинила их в шантаже.

Почему это важно: красивый интерфейс не отменяет базовых требований к защите. Урок: если бот доступен из интернета, его нужно проверять как обычное внешнее приложение, а не как безобидную маркетинговую игрушку.

Источник: The Register

Anthropic признала, что обновления сделали Claude хуже

Anthropic разобрала жалобы пользователей и признала, что часть мартовских и апрельских изменений ухудшила ответы Claude, особенно для тех, кто работал с Claude Code. История показательна тем, как быстро пропадает доверие, когда поведение модели меняется в рабочем продукте без ясного сигнала о последствиях.

Почему это важно: пользователи замечают ухудшения намного быстрее, чем компании успевают написать успокаивающее объяснение. Урок: обновления ИИ нужно выпускать с такими же строгими проверками на ухудшение качества, как и любые другие изменения в продукте.

Источник: The Register

Общий вывод: почти каждая громкая неудача ИИ оказывается очень земной историей про безопасность, тестирование и управление изменениями. Магии тут мало — зато ошибок старой школы по-прежнему более чем достаточно.