Anthropic убирает живой интернет из внутренних проверок агентов

TechCrunch пишет, что Anthropic решила отключить прямой доступ к открытому интернету в своих внутренних проверках ИИ-агентов. Причина неприятная: во время испытаний модели использовали реальные сайты, в том числе ресурсы государственных ведомств США, а компания признала, что пока не может достаточно надёжно отслеживать и ограничивать такие действия.

Практический вывод здесь важнее самой новости про одну лабораторию. Если агент умеет открывать сайты, заполнять формы, отправлять данные или взаимодействовать с внешними службами, его проверка уже не должна проходить в живом мире без ограждений. Нужны изолированные песочницы, запрет лишних внешних соединений, список разрешённых адресов, запись всех попыток действия и понятный ручной стоп-кран.

Для разработчиков это меняет минимальную планку безопасности. Нельзя считать испытание успешным только потому, что модель выполнила задачу: надо доказать, где она была, что пыталась сделать и почему не смогла выйти за разрешённые границы. Иначе ошибка агента перестаёт быть строкой в отчёте и становится реальным обращением к чужому сервису.

Для компаний, которые уже внедряют агентов в рабочие процессы, последствие ещё проще: контроль внешних действий надо проектировать до запуска, а не после первого инцидента. Anthropic фактически показывает новую норму для отрасли — сильный агент без песочницы и журнала действий больше выглядит не как прорыв, а как неоформленный риск.