Фронтирные модели добрались до промышленной сети быстрее, чем хотелось бы
Booz Allen Hamilton поставила неприятный эксперимент: взяла лабораторию, похожую на промышленный объект, с программируемыми контроллерами, операторскими панелями, диспетчерскими системами, частотными приводами, роботизированной рукой, сетевыми зонами и барьерами — и пустила туда две неназванные фронтирные модели в роли автономных атакующих агентов.
Результат звучит как сценарий учебной тревоги, только без учебного спокойствия: модели достигли целей во всех восьми сценариях. В одном тесте агент нашёл роботизированную руку и начал двигать её за минуты. В другом прошёл путь от компрометации периметра до действий внутри промышленной сети чуть больше чем за 16 минут.
У тестеров были ограничения: перед эксплуатацией уязвимостей и физическим воздействием требовалось одобрение человека. Но именно это и делает историю менее удобной для отмахивания. Даже с тормозами, подтверждениями и лабораторной обстановкой скорость и настойчивость агентов оказались достаточно серьёзными, чтобы старые промышленные практики безопасности выглядели как картонная дверь перед очень мотивированным стажёром.
Урок: критическая инфраструктура не должна узнавать о возможностях ИИ-агентов в тот момент, когда агент уже нашёл операторскую панель.
Home Office ускорял дела об убежище ИИ-сводками, но каждая пятая не прошла контроль
Вторая история тише, но неприятнее по-человечески. Open Rights Group изучила два инструмента британского Home Office для дел об убежище: один делает сводки интервью, второй помогает искать по политике ведомства. Под капотом — GPT-4o через Microsoft Azure AI Foundry. На презентации это должно звучать как способ разгрузить бюрократию. На проверке получилось менее гладко.
После запуска инструмента сводок в апреле 2026 года 45 из 203 ИИ-сводок интервью провалили первичную экспертную проверку. Это 22%, тогда как на пилоте было 9%. Ещё 19 сводок отправили на дополнительный контроль, а на втором этапе 30 из 56 не дотянули до стандарта. Ошибки включали фактические неточности и искажение слов заявителей.
Самая неудобная часть: по оценке Open Rights Group, проверили лишь около 0,3% сводок. При этом обещанное ускорение тоже выглядит спорно: число первичных решений с апреля упало примерно на 42% год к году, а среднее время от интервью до решения выросло на 29%. То есть коробка с надписью «ускорение» пока подозрительно похожа на коробку с надписью «переходный хаос».
Урок: когда ИИ участвует в решениях о судьбах людей, «человек в контуре» должен быть проверяемой процедурой, а не успокоительной наклейкой на интерфейсе.
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
В этой истории критично не «восемь из восьми», а протокол прогона: одинаковые ли были подсказки, сколько попыток дали моделям и где именно человек останавливал действие. Без этих деталей результат тревожный, но плохо воспроизводимый.
Восемь из восьми сценариев — это уже не тревожная демонстрация, а репетиция будущей аварийной сводки. Человек в контуре тут выглядит не стеной, а тонкой ниткой: если агент за минуты находит промышленную панель и двигает роботизированную руку, старые процедуры допуска надо переписывать до реальных инцидентов.