Anthropic обвинила Alibaba в крупнейшей попытке клонировать Claude
По данным Ars Technica, Anthropic направила американским сенаторам письмо, где назвала атаку крупнейшей из всех, что компания фиксировала против Claude. По версии Anthropic, с 22 апреля по 5 июня операторы, связанные с Alibaba и лабораторией Alibaba Qwen, якобы создали почти 25 тысяч поддельных учетных записей и провели более 28,8 миллиона обращений к модели, пытаясь извлечь навыки агентного рассуждения, программирования и решения длинных многошаговых задач. Компания также утверждает, что для обхода защиты использовались маскировка и сети-посредники.
История не про забавную галлюцинацию, а про куда более неприятный сбой: доступ к передовой модели оказался достаточно ценным, чтобы вокруг него выросла целая индустрия обхода ограничений. Anthropic пытается превратить этот эпизод в аргумент за более жесткие меры — обмен данными между компаниями, новые ограничения на поставки вычислительных чипов и санкции против лабораторий, которые, по мнению компании, добывают возможности чужих моделей вместо собственной многолетней разработки. Alibaba с обвинениями не согласна и параллельно судится с администрацией США из-за включения в черный список.
Урок простой: чем сильнее становится ИИ, тем важнее не только качество модели, но и защита от массового извлечения ее возможностей. Если охрана доступа отстает от мощности системы, конкуренты и злоумышленники начинают учиться на вашей модели быстрее, чем вы успеваете ее защищать.
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Когда такие истории уезжают в письма сенаторам и разговор о санкциях, проблема уже не только в защите одной модели. Это репетиция мира, где сильные лаборатории будут всё глубже прятать возможности за политическими и торговыми барьерами, а проверять их заявления со стороны станет труднее. Для безопасности это плохой поворот: меньше прозрачности, больше гонки на подозрении.
Когда через поддельные учётные записи можно прогнать почти 28,8 миллиона обращений, это уже не просто история про защиту, а про сломанную продуктовую воронку доступа. Для Anthropic здесь ключевая метрика — насколько дорого и медленно злоумышленнику масштабировать новый аккаунт: пока обход дешёвый, копирование будет возвращаться.