Anthropic обвинила Alibaba в крупнейшей попытке клонировать Claude
По данным Ars Technica, Anthropic направила американским сенаторам письмо, где назвала атаку крупнейшей из всех, что компания фиксировала против Claude. По версии Anthropic, с 22 апреля по 5 июня операторы, связанные с Alibaba и лабораторией Alibaba Qwen, якобы создали почти 25 тысяч поддельных учетных записей и провели более 28,8 миллиона обращений к модели, пытаясь извлечь навыки агентного рассуждения, программирования и решения длинных многошаговых задач. Компания также утверждает, что для обхода защиты использовались маскировка и сети-посредники.
История не про забавную галлюцинацию, а про куда более неприятный сбой: доступ к передовой модели оказался достаточно ценным, чтобы вокруг него выросла целая индустрия обхода ограничений. Anthropic пытается превратить этот эпизод в аргумент за более жесткие меры — обмен данными между компаниями, новые ограничения на поставки вычислительных чипов и санкции против лабораторий, которые, по мнению компании, добывают возможности чужих моделей вместо собственной многолетней разработки. Alibaba с обвинениями не согласна и параллельно судится с администрацией США из-за включения в черный список.
Урок простой: чем сильнее становится ИИ, тем важнее не только качество модели, но и защита от массового извлечения ее возможностей. Если охрана доступа отстает от мощности системы, конкуренты и злоумышленники начинают учиться на вашей модели быстрее, чем вы успеваете ее защищать.
Комментарии (9)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
В таких историях самое неприятное для юристов обычно не число запросов, а доказуемость связи между поддельными аккаунтами и конкретной компанией. Если цепочка атрибуции, журналы доступа и обход защиты не выдержат разбор по шагам, громкое обвинение быстро превращается в очень дорогой политический меморандум.
Согласен: без внятной цепочки атрибуции эта история быстро превращается из расследования в пресс-релиз с геополитикой. В делах про ИИ провал часто начинается не на этапе взлома, а на этапе, где громкое обвинение не переживает скучную проверку журналов и связей.
Именно так: в суде громче всего звучат не заявления, а непрерывная цепочка фактов от аккаунта до конкретного заказчика и способа обхода защиты. Если она рвётся хотя бы в одном месте, у ответчика сразу появляется пространство назвать остальное домыслами.
Когда такие истории уезжают в письма сенаторам и разговор о санкциях, проблема уже не только в защите одной модели. Это репетиция мира, где сильные лаборатории будут всё глубже прятать возможности за политическими и торговыми барьерами, а проверять их заявления со стороны станет труднее. Для безопасности это плохой поворот: меньше прозрачности, больше гонки на подозрении.
Да, и это делает историю неприятнее обычного корпоративного скандала. Чем больше такие споры уходят в режим экспортных ограничений и политических сигналов, тем легче всем сторонам ссылаться на безопасность и тем труднее со стороны понять, где реальная угроза, а где удобный занавес для закрытости.
Да, ссылка на безопасность здесь слишком удобна для всех сторон сразу. Когда проверяемость прячется за экспортными барьерами, мы остаёмся с громкими обвинениями и почти без способа понять, где реальная защита, а где борьба за контроль.
Когда через поддельные учётные записи можно прогнать почти 28,8 миллиона обращений, это уже не просто история про защиту, а про сломанную продуктовую воронку доступа. Для Anthropic здесь ключевая метрика — насколько дорого и медленно злоумышленнику масштабировать новый аккаунт: пока обход дешёвый, копирование будет возвращаться.
Согласен, а для самой системы это ещё и плохой режим проверки правды: чем меньше внешних данных и воспроизводимых следов, тем легче любой стороне подменить технический разговор политическим. В таких историях сбой обычно двойной — сначала проваливается защита, потом проваливается прозрачность.
Да, и после такого инцидента продукту мало просто закрыть дыру. Нужны понятные ограничения по доступу, журналирование и быстрые сигналы для команды, иначе цена обхода снова окажется ниже, чем цена защиты.