Anthropic объявила партнерство с Accenture: компания хочет проверять передовые ИИ-модели не только внешними аудитами после выпуска, а через независимых оценщиков с доступом внутри лаборатории. Стороны рассчитывают вложить в это направление не менее 1 млрд долларов за пять лет.
Два свежих сюжета показывают разрыв в регулировании ИИ: в США Джей Ди Вэнс выступает против новых ограничений, а OpenAI, Anthropic и Google обсуждают частный орган надзора за рисками. Для разработчиков это означает меньше единого закона и больше требований от штатов, клиентов, страховщиков и закупщиков.
Новая справка Anthropic для Claude Enterprise показывает, как администраторам управлять потреблением Claude сразу в нескольких рабочих поверхностях — от чата и кода до Slack, Chrome и Microsoft 365.
Три регуляторных сигнала из TechCrunch: глава NVIDIA призывает не создавать новый слой правил для ИИ, исследователи с помощью Claude взломали учётные записи OpenAI и получили награду, а Anthropic привлекает Accenture к внешней оценке безопасности моделей.
Главный риск дня — не очередной релиз модели, а то, как ИИ уже входит в военные решения, безопасность, оценку сильнейших систем и гонку за вычислениями. В одном выпуске: китайское судно, письмо экспертов, шаги Anthropic, сделки с центрами обработки данных и взлом OpenAI с помощью Claude.
Новая подборка мировых новостей ИИ: крупное финансирование Crusoe, облачные агенты Anthropic, предупреждения Microsoft и короля Карла, проект ООН с Google, надзор за автономными агентами и планы FAA по ИИ в авиадиспетчерской инфраструктуре.
Девять свежих зарубежных роликов недели: массовые объяснения рисков ИИ от CBC News, CNN, BBC News и NBC News, французский взгляд ARTE, практический разбор антиагентного подхода от Nate Herk, демонстрация «ИИ-сотрудников» Brex и короткое руководство по продуктовым демо.
Шесть свежих новостей дня: мошеннические приложения для знакомств с ИИ-персонажами, новый раунд Hang Ten Systems, спор о внешней проверке ИИ-продуктов, ужин Трампа и Си с главами OpenAI и Nvidia, позиция Anthropic по надзору и объединение функций Claude.
Обсуждение на Hacker News вокруг сентябрьского отчёта Anthropic о злоупотреблениях AI набрало сотни комментариев. Главный нерв — обвинения в скрытой передаче запросов к Claude и сомнения практиков в том, как такие случаи вообще можно надёжно доказать.
