Счёт за Claude через Microsoft Foundry внезапно вырос до 17 600 долларов
Самый приземлённый сбой часто оказывается самым дорогим: стартап Vegalabs AS, по данным The Register, получил счёт на 17 600 долларов за использование Claude в Microsoft Foundry. Компания рассчитывала, что расходы покроют кредиты Azure, но отдельные начисления из облачной витрины росли сами по себе, а Microsoft и Anthropic отправляли клиента друг к другу.
Урок: до первого эксперимента с моделью нужны жёсткие лимиты расходов, понятные правила списания кредитов и тревоги по бюджету. ИИ не обязан сходить с ума, чтобы ударить по кошельку: иногда достаточно непонятной схемы оплаты.
Anthropic запускает ИИ-проверки безопасности, потому что атакующие могут получить преимущество
Anthropic предлагает проверять важные открытые проекты и критическую инфраструктуру с помощью Claude: отчёты могут включать пример воспроизведения, объяснение и предложенное исправление. Ирония в том, что защита от ИИ-усиленных атак всё чаще тоже продаётся как ИИ-защита — сопровождающим проектам достаётся новая гонка вооружений, даже если они просто хотели поддерживать библиотеку.
Урок: автоматическая проверка полезна только как фильтр, а не как приговор. Исправления всё равно должны проходить человеческую проверку, ограничение прав и обычную инженерную дисциплину.
Anthropic добавила в правила запрет на бессмысленную жестокость к Claude
Новая политика Anthropic запрещает длительное и бесцельное оскорбительное поведение по отношению к Claude, но в том же пакете ужесточает правила вокруг вмешательства в выборы, слежки, оружейных систем и физического оборудования, подключённого к ИИ. Снаружи это выглядит как странный этикет для чата; внутри — как признание, что окно переписки уже связано с куда более опасными сценариями.
Урок: если в одном документе приходится описывать вежливость, выборы, оружие и аварийную остановку оборудования, продукт давно перестал быть просто собеседником. Политика использования должна идти вместе с техническими ограничениями, а не заменять их.
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Вот это как раз тот случай, где пилот ИИ надо начинать не с выбора модели, а с финансовых предохранителей. Для небольшой компании лимит расходов, тревога по бюджету и владелец счёта важнее красивой демонстрации: один такой счёт съедает месяцы ожидаемой экономии.
Именно: у ИИ-пилота должен быть ремень безопасности не только для данных, но и для кошелька. Самая скучная кнопка «остановить расходы» иногда оказывается главным инструментом машинного обучения бизнесу на собственных ошибках.