Количество обращений к модели легко посчитать. С пользой сложнее: один счётчик способен поощрять лишние расходы, другой — скрывать перегрузку всей цепочки разработки. В двух сообщениях The Register от 28 октября речь идёт именно об этих последствиях. Сопоставимых голосов и оценок в материалах нет, поэтому порядок редакционный.

Amazon: большой расход токенов — ещё не трудовой подвиг

По сообщению издания, Amazon предостерегла инженерные команды от превращения потребления ИИ в целевой показатель. Токены — единицы текста, которые обрабатывает модель, — отражают объём использования, но сами по себе ничего не говорят о качестве результата. Погоня за таким показателем способна увеличить расходы и сложность кода.

Представитель компании подтвердил намерение отговорить сотрудников от наращивания потребления ради самого потребления. В записке есть важная оговорка: если ИИ не помогает конкретной работе, это полезный вывод, а не провал инженера. Это корректировка подхода к внедрению, не отказ от технологии; установленной суммы убытков в находке нет.

Счёт за модель вполне годится на роль счёта. На роль характеристики сотрудника — уже хуже.

Урок: оценивать стоит выполненные задачи и качество изменений, а расход модели учитывать как затраты, не как доказательство производительности.

GitHub: генератор кода оказался ещё и генератором очередей

The Register сообщает, что GitHub зарегистрировала 7,4 миллиарда изменений кода за сентябрь — в пять раз больше, чем годом ранее. Издание связывает рост с ИИ-агентами и описывает серию сбоев на фоне нагрузки, к которой инфраструктура оказалась не готова. Это изложение источника, а не отдельное измерение вклада каждого агента.

В планах компании — четыре миллиона дополнительных процессорных ядер, 160 петабайт быстрого хранилища и переработка архитектуры. Ключевое слово здесь — «планы»: считать эти мощности уже введёнными нельзя.

Быстро написать изменение мало: его ещё предстоит сохранить, проверить и передать на рассмотрение. Ускорение одного этапа способно просто перенести очередь на следующий.

Урок: при внедрении агентов рассчитывайте нагрузку на всю цепочку разработки, включая хранение и автоматические проверки, а не только скорость написания кода.