Когда смотреть не на очередной запуск модели, а на фон, картина вокруг AI становится даже интереснее. Несколько свежих графиков и работ показывают, что направление отрасли всё сильнее задают не только сами модели, но и устройство институтов, поток капитала и правила, по которым AI-системы выпускают в мир.

Создание передовых AI-систем остаётся сосредоточенным в узком круге организаций

График Our World in Data показывает, что заметные AI-системы по-прежнему создаются в относительно небольшом наборе организационных типов и команд. Это важно не только как вопрос концентрации рынка: вместе с такой концентрацией сужается и круг тех, кто задаёт приоритеты по безопасности, открытости, ценам и доступу.

Если эту структуру не размывают новые игроки, то будущее AI всё сильнее определяется решениями немногих крупных центров силы, а не широким соревнованием подходов.

Источник: Our World in Data

Частные инвестиции в AI уже выглядят как сила макроуровня, а не просто как история про стартапы

Ещё один график Our World in Data показывает, насколько крупными стали потоки частного капитала в AI. Главный вывод здесь в том, что траекторию отрасли всё сильнее формирует не только научный прогресс, но и сама концентрация финансирования: у кого есть доступ к деньгам, тот чаще получает доступ и к вычислениям, и к лучшим командам, и к праву задавать темп рынку.

Из-за этого разговор об AI всё труднее сводить к качеству моделей в отрыве от собственности, инфраструктуры и инвестиционной власти.

Источник: Our World in Data

Повторно используемые AI-«навыки» для аналитиков данных могут быть менее полезны, чем обещает хайп

В этой работе авторы проверяют, помогают ли сгенерированные большими языковыми моделями файлы с повторно используемыми «навыками» в типичных задачах аналитики данных — от подготовки данных и запросов до анализа и отчётности. Результат получился отрезвляющим: в 7 560 прогонах такие заготовки не показали устойчивого преимущества над обычной постановкой задачи.

Это важный сигнал для рынка агентов: сама упаковка опыта в красивые повторно вызываемые блоки ещё не гарантирует прироста качества, и часть нынешнего ажиотажа вокруг «памяти» и «навыков» может заметно опережать реальные доказательства пользы.

Источник: arXiv

В многоагентной безопасности правила развёртывания могут менять исход не меньше, чем сама модель

Авторы этой работы про «институциональное красное командование» показывают, что коллективная безопасность AI зависит не только от возможностей модели, но и от правил, по которым агентов запускают и наказывают за последствия. В 33 924 смоделированных играх одно лишь изменение правила последствий сдвигало среднюю смертность на 22–58 процентных пунктов.

Практический вывод очень приземлённый: безопасность — это не только фильтры и обучение модели, но и продуктовые, управленческие и организационные решения вокруг неё. То, как именно система встроена в среду, может оказаться не менее важным, чем то, насколько она умна сама по себе.

Источник: arXiv