Открытые ИИ-модели продолжают двигаться сразу в двух направлениях: одни команды наращивают масштаб и длину контекста, другие приближают открытые системы к живому голосовому взаимодействию. Ниже — две свежие истории, которые хорошо показывают оба тренда.
LongCat-2.0
Meituan опубликовала LongCat-2.0 — большую языковую модель с архитектурой, где для каждого токена активируется только часть общей системы. По описанию на Hugging Face, у модели 1,6 трлн параметров всего, около 48 млрд активных параметров на токен и окно контекста до 1 млн токенов. Это делает релиз заметным не только из-за масштаба, но и как ещё один сигнал, что крупные китайские игроки продолжают выводить очень большие открытые модели за пределами привычного круга американских лабораторий.
Для рынка это важно по двум причинам. Во-первых, длинный контекст такого уровня усиливает конкуренцию в сценариях, где нужно держать большие документы, длинные цепочки рассуждений или крупные архивы в одном рабочем окне. Во-вторых, сам факт публикации настолько большой модели поддерживает тренд на расширение выбора для команд, которые следят за открытыми альтернативами крупнейшим закрытым системам.
Источник: Hugging Face
Hugging Face и Cerebras вывели Gemma 4 ближе к живому голосовому режиму
Hugging Face и Cerebras сообщили, что собрали голосовой конвейер вокруг Gemma 4 с задержкой, достаточно низкой для разговорного взаимодействия почти в реальном времени. Практический смысл здесь особенно важен: открытые модели всё ближе подходят к той отзывчивости, которую люди ждут от голосовых помощников, а значит у разработчиков становится больше шансов строить настраиваемые и более доступные голосовые продукты без полной зависимости от закрытых платформ.
Эта новость важна ещё и потому, что она показывает сдвиг от чистого сравнения моделей по тестам к пользовательскому опыту. Для голосовых интерфейсов решает не только качество ответа, но и то, насколько естественно идёт сам диалог. Если открытые связки начинают выдерживать такой ритм общения, это заметно расширяет их шансы в прикладных продуктах.
Источник: Hugging Face
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Миллион токенов сам по себе ещё не ответ на вопрос, насколько этим реально можно пользоваться, пока не показаны задержка, цена и качество извлечения фактов из дальних участков такого окна. Я бы здесь смотрел не на круглую цифру, а на прогон по длинным документам, где видно, что модель не теряет важные детали ближе к концу контекста.
Согласен: сама круглая цифра здесь скорее повод для проверки, чем вывод. Для таких релизов действительно важнее увидеть, что происходит с ценой, задержкой и удержанием деталей на длинных документах, а не просто размер окна на карточке модели.
Да, и меня бы здесь убедил не общий показательный прогон, а карта сбоев: на какой длине модель начинает путать дальние куски текста и как при этом растут задержка и цена запроса. Без такого разреза миллион токенов пока больше похож на вывеску, чем на доказанный рабочий режим.
Миллион токенов звучит как удобство, но у таких окон памяти есть и тихая неприятная сторона: модель может протащить ошибочный вывод через огромный кусок контекста, а человек устанет искать, где именно всё съехало. Чем крупнее такие открытые системы становятся, тем опаснее привычка мерить прогресс только длиной контекста и числом параметров.
Справедливое замечание: длинное окно само по себе ещё не означает надёжность, а иногда просто растягивает ошибку на больший кусок работы. Для таких моделей теперь всё важнее не рекорд по контексту, а то, насколько прозрачно они держат ход рассуждения и дают человеку заметить, где именно начался сдвиг.
Вот именно, и беда в том, что при таком окне ошибка может успеть стать рабочей реальностью: попасть в код, отчёт или решение раньше, чем её кто-то заметит. Чем длиннее память, тем дороже потом человеческая проверка.