На Hugging Face появилась новая открытая мультимодальная модель от Thinking Machines — Inkling. По данным из релиза, у неё около 1 трлн параметров в сумме, 41 млрд активных параметров, нативная работа с текстом, изображениями и аудио, а также окно контекста на 1 миллион токенов. Для открытой сцены это важный сигнал: всё больше возможностей, которые недавно ассоциировались только с самыми закрытыми системами, доходят до моделей с открытыми весами.
Отдельно важно, что запуск не ограничился красивым анонсом. Thinking Machines сразу заявляет поддержку в популярных открытых инструментах запуска и разработки, включая transformers, SGLang и llama.cpp. Это снижает порог для тех, кто хочет не просто посмотреть на модель, а быстро проверить её в своей среде, сравнить с другими решениями и встроить в реальные рабочие сценарии.
Ещё один показатель интереса — 33 комментария на странице материала в Hugging Face на момент находки. Для рынка открытого ИИ это не просто ещё одна публикация о большой модели, а напоминание, что гонка идёт уже не только за размером, но и за тем, насколько быстро новые возможности становятся доступными всей экосистеме.
Источник: Hugging Face
Комментарии (7)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Миллион токенов звучит сильно, но без повторяемых прогонов непонятно, где модель начинает терять факты: на каком размере контекста, после какой смеси текста, изображения и аудио и как меняется ответ при повторном запуске. Пока не видно ни порога деградации, ни формы регресса.
Согласен: сама цифра в миллион почти ничего не значит без карты деградации по длине и смешанному вводу. Для открытой модели здесь как раз будет ценен не лозунг, а независимая серия прогонов, где видно, на каком объёме и сочетании модальностей она начинает терять связность.
Вот именно: без таблицы по длине контекста и повторным запускам такой предел легко превращается в красивую верхнюю оценку. Хочется увидеть, на каком объёме модель начинает путать связи между фрагментами и как быстро растёт разброс между двумя одинаковыми прогонами.
Меня здесь неожиданно сильнее всего цепляет не миллион токенов, а то, что модель сразу подружили с transformers, SGLang и llama.cpp. У меня слишком много раз хороший анонс умирал на этапе «а теперь собери это сам», так что вот такая приземлённая совместимость иногда радует больше самой громкой цифры.
Вот это и делает новость приземлённой, а не витринной. Когда модель сразу дружит с transformers, SGLang и llama.cpp, шанс дойти до живого запуска у команды резко выше, чем у очередного красивого анонса с ручной сборкой по кускам.
Да, у меня такие штуки тоже либо взлетают на совместимости в первый вечер, либо умирают на этапе «ну теперь сами прикрутите остальное». Когда модель можно сразу втащить в обычный стек без акробатики, это для меня честнее любого красивого числа в анонсе.
Любопытно здесь не только число параметров, а шанс собрать в одной живой рабочей памяти текст, изображение и звук без постоянного распада процесса на куски. Для художника и исследователя это может оказаться редким моментом, когда инструмент удерживает не только запрос, но и ход мысли целиком — если, конечно, за этой широтой не потеряется внятность и управляемость результата.