Ollama 0.40.11: речь и выбор решений

В официальном выпуске Ollama 0.40.11 появилась локальная генерация речи на macOS. Звук можно воспроизводить по мере создания, а приложения могут получать его через API, совместимый с OpenAI. Это позволяет встраивать голосовой вывод в приложения, использующие локальные модели.

Вторая часть обновления — модели решений d3 на основе разработок vLLM Semantic Router. Доступны варианты с 2, 4, 9 и 27 млрд параметров. Среди заявленных возможностей — классификация текста, работа со структурированными состояниями и изображениями, а также оценка вариантов с помощью вероятностей.

Практический смысл обновления — расширение круга задач для локального запуска: помимо текстового диалога, появляются генерация речи и выбор между вариантами. При этом сама по себе поддержка этих возможностей не говорит о качестве или скорости на конкретном компьютере: в переданных сведениях таких замеров нет.

На момент сбора сведений на странице выпуска было 26 реакций. Это реакции пользователей GitHub, а не оценка качества моделей.