Ollama выпустила версию 0.40.6-rc0 своего инструмента для запуска моделей. Обновление предотвращает появление оставшихся без родительского процесса экземпляров в Windows, добавляет два новых типа тензоров/файлов GGUF (q2_0) и включает интерфейс Clef в облаке Ollama. Также в режиме –ask появились идентификаторы ключей вопросов. Список изменений опубликован в примечаниях к выпуску на GitHub.
Почему это важно
Теперь разработчики могут запускать Ollama в Windows без лишних процессов и использовать более новые компактные тензоры для ускорения инференса.
