Ollama publicó la versión 0.40.6-rc0 de su herramienta para servir modelos. La actualización evita que queden procesos huérfanos del ejecutor en Windows, añade dos nuevos tipos de tensor/archivo GGUF (q2_0) y habilita la interfaz Clef en la nube de Ollama. También incorpora identificadores para las claves de preguntas en el modo –ask. Los cambios se detallan en las notas de la versión en GitHub.
Por qué importa
Ahora los desarrolladores pueden ejecutar Ollama en Windows sin procesos sobrantes y usar tensores más nuevos y pequeños para acelerar la inferencia.
