Ollama, yerel yapay zekâ yazılımı için v0.40.5-rc0 sürüm adayını yayımladı. Güncelleme, daha önce Apple’ın Metal grafik teknolojisiyle kullanılan özel çekirdekleri, NVIDIA’nın GPU hesaplama platformu CUDA’ya taşıyor.
Güncelleme ayrıca OpenAI uyumlu Responses API’nin konuşma geçmişinde özel araç çağrılarını kabul etmesini sağlıyor. Sürüm notlarında performans verilerine yer verilmiyor ve nihai v0.40.5 sürümünün ne zaman çıkacağı belirtilmiyor.
Neden önemli
NVIDIA GPU kullanan Ollama kullanıcıları, CUDA’ya taşıma sayesinde bu özel çekirdekleri donanımlarında kullanabilir. Ancak sürüm notlarında performans verisi paylaşılmıyor ve nihai sürümde nelerin değişeceği doğrulanmıyor.
