أعلنت Ollama عن الإصدار 0.40.17-rc0. يضيف التحديث دعم mmap لوحدات GPU التي تستخدم Vulkan، ما يتيح للنموذج استخدام ذاكرة GPU بكفاءة أكبر. كما يتيح توليد النصوص بالتزامن في الواجهة الخلفية MLX، ويحسّن استعادة واجهة ChatGPT عبر سطر الأوامر بعد تعطلها. ورُقّيت مكتبة llama.cpp إلى التغيير b12257، كما قدّم مساهم جديد أول طلب سحب له.
لماذا يهم
يمكن للمطورين تشغيل نماذج أكبر بسرعة أعلى على وحدات GPU المتوافقة، ما يقلل زمن الاستجابة لتطبيقات الذكاء الاصطناعي المحلية.