Oossa

Ollama تطلق الإصدار 0.40.17-rc0

يضيف مشغّل الذكاء الاصطناعي مفتوح المصدر تعيين الذاكرة لوحدات GPU، وتوليدًا متزامنًا، واستعادةً أكثر سلاسة لواجهة ChatGPT عبر سطر الأوامر.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أعلنت Ollama عن الإصدار 0.40.17-rc0. يضيف التحديث دعم mmap لوحدات GPU التي تستخدم Vulkan، ما يتيح للنموذج استخدام ذاكرة GPU بكفاءة أكبر. كما يتيح توليد النصوص بالتزامن في الواجهة الخلفية MLX، ويحسّن استعادة واجهة ChatGPT عبر سطر الأوامر بعد تعطلها. ورُقّيت مكتبة llama.cpp إلى التغيير b12257، كما قدّم مساهم جديد أول طلب سحب له.

لماذا يهم

يمكن للمطورين تشغيل نماذج أكبر بسرعة أعلى على وحدات GPU المتوافقة، ما يقلل زمن الاستجابة لتطبيقات الذكاء الاصطناعي المحلية.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.