Oossa

إصدار llama.cpp ‏b11795 يضيف تمرير إعدادات الخادم

تتيح مكتبة llama.cpp مفتوحة المصدر الآن تمرير إعدادات أخذ العينات الإضافية عبر واجهة /v1/messages، وتوفر ملفات تنفيذية جديدة لأنظمة macOS وLinux وiOS.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml‑org الإصدار b11795 من llama.cpp. ويعدّل التحديث الخادم بحيث يمكن تمرير إعدادات أخذ العينات دون تغيير في حقل extra_params ضمن نقطة النهاية /v1/messages. كما يضيف ملفات تنفيذية جاهزة لأنظمة macOS (Apple Silicon وIntel) وiOS، إلى جانب عدة إصدارات من Ubuntu تعمل على المعالج المركزي أو Vulkan.

لماذا يهم

يمكن للمطورين الآن تخصيص إعدادات التوليد عبر واجهة API من دون كتابة شيفرة إضافية، ما يسرّع دمج llama.cpp في التطبيقات.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.