أصدرت ggml-org الإصدار llama.cpp v1.0.0، وهو أول إصدار رئيسي للمشروع. ويغطي سجل التغييرات العمل المنجز منذ v0.9.0، بما في ذلك دعم منصات عتادية جديدة وتحسينات في الأداء، إلى جانب إصلاحات أمنية للخادم وتحديثات لواجهة الدردشة.
يضيف الإصدار دعم FP8 لذاكرة التخزين المؤقت للقيم والمفاتيح، وهي خيار يُستخدم لتخزين سياق المحادثة، كما يضيف إلى الخادم واجهة لتوليد الكلام متوافقة مع OpenAI. وتشير صفحة الإصدار إلى أن مزيدًا من المعلومات سيكون متاحًا عند الساعة 3 p.m. CET، لكنها لا تقدم شرحًا أوفى لما يعنيه بلوغ الإصدار 1.0.
لماذا يهم
يمكن لمستخدمي خادم llama.cpp الاستفادة من واجهة توليد الكلام الجديدة، لكن ملاحظات الإصدار لا تحدد النماذج التي تدعمها أو كيفية إعدادها.
