Oossa

إصدار llama.cpp b11768 يضيف فهرس المخرجات إلى واجهة البث

يحدّث مشروع تشغيل نماذج اللغة الكبير مفتوح المصدر خادمه لإضافة output_index إلى أحداث SSE، ويوفر ملفات تنفيذية جديدة لأنظمة macOS وLinux وiOS.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع ggml‑org/llama.cpp الإصدار b11768. ويعالج الإصدار مشكلة في الخادم، إذ أصبحت أحداث Server-Sent Events في Responses API تتضمن الحقل output_index، ما يحسّن التوافق مع عملاء البث. كما يعيد التغيير استخدام شيفرة البث الخاصة بـ Anthropic وينظّف الحقول غير المستخدمة لاستدعاء الأدوات. تتوفر للتنزيل ملفات تنفيذية جاهزة لأنظمة macOS (بمعالجات Apple Silicon وIntel) وiOS، إضافة إلى عدة إعدادات من Ubuntu.

لماذا يهم

بات بإمكان المطورين الذين يستخدمون llama.cpp تحديد الجزء الذي تنتمي إليه كل قطعة من الاستجابة المتدفقة على نحو موثوق، ما يسهّل دمجها في تطبيقات الدردشة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.