أصبحت مكتبة LLaMA مفتوحة المصدر للاستدلال تدعم العمليات الحسابية بدقة BF16، ما يحسّن الأداء على عدة منصات خلفية.
خبر موجزبقلم Oossaنشرته Oossa: 1 دقائق قراءة
أصدر فريق ggml‑org الإصدار b12202 من llama.cpp، مضيفًا دعم دقة BF16 (تنسيق الفاصلة العائمة الدماغية ذي 16 بت) في عمليات ضرب المصفوفات الأساسية. ويحاكي هذا التغيير التنفيذ المرجعي، وأصبح مدعومًا الآن في CUDA وVulkan وOpenCL وHexagon ومنصات خلفية أخرى. كما باتت اختبارات الانتباه الومضي تعمل بدقة BF16 إلى جانب وضع F32 المتاح سابقًا.
يستطيع المطورون تشغيل نماذج LLaMA بسرعة أكبر على الأجهزة التي تفضّل BF16، مثل وحدات معالجة الرسومات الأحدث.
النماذج
يتوفر النموذج عبر خدمة Tinker التابعة للشركة. وتقول Thinking Machines إنه قادر على تنفيذ مهام البرمجة والبحث والأعمال، وتعتزم إتاحة أوزانه.
النماذج
يتاح النموذج، الذي يضم 65 مليار مُعامل، بموجب ترخيص Apache 2.0. وتقول Ricursive إنه حقق نتيجة قوية في أحد اختبارات البرمجة، لكن النتائج تختلف بين الاختبارات.
النماذج
رجل من نورث كارولاينا يتهم ChatGPT بمساعدة زوجته على التخطيط لتسميمه. وتقول OpenAI إنها حظرت حسابها وشاركت معلومات مع الشرطة.
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.
