أصدر مشروع تشغيل نماذج اللغة الكبير مفتوح المصدر ملفات تنفيذية لـmacOS وiOS وعدة إصدارات من Linux، مع تحسين إدارة ذاكرة MoE المؤقتة لتجنّب تعطّل المعالجة على CPU.
خبر موجزبقلم Oossaنشرته Oossa: 1 دقائق قراءة
أصدر ggml‑org الإصدار b12206 من llama.cpp. ويعالج التحديث مشكلة في ذاكرة MoE (مزيج الخبراء) المؤقتة، بحيث لا تعود وحدة CPU تنتظر الخبراء المخزّنين مؤقتًا. وأصبحت الملفات التنفيذية الجاهزة متاحة الآن لأجهزة Apple Silicon التي تعمل بنظام macOS، وأجهزة Mac بمعالجات Intel، ونظام iOS، وعدة تهيئات من Ubuntu، تشمل x64 وarm64 وs390x مع دعم Vulkan أو zDNN.
يمكن للمطورين تشغيل نماذج اللغة الكبيرة بسرعة أكبر على أجهزتهم، من دون اختناق CPU الذي تسببت فيه آلية التخزين المؤقت لـMoE السابقة.
النماذج
يتوفر النموذج عبر خدمة Tinker التابعة للشركة. وتقول Thinking Machines إنه قادر على تنفيذ مهام البرمجة والبحث والأعمال، وتعتزم إتاحة أوزانه.
النماذج
يتاح النموذج، الذي يضم 65 مليار مُعامل، بموجب ترخيص Apache 2.0. وتقول Ricursive إنه حقق نتيجة قوية في أحد اختبارات البرمجة، لكن النتائج تختلف بين الاختبارات.
النماذج
رجل من نورث كارولاينا يتهم ChatGPT بمساعدة زوجته على التخطيط لتسميمه. وتقول OpenAI إنها حظرت حسابها وشاركت معلومات مع الشرطة.
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.
