Oossa

llama.cpp نسخه b12088 با پشتیبانی از NVFP4 LFM3 منتشر شد

نسخه جدید این موتور متن‌باز اجرای مدل‌های زبانی بزرگ، فایل‌های اجرایی به‌روزشده‌ای برای macOS، iOS و چند پیکربندی Ubuntu عرضه می‌کند و گزینه مدل NVFP4 LFM3 را هم در دسترس می‌گذارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml‑org نسخه b12088 از llama.cpp را منتشر کرد. این به‌روزرسانی از قالب مدل NVFP4 LFM3 پشتیبانی می‌کند و فایل‌های اجرایی ازپیش‌ساخته‌ای برای Apple Silicon، مک‌های اینتل، iOS و چند پیکربندی Ubuntu، از جمله نسخه‌های فقط CPU و Vulkan، ارائه می‌دهد. نسخه macOS برای Apple Silicon با KleidiAI هم در فهرست آمده، اما فعلاً غیرفعال است. همه فایل‌ها از صفحه انتشار در GitHub قابل دانلود هستند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند llama.cpp را با قالب جدید مدل اجرا کنند و برای پلتفرم‌های بیشتری فایل‌های اجرایی آماده در اختیار داشته باشند؛ در نتیجه زمان راه‌اندازی کاهش می‌یابد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.