Oossa

به‌روزرسانی llama.cpp با پشتیبانی از DeepSeek V4 و GPUهای بیشتر

کتابخانه متن‌باز llama.cpp در ۲۶ اکتبر ۲۰۲۶ با انتشار نسخه b11890، اصلاحاتی برای مدل DeepSeek V4 و پشتیبانی گسترده‌تر از GPUها، از جمله CUDA 12/13 و Vulkan، ارائه کرد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه b11890 از llama.cpp را در ۲۶ اکتبر ۲۰۲۶ منتشر کرد. این به‌روزرسانی کدهای DeepSeek V4 را پاک‌سازی می‌کند، برخی پارامترهای مدل را به یک پیکربندی مرکزی منتقل می‌کند و کلاس‌های مدل بلااستفاده را حذف می‌کند. پشتیبانی سخت‌افزاری نیز گسترش یافته و کتابخانه‌ها و بک‌اندهای CUDA 12 و 13، Vulkan، ROCm و OpenVINO برای Linux، Windows و macOS به آن اضافه شده‌اند. این تغییرات به توسعه‌دهندگان امکان می‌دهد مدل‌های بزرگ‌تر را با سرعت بیشتر روی GPUهای متنوع‌تر و دستگاه‌های مجهز به NPU اجرا کنند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل‌های DeepSeek V4 را روی طیف گسترده‌تری از GPUها اجرا کنند و نیاز کمتری به استنتاج ابری داشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.