Oossa

انتشار llama.cpp b11770 با کرنل CUDA برای SSM با اندازه ۷

نسخهٔ b11770 از ggml-org/llama.cpp کرنل CUDA تازه‌ای برای کانولوشن SSM اضافه می‌کند و باینری‌های جدیدی برای macOS، iOS و Linux ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانهٔ متن‌باز llama.cpp در ۲۱ اکتبر ۲۰۲۶ نسخهٔ b11770 را منتشر کرد. این به‌روزرسانی کرنل CUDAای اضافه می‌کند که از کانولوشن SSM (مدل فضای حالت) با پهنای ۷ پشتیبانی می‌کند. باینری‌های ازپیش‌ساختهٔ جدیدی نیز برای Apple Silicon، مک‌های مجهز به پردازنده‌های Intel، iOS و چند نسخهٔ Ubuntu عرضه شده‌اند؛ از جمله نسخه‌های CPU، Vulkan و CUDA 12.8.

چرا مهم است

به‌لطف کرنل جدید، توسعه‌دهندگان می‌توانند مدل‌های بزرگ‌تر مبتنی بر SSM را سریع‌تر روی پردازنده‌های گرافیکی Nvidia اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.