Oossa

llama.cpp نسخه b11391 با بهینه‌سازی CUDA و فایل‌های اجرایی جدید منتشر شد

نسخه b11391 ابزار متن‌باز اجرای مدل‌های زبانی بزرگ، با تغییری کوچک در کد CUDA و فایل‌های اجرایی تازه برای macOS، iOS و چند نسخه از Ubuntu منتشر شد.

خبر کوتاهOossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخه b11391 از llama.cpp را در ۴ اکتبر ۲۰۲۶ منتشر کرد. در این به‌روزرسانی، متغیر CUDA با نام blocks_per_col به محلی منتقل شده که از آن استفاده می‌شود؛ تغییری که Adrien Gallouët تأیید کرده است. این نسخه همچنین فایل‌های اجرایی ازپیش‌کامپایل‌شدهٔ تازه‌ای برای macOS با Apple Silicon، macOS با پردازنده‌های Intel، iOS و چند نسخهٔ Ubuntu (CPU، Vulkan و CUDA 12) دارد. همهٔ فایل‌ها از صفحهٔ انتشار در GitHub قابل دانلود هستند.

چرا مهم است

توسعه‌دهندگان حالا می‌توانند llama.cpp را بدون نیاز به آماده‌سازی جداگانه روی سخت‌افزارهای بیشتری اجرا کنند؛ به‌ویژه کسانی که از GPUهای سازگار با CUDA استفاده می‌کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.