Oossa

نسخه b11792 از llama.cpp داده‌ها را مدت بیشتری روی GPU نگه می‌دارد

نسخه جدید این محیط اجرای متن‌باز مدل‌های زبانی بزرگ، با ارائه فایل‌های اجرایی تازه و بهینه‌سازی GPU، داده‌ها را مدت بیشتری روی GPU نگه می‌دارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه b11792 از llama.cpp را در 2026-10-21 منتشر کرد. در این به‌روزرسانی، فراخوانی set_rows تغییر کرده تا داده‌ها بتوانند روی GPU بمانند و سرعت اجرای برنامه برای کاربران GPU افزایش یابد. فایل‌های اجرایی ازپیش‌ساخته‌شده اکنون برای macOS Apple Silicon، macOS Intel، iOS و چند نسخه از Ubuntu (CPU، Vulkan و CUDA 12.8) در دسترس‌اند. پیوندهای انتشار در صفحه برچسب GitHub قرار گرفته‌اند.

در یادداشت‌های انتشار، این تغییر چنین ثبت شده است: «قرار دادن d2t بر اساس کاربرد آن در set_rows تا بتواند روی GPU بماند (#30912)».

چرا مهم است

توسعه‌دهندگان می‌توانند مدل‌های Llama را روی GPUهای سازگار سریع‌تر اجرا کنند، بی‌آنکه داده‌ها را به‌طور اضافی جابه‌جا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.