Oossa

llama.cpp در نسخه b12318 استخر بافر CUDA را اضافه کرد

کتابخانه متن‌باز استنتاج LLaMA، استخر بافر اشکال‌زدایی CUDA را اضافه کرده و نسخه‌های باینری macOS، iOS و Linux را به‌روزرسانی می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml‑org در 2026‑11‑12 نسخه b12318 از llama.cpp را منتشر کرد. این به‌روزرسانی استخر بافر اشکال‌زدایی CUDA را اضافه می‌کند تا توسعه‌دهندگان بتوانند با استفاده از compute-sanitizer میزان مصرف حافظه را ردیابی کنند. همچنین نسخه‌های باینری ازپیش‌ساخته‌شده جدیدی برای Apple Silicon، macOS اینتل، iOS و چندین هدف CPU و Vulkan در Ubuntu ارائه می‌دهد.

چرا مهم است

توسعه‌دهندگانی که مدل‌های LLaMA را روی GPUهای NVIDIA اجرا می‌کنند، حالا راحت‌تر می‌توانند مشکلات حافظه را اشکال‌زدایی کنند و از بروز خرابی هنگام استنتاج بکاهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.