Oossa

نسخه b11804 از llama.cpp پشتیبانی OpenCL از argmax را افزود

این به‌روزرسانیِ محیط اجرای متن‌باز LLM، محاسبه argmax از F32 به I32 را برای OpenCL اضافه می‌کند و باینری‌های تازه‌ای برای macOS، Linux و iOS دارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml‑org نسخه b11804 از llama.cpp را در 2026‑10‑22 منتشر کرد. این به‌روزرسانی روالی برای OpenCL اضافه می‌کند که argmax را از اعداد ممیز شناور ۳۲بیتی به اعداد صحیح ۳۲بیتی محاسبه می‌کند و سرعت استنتاج روی GPU را افزایش می‌دهد. همچنین باینری‌های ازپیش‌ساخته‌شدهٔ تازه‌ای برای Apple Silicon، مک‌های مجهز به پردازنده‌های Intel، iOS و چند نسخه از Ubuntu (CPU، Vulkan و CUDA) ارائه شده است. این تغییرات را OpenCode و Li He از Qualcomm نوشته‌اند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل‌های llama.cpp را روی GPUهای سازگار با OpenCL سریع‌تر اجرا کنند؛ در نتیجه، گزینه‌های سخت‌افزاری برای پروژه‌های هوش مصنوعی علاقه‌مندان گسترش می‌یابد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.