Oossa

انتشار llama.cpp نسخه b11555 با رفع ایراد پردازنده و باینری‌های تازه

کتابخانه متن‌باز اجرای مدل‌های Llama به نسخه b11555 به‌روزرسانی شده است؛ این نسخه مشکل استفاده‌نکردن از F16C در پردازنده‌های AVX2 را رفع می‌کند و بسته‌های جدیدی برای macOS، iOS و Linux ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml‑org نسخه b11555 از llama.cpp را منتشر کرد. این به‌روزرسانی باگی را رفع می‌کند که باعث می‌شد پردازنده‌های AVX2، حتی در صورت پشتیبانی، از مجموعه دستورالعمل F16C استفاده نکنند. این نسخه همچنین بسته‌های باینری جدیدی برای macOS Apple Silicon، macOS Intel، iOS و چند پیکربندی Ubuntu، از جمله با پشتیبانی از Vulkan و CUDA 12.8، ارائه می‌دهد.

چرا مهم است

توسعه‌دهندگانی که مدل‌های Llama را روی پردازنده‌های سازگار اجرا می‌کنند، بدون نیاز به وصله‌های دستی از استنتاج سریع‌تری بهره‌مند می‌شوند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.