Oossa

llama.cpp در نسخه b11284 ایراد OpenVINO GET_ROWS را رفع کرد

نسخه منتشرشده llama.cpp در ۳۰ سپتامبر ۲۰۲۶، مشکل نمایش وزن‌ها در OpenVINO را برطرف کرد و با رفع خطای پیشین، پشتیبانی سخت‌افزاری را بهبود داد.

خبر کوتاهOossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانه متن‌باز llama.cpp در ۳۰ سپتامبر ۲۰۲۶ نسخه b11284 را منتشر کرد. این به‌روزرسانی نحوه مدیریت نمایش وزن‌ها در OpenVINO را تغییر می‌دهد و با رفع خطای GET_ROWS، مشکل اجرای برخی مدل‌های کوانتیزه‌شده را برطرف می‌کند. این اصلاح، آفست‌های ردیف را در شاخص‌های gather ادغام می‌کند تا با نمایش وزن‌ها مانند یک مقدار ثابت معمولی برخورد شود. در فهرست نسخه جدید، طیف گسترده‌ای از هدف‌های ساخت نیز آمده است؛ از Apple Silicon در macOS تا CUDA 13 در Linux و Windows.

چرا مهم است

این تغییر امکان اجرای مدل‌های کوانتیزه‌شده بیشتری از LLaMA را روی دستگاه‌های مجهز به OpenVINO، بدون خطا، فراهم می‌کند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.