Oossa

رفع ایراد پردازش نماهای SCALE در OpenVINO در llama.cpp b11977

این نسخه باگی را برطرف می‌کند که ممکن بود به‌جای یک نمای برش‌خورده، کل تانسور منبع را مقیاس‌بندی کند و از محدودهٔ بافر نتیجه بنویسد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

نسخهٔ b11977 از llama.cpp متعلق به ggml-org، نحوهٔ پردازش عملیات SCALE روی نماهای برش‌خوردهٔ تانسور را در بک‌اند OpenVINO اصلاح می‌کند. پیش‌تر ممکن بود یک نمای دارای گام‌بندی به‌اشتباه همان تانسور منبع کامل در نظر گرفته شود؛ در نتیجه، خروجی بیش از حد بزرگ می‌شد و احتمال داشت آزمون‌ها از کار بیفتند.

این اصلاح، نما را به‌صورت یک برش پردازش می‌کند و اجرای SCALE درجا روی نماهای غیرپیوسته را رد می‌کند؛ چون کپی‌کردن نتیجه به محل اصلی در چنین حالتی ممکن بود عناصر اشتباهی را بازنویسی کند. در این نسخه، ساخت‌های مخصوص پلتفرم‌هایی از جمله macOS، Linux، Android و Windows نیز فهرست شده‌اند.

چرا مهم است

این اصلاح برای توسعه‌دهندگانی که در بک‌اند OpenVINOِ llama.cpp از ورودی‌های تانسوریِ برش‌خورده استفاده می‌کنند، موردی را برطرف می‌کند که می‌توانست آزمون‌ها را از کار بیندازد یا نتیجه را در عناصر اشتباه بنویسد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.