Oossa

رفع سرریز DMA در Hexagon با انتشار llama.cpp نسخه b11516

نسخه جدید این محیط اجرای متن‌باز مدل‌های زبانی بزرگ، توصیفگرهای قدیمی DMA را در NPUهای Qualcomm Hexagon کنار می‌گذارد و از خروجی‌های NaN جلوگیری می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه ggml‑org/llama.cpp نسخه b11516 را در 2026‑10‑09 منتشر کرد. این به‌روزرسانی باگی را در مسیر NPUهای Hexagon برطرف می‌کند که باعث سرریز حلقه DMA و در نتیجه داده‌های قدیمی و خروجی‌های NaN/inf می‌شد. حالا وقتی حلقه پر است، کد قدیمی‌ترین توصیفگر را حذف می‌کند و بعدتر صف را تخلیه می‌کند. آزمون‌هایی با عملیات بزرگ patch-embed اکنون روی سخت‌افزار Hexagon با موفقیت اجرا می‌شوند.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp روی دستگاه‌های Qualcomm Hexagon استفاده می‌کنند، به‌جای NaNهای نادرست، خروجی‌های صحیح مدل را دریافت خواهند کرد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.