تیم ggml-org نسخه b12074 از llama.cpp را با تغییراتی در وضعیت کانولوشن delta-net منتشر کرد. در این به‌روزرسانی، اندیس جایگاه بازگشت به‌صورت ورودی I32 روی میزبان مقداردهی می‌شود؛ پیش از این، این اندیس با عملیات arange و argsort روی دستگاه ساخته می‌شد.
طبق یادداشت‌های انتشار، این اندیس برای هر شکل گراف ثابت است و این تغییر نیاز به همگام‌سازی یک تقسیم‌بندی برای arange در بک‌اند فراداده را برطرف می‌کند. در یادداشت‌ها بهبود اندازه‌گیری‌شده‌ای در سرعت یا مصرف حافظه گزارش نشده است.
چرا مهم است
کاربرانی که مدل‌های دارای delta-net را در llama.cpp اجرا می‌کنند ممکن است با تغییر در محاسبات داخلی روبه‌رو شوند؛ اما یادداشت‌های انتشار مشخص نمی‌کنند که این تغییر در عمل عملکرد را بهبود می‌دهد یا نه.
