Oossa

بهبود مدیریت حافظه Hexagon در llama.cpp b12368

نسخه جدید llama.cpp تخصیص بافر و نگاشت حافظه برای Hexagon را به‌روزرسانی می‌کند و برای چند پلتفرم فایل‌های قابل‌دانلود ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org در ۱۳ نوامبر ۲۰۲۶ نسخه llama.cpp b12368 را منتشر کرد. تغییر اعلام‌شده در این نسخه، تخصیص بافر و نگاشت حافظه برای Hexagon را بهبود می‌دهد؛ از جمله با تلاش دوباره در صورت شکست نگاشت و تغییراتی که برای کاهش پراکندگی آدرس‌های حافظه در نظر گرفته شده‌اند.

صفحه انتشار همچنین فایل‌هایی برای macOS، iOS و چند سیستم لینوکس ارائه می‌دهد. در توضیحات، بهبود عملکردی ذکر نشده و مشخص نیست تغییرات Hexagon برای کدام دستگاه‌ها سودمند است.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp با سخت‌افزار Hexagon استفاده می‌کنند، کد به‌روزشده‌ای برای مدیریت حافظه دریافت می‌کنند؛ اما یادداشت‌های انتشار نمی‌گویند این تغییرات در عمل سرعت یا پایداری را بهتر می‌کنند یا نه.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.