Oossa

به‌روزرسانی llama.cpp b12024 برای پردازش تانسور در LFM-SC

این نسخه روش پردازش یک عملیات تانسوری برای LFM-SC را تغییر می‌دهد و برای چند سیستم‌عامل و نوع پردازنده قابل دریافت است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه llama.cpp b12024 را منتشر کرده است. در این نسخه، کارِ ضرب ماتریسی برای LFM-SC به‌گونه‌ای بازآرایی شده که به‌جای تانسور سه‌بعدی از تانسور دوبعدی استفاده کند. صفحهٔ انتشار فایل‌های دانلودی برای macOS، iOS و چند پیکربندی لینوکس، از جمله نسخه‌های CPU و Vulkan، فهرست کرده است.

یادداشت‌های انتشار مشخص نمی‌کنند که تغییر مربوط به LFM-SC سرعت را افزایش می‌دهد یا بر مدل‌های دیگر تأثیر می‌گذارد.

چرا مهم است

کاربرانی که LFM-SC را با llama.cpp اجرا می‌کنند می‌توانند نسخهٔ به‌روزشده را امتحان کنند، اما یادداشت‌های انتشار هیچ بهبود عملکردی را تأیید نمی‌کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.