Oossa

نسخه b11537 از llama.cpp با اصلاحات embedding منتشر شد

کتابخانه ggml-org/llama.cpp قابلیت جابه‌جایی ترتیب گراف برای embeddingها را اضافه کرده، ایرادهای Gemma4 را رفع کرده و نسخه‌های ازپیش‌ساخته را برای macOS، iOS و Linux ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

ggml-org نسخه b11537 از llama.cpp را منتشر کرد. در این به‌روزرسانی، ترتیب get_rows در گراف برای embeddingها تغییر می‌کند و نحوه پردازش embeddingهای Gemma4 اصلاح شده است. همچنین یادداشتی درباره پشتیبانی از LoRA به‌عنوان کارِ در دست انجام اضافه شده و مسیرهای embedding خام اصلاح شده‌اند. نسخه‌های ازپیش‌کامپایل‌شده اکنون برای macOS Apple Silicon، macOS Intel، iOS و چندین نسخه Ubuntu، از جمله نسخه‌های دارای پشتیبانی از Vulkan، در دسترس‌اند.

چرا مهم است

توسعه‌دهندگان می‌توانند حالا llama.cpp را روی پلتفرم‌های بیشتری به‌صورت محلی اجرا کنند؛ پشتیبانی اصلاح‌شده از embeddingها هم دردسر راه‌اندازی را کمتر می‌کند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.