Oossa

انتشار llama.cpp نسخه b11465 با بیلدهای تازه برای macOS و لینوکس

این کتابخانه متن‌باز استنتاج مدل‌های زبانی بزرگ، بیلدهای جدیدی برای Apple Silicon، مک‌های اینتل و چند پیکربندی اوبونتو ارائه می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخه b11465 از llama.cpp را منتشر کرد. این نسخه شامل باینری‌های ازپیش‌ساخته‌شده برای macOS با Apple Silicon (arm64)، macOS اینتل (x64)، iOS و چند نسخه از اوبونتو (CPU، Vulkan و CUDA 12.8) است. همچنین در این انتشار، تغییری در آزمون‌ها اعمال شده تا هنگام آزمایش بازگشت بازگشتی، anchor حفظ شود. همه فایل‌ها از صفحه انتشار GitHub قابل دانلود هستند.

چرا مهم است

توسعه‌دهندگان حالا می‌توانند بدون کامپایل‌کردن کد، مدل‌های زبانی بزرگ را روی سخت‌افزارهای بیشتری به‌صورت محلی اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.