Oossa

نسخه جدید llama.cpp از Nemotron‑3(.5)‑Embed پشتیبانی می‌کند

کتابخانه متن‌باز llama.cpp در نسخه b11778 اجرای Nemotron‑3(.5)‑Embed را ممکن کرده و فایل‌های اجرایی آن برای macOS، iOS، Linux، Vulkan و CUDA منتشر شده‌اند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml‑org نسخه b11778 از llama.cpp را منتشر کرد. این نسخه از مدل Nemotron‑3(.5)‑Embed، یک مدل تازه برای تعبیه‌سازی متن، پشتیبانی می‌کند. همچنین فایل‌های اجرایی ازپیش‌کامپایل‌شده‌ای برای macOS Apple Silicon، macOS Intel، iOS و چند نسخه از Ubuntu، از جمله نسخه‌های پردازش گرافیکی Vulkan و CUDA‑12.8، ارائه می‌دهد. این فایل‌ها از طریق پیوندهای دانلود مستقیم در صفحه انتشار GitHub در دسترس‌اند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند Nemotron‑3(.5)‑Embed را به‌صورت محلی روی طیف گسترده‌ای از دستگاه‌ها اجرا کنند و به سرویس ابری نیاز نداشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.