Oossa

llama.cpp پشتیبانی از مدل Prism Bonsai 2 27B را اضافه کرد

کتابخانه متن‌باز llama.cpp (v b11556) اکنون مدل 27 میلیاردپارامتری Prism Bonsai 2 را در macOS و Linux اجرا می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

ggml-org نسخه b11556 از llama.cpp را منتشر کرد. این به‌روزرسانی پشتیبانی زمان اجرا از مدل Prism Bonsai 2 27B را اضافه می‌کند. همچنین نحوه پردازش تنسورهای Hadamard را اصلاح و کد تبدیل را مرتب‌تر می‌کند. فایل‌های اجرایی ازپیش‌ساخته‌شده برای macOS (Apple Silicon و Intel) و Ubuntu (x64، arm64، s390x) ارائه شده‌اند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل بزرگ 27 میلیاردپارامتری Prism Bonsai 2 را به‌صورت محلی روی رایانه‌های خود اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.