Oossaهوش مصنوعی به‌سرعت پیشرفت می‌کند. ما آن را ساده توضیح می‌دهیم.

افزوده‌شدن پشتیبانی اختیاری از ZDNN به llama.cpp

حالا می‌توان محیط اجرای متن‌باز مدل‌های زبانی بزرگ را با کتابخانه ZDNN شرکت IBM کامپایل کرد، اما هنوز آزمایشی اجرا نمی‌شود.

خبر کوتاهOossa1 دقیقه مطالعه

پروژه llama.cpp گزینه‌ای برای ساخت با بک‌اند ZDNN اضافه کرده است؛ کتابخانه‌ای که محاسبات ماتریسی را روی سخت‌افزار IBM Z سرعت می‌بخشد. این تغییر را Aaron Teo در ۳۰ سپتامبر ۲۰۲۶ ثبت کرد. کد جدید بک‌اند را کامپایل می‌کند، اما هنوز هیچ آزمایشی اجرا نمی‌کند.

چرا مهم است

این تغییر به توسعه‌دهندگان امکان می‌دهد llama.cpp را روی سامانه‌های IBM Z امتحان کنند و احتمالاً عملکرد استنتاج مدل‌های زبانی بزرگ را بهبود دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.

منابع و ارجاع‌ها

#منبعرسانهتاریخنکته اصلی
1ggml-org/llama.cpp b11269 ↗llama.cpp۸ مهر ۱۴۰۵<details open> ci: add zdnn backend build but not test (#29541) * ci: add zdnn backend build but not test Signed-off-by: Aaron Teo <aaron.te

1 منبع

آخرین به‌روزرسانی: ·Markdown·llms.txt