Oossa

افزوده‌شدن کرنل‌های فلش‌اتنشن Metal به llama.cpp در macOS

نسخه جدید محیط متن‌باز اجرای LLM در ۹ اکتبر ۲۰۲۶ منتشر شد و از فلش‌اتنشن ۱۲۸/۹۶ برای Apple Silicon پشتیبانی می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org در ۹ اکتبر ۲۰۲۶، llama.cpp (نسخه b11518) را به‌روزرسانی کرد. این تغییر کرنل‌های فلش‌اتنشن ۱۲۸‌بیتی و ۹۶‌بیتی را برای Metal اضافه می‌کند و اجرای مدل‌ها را روی مک‌های مجهز به Apple Silicon سریع‌تر می‌کند. فایل‌های اجرایی ازپیش‌ساخته برای macOS (arm64)، macOS اینتل، iOS و چند پیکربندی لینوکس برای دانلود ارائه شده‌اند.

چرا مهم است

کاربران دستگاه‌های مجهز به Apple Silicon می‌توانند بدون خرید سخت‌افزار گرافیکی اضافه، LLMها را سریع‌تر اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.