Oossa

llama.cpp b11849 پشتیبانی از عملیات SGN در Hexagon را اضافه کرد

این نسخه عملیات sign را برای Qualcomm Hexagon، از جمله نسخه نیم‌دقت، اضافه می‌کند. همچنین بیلدهای قابل دانلودی برای چند پلتفرم ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه llama.cpp b11849 را منتشر کرده و پشتیبانی از عملیات SGN را به Hexagon، معماری پردازنده Qualcomm، افزوده است. طبق یادداشت‌های انتشار، این تغییر از دقت نیم‌دقت نیز پشتیبانی می‌کند و شامل بهینه‌سازی‌ای است که از بیت علامت استفاده می‌کند.

این نسخه همچنین بیلدهایی برای macOS، iOS و Ubuntu ارائه می‌دهد؛ از جمله بیلدهای CPU برای x64، arm64 و s390x. در یادداشت‌ها مشخص نشده که کدام دستگاه‌ها یا بارهای کاری در عمل شاهد تغییر سرعت یا عملکرد خواهند بود.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp روی سخت‌افزار Hexagon استفاده می‌کنند، اکنون می‌توانند از عملیات SGN جدید بهره ببرند؛ اما یادداشت‌های انتشار تأثیر آن بر عملکرد مدل را کمّی نمی‌کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.