تیم ggml-org نسخه llama.cpp b11849 را منتشر کرده و پشتیبانی از عملیات SGN را به Hexagon، معماری پردازنده Qualcomm، افزوده است. طبق یادداشتهای انتشار، این تغییر از دقت نیمدقت نیز پشتیبانی میکند و شامل بهینهسازیای است که از بیت علامت استفاده میکند.
این نسخه همچنین بیلدهایی برای macOS، iOS و Ubuntu ارائه میدهد؛ از جمله بیلدهای CPU برای x64، arm64 و s390x. در یادداشتها مشخص نشده که کدام دستگاهها یا بارهای کاری در عمل شاهد تغییر سرعت یا عملکرد خواهند بود.
چرا مهم است
توسعهدهندگانی که از llama.cpp روی سختافزار Hexagon استفاده میکنند، اکنون میتوانند از عملیات SGN جدید بهره ببرند؛ اما یادداشتهای انتشار تأثیر آن بر عملکرد مدل را کمّی نمیکنند.