نسخه b12099 پروژه llama.cpp پشتیبانی اولیه از عملیات Lightning Indexer روی سختافزار Hexagon را اضافه میکند. این تغییرات شامل مسیرهای شتابدهی HMX برای پیشپرکردن و رمزگشایی، و همچنین پشتیبانی از گردآوری دادهها هنگام رمزگشایی با q8_0 و ورودی q4_0 است. صفحه انتشار، نسخههای لینوکس و اندروید را برای دستگاههای Snapdragon معرفی میکند که از CPU، پردازنده گرافیکی Adreno و NPU مدل Hexagon استفاده میکنند؛ همچنین پیوندهایی به راهنماهای راهاندازی دارد.
چرا مهم است
توسعهدهندگانی که از llama.cpp روی دستگاههای Snapdragon استفاده میکنند، میتوانند مسیر جدید Hexagon را امتحان کنند؛ بااینحال، یادداشتهای انتشار اطلاعاتی درباره عملکرد یا سازگاری با مدلها ارائه نمیکنند.