تیم ggml-org نسخه llama.cpp b12367 را با تغییری در CUDA منتشر کرد: این نسخه کد ماشین گرافیکی SM103 یا SASS را به بیلدهای غیربومی اضافه می‌کند. در نتیجه، این بیلدها می‌توانند کدی را اجرا کنند که برای سخت‌افزار SM103 آماده شده، بی‌آنکه مشخصاً برای آن هدف کامپایل شده باشند.
این نسخه همچنین بیلدهای قابل‌دانلودی برای macOS، iOS و چند سیستم لینوکس ارائه می‌دهد. یادداشت‌های انتشار مشخص نمی‌کنند کدام پردازنده‌های گرافیکی از SM103 استفاده می‌کنند و نتیجه‌ای درباره عملکرد هم ارائه نمی‌دهند.
چرا مهم است
کسانی که llama.cpp را روی سخت‌افزار انویدیا با هدف SM103 اجرا می‌کنند، ممکن است بتوانند از بیلدهای غیربومی CUDA استفاده کنند؛ اما یادداشت‌های انتشار مدل‌های پردازنده گرافیکی تحت‌تأثیر را مشخص نمی‌کنند و هیچ تغییری در سرعت را هم اندازه‌گیری نکرده‌اند.
