تیم ggml-org نسخه b12124 از llama.cpp را منتشر کرد که در آن پشتیبانی OpenCL تغییر کرده است: این نرمافزار حالا میتواند عملیات سیگموید را روی دادههای غیرپیوسته انجام دهد. OpenCL چارچوبی برای اجرای وظایف محاسباتی روی پردازندههای مختلف است.
صفحه انتشار همچنین نسخههای آماده دانلود برای macOS، iOS و Ubuntu را فهرست کرده که شامل نسخههای CPU و Vulkan میشوند. در این صفحه به تغییرات گستردهتر در عملکرد اشارهای نشده و مشخص نیست چه کاربرانی متوجه تفاوت خواهند شد.
چرا مهم است
توسعهدهندگانی که از llama.cpp با OpenCL استفاده میکنند، میتوانند به این عملیات تازهپشتیبانیشده دسترسی داشته باشند؛ اما یادداشتهای انتشار نشان نمیدهند که این تغییر سرعت را افزایش میدهد یا بر تجربه کاربران روزمره اثری دارد.