Oossa

پشتیبانی llama.cpp از عملیات سیگموید در OpenCL

نسخه جدید llama.cpp عملیات سیگموید روی داده‌های غیرپیوسته را در OpenCL پشتیبانی می‌کند و برای چند سیستم‌عامل و پردازنده نسخه‌های آماده دانلود دارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه b12124 از llama.cpp را منتشر کرد که در آن پشتیبانی OpenCL تغییر کرده است: این نرم‌افزار حالا می‌تواند عملیات سیگموید را روی داده‌های غیرپیوسته انجام دهد. OpenCL چارچوبی برای اجرای وظایف محاسباتی روی پردازنده‌های مختلف است.

صفحه انتشار همچنین نسخه‌های آماده دانلود برای macOS، iOS و Ubuntu را فهرست کرده که شامل نسخه‌های CPU و Vulkan می‌شوند. در این صفحه به تغییرات گسترده‌تر در عملکرد اشاره‌ای نشده و مشخص نیست چه کاربرانی متوجه تفاوت خواهند شد.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp با OpenCL استفاده می‌کنند، می‌توانند به این عملیات تازه‌پشتیبانی‌شده دسترسی داشته باشند؛ اما یادداشت‌های انتشار نشان نمی‌دهند که این تغییر سرعت را افزایش می‌دهد یا بر تجربه کاربران روزمره اثری دارد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.