Oossa

نسخه آزمایشی Ollama v0.40.5 کرنل‌های CUDA را اضافه می‌کند

نسخه v0.40.5-rc0 از Ollama، کرنل‌های سفارشی Metal را به CUDA منتقل می‌کند و سابقه فراخوانی ابزارها را در Responses API تغییر می‌دهد. این نسخه آزمایشی است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Ollama نسخه v0.40.5-rc0 را منتشر کرده است؛ نسخه‌ای آزمایشی برای نرم‌افزار هوش مصنوعی محلی این شرکت. در این به‌روزرسانی، کرنل‌های سفارشی‌ای که پیش‌تر از فناوری گرافیکی Metal اپل استفاده می‌کردند، به CUDA، پلتفرم محاسبات گرافیکی NVIDIA، منتقل شده‌اند.

این نسخه همچنین به Responses API سازگار با OpenAI امکان می‌دهد فراخوانی‌های سفارشی ابزار را در سابقه گفتگو بپذیرد. یادداشت‌های انتشار آماری درباره عملکرد ارائه نمی‌کنند و مشخص نمی‌گویند نسخه نهایی v0.40.5 چه زمانی منتشر می‌شود.

چرا مهم است

برای کاربران Ollama که از GPUهای NVIDIA استفاده می‌کنند، انتقال به CUDA ممکن است این کرنل‌های سفارشی را روی سخت‌افزارشان در دسترس قرار دهد؛ هرچند یادداشت‌ها اطلاعاتی درباره عملکرد ارائه نمی‌کنند و تأیید نمی‌کنند که در نسخه نهایی چه تغییراتی اعمال خواهد شد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.