Ollama ने अपने लोकल AI सॉफ़्टवेयर का रिलीज़ कैंडिडेट v0.40.5-rc0 जारी किया है। इस अपडेट में Apple की Metal ग्राफ़िक्स तकनीक के लिए पहले इस्तेमाल किए गए कस्टम कर्नेल को NVIDIA के GPU कंप्यूटिंग प्लेटफ़ॉर्म CUDA पर लाया गया है।
यह OpenAI-संगत Responses API को बातचीत के इतिहास में कस्टम टूल कॉल स्वीकार करने की सुविधा भी देता है। रिलीज़ नोट्स में प्रदर्शन के आंकड़े नहीं दिए गए हैं और न ही बताया गया है कि v0.40.5 का अंतिम संस्करण कब आएगा।
यह क्यों मायने रखता है
NVIDIA GPU पर Ollama चलाने वाले उपयोगकर्ताओं के हार्डवेयर पर ये कस्टम कर्नेल उपलब्ध हो सकते हैं। हालांकि, रिलीज़ नोट्स में प्रदर्शन की जानकारी नहीं है और यह भी पुष्टि नहीं की गई है कि अंतिम रिलीज़ में क्या बदलाव होंगे।
