ggml‑org ने llama.cpp का b11778 संस्करण जारी किया है। इस अपडेट में नए टेक्स्ट-एम्बेडिंग मॉडल Nemotron‑3(.5)‑Embed का सपोर्ट जोड़ा गया है। इसके साथ macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई संस्करणों के लिए पहले से कंपाइल की गई बाइनरी भी दी गई हैं। इनमें Vulkan और CUDA‑12.8 वाले GPU बिल्ड शामिल हैं। फ़ाइलें GitHub रिलीज़ पेज पर सीधे डाउनलोड की जा सकती हैं।
यह क्यों मायने रखता है
डेवलपर अब क्लाउड सेवा की ज़रूरत के बिना, कई तरह के डिवाइस पर Nemotron‑3(.5)‑Embed स्थानीय रूप से चला सकते हैं।
