ओपन-सोर्स Llama इंफरेंस लाइब्रेरी का संस्करण b11757 जारी हुआ है। इसमें CUDA ग्राफ़ को संभालने से जुड़ा सुधार और macOS, iOS तथा Linux के लिए नए बाइनरी शामिल हैं।
संक्षिप्तलेखक: OossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना
ggml‑org टीम ने llama.cpp का संस्करण b11757 जारी किया। इस अपडेट में पुराने मेमोरी-पूल को खाली करने के बाद CUDA ग्राफ़ साफ़ किए जाते हैं, जिससे GPU मेमोरी लीक कम होने की उम्मीद है। अब Apple Silicon macOS, Intel macOS, iOS और Ubuntu के कई बिल्ड (CPU, Vulkan और CUDA 12.8) के लिए पहले से बने बाइनरी उपलब्ध हैं। यह रिलीज़ GitHub पर पोस्ट की गई है।
Nvidia GPU पर Llama मॉडल चलाने वाले डेवलपरों को इस सुधार के बाद मेमोरी खत्म होने से जुड़ी त्रुटियां कम देखने को मिलेंगी।
मॉडल
Elevenlabs ने लाइव AI बातचीत के लिए अधिक सटीक Max और कम कीमत वाला Mini मॉडल पेश किया है। ये ElevenAgents और Realtime API के ज़रिए उपलब्ध हैं।
मॉडल
AI साथी ऐप के अमेरिका में 10.2 मिलियन इंस्टॉल हुए—यह ChatGPT के शुरुआती आंकड़ों से आगे है और इसकी शुरुआती उपयोगकर्ता-वापसी दर भी अधिक है।
मॉडल
Amazon Bedrock के ज़रिए कनाडा के डेवलपर अब cross‑Region inference से OpenAI के नए GPT‑5.6, GPT‑6 और GPT‑6.1 मॉडल इस्तेमाल कर सकते हैं।
Oossa · न्यूज़लेटर
AI का हफ़्ता, आसान भाषा में
हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।
