Oossa

जेलब्रेक PS5 पर GPU से चलेंगे लोकल AI मॉडल

कम्युनिटी के एक फोर्क से हैक किए गए PlayStation 5 पर Qwen 3.8‑27B जैसे बड़े LLM करीब 20 टोकन प्रति सेकंड की रफ्तार से चल सकते हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Reddit यूज़र u/AdIllustrious7246 ने PS5LM का एक फोर्क जारी किया है। यह llama.cpp का पोर्ट है, जो जेलब्रेक किए गए PS5 पर सीधे चलता है और कंसोल के GPU का इस्तेमाल कर सकता है। यह फोर्क Qwen 3.8‑27B जैसे मॉडल करीब 20 टोकन प्रति सेकंड की रफ्तार से चला सकता है। यह पहले के सिर्फ CPU पर चलने वाले पोर्ट से काफी तेज़ है, जिनमें RAM की सीमा करीब 6 GiB थी।

यह क्यों मायने रखता है

इससे PS5 के मालिक क्लाउड सेवाओं की जरूरत के बिना, ऑफलाइन AI चैट मॉडल अपने कंसोल पर चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।