Oossa

اجرای مدل‌های هوش مصنوعی محلی با گرافیک PS5 جیلبریک‌شده

یک فورک جامعه کاربری، امکان اجرای مدل‌های زبانی بزرگ‌تری مثل Qwen 3.8‑27B را روی PlayStation 5 هک‌شده با سرعت حدود ۲۰ توکن در ثانیه فراهم می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کاربر Reddit با نام u/AdIllustrious7246 فورکی از PS5LM منتشر کرده است؛ پورتی از llama.cpp که به‌صورت بومی روی PS5 جیلبریک‌شده اجرا می‌شود و می‌تواند از پردازنده گرافیکی کنسول استفاده کند. این فورک از مدل‌هایی مانند Qwen 3.8‑27B پشتیبانی می‌کند و آن‌ها را با سرعت حدود ۲۰ توکن در ثانیه اجرا می‌کند؛ بسیار سریع‌تر از پورت‌های قبلی که فقط از پردازنده استفاده می‌کردند و به حدود 6 GiB حافظه رم محدود بودند.

چرا مهم است

این امکان را به دارندگان PS5 می‌دهد که مدل‌های گفت‌وگوی هوش مصنوعی را به‌صورت محلی و آفلاین، بدون نیاز به سرویس‌های ابری اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.