Redditユーザーのu/AdIllustrious7246が、llama.cppを移植したPS5LMのフォーク版を公開した。脱獄したPS5上でネイティブに動作し、ゲーム機のGPUを利用できる。Qwen 3.8‑27Bなどのモデルを毎秒約20トークンで処理でき、RAMが約6 GiBに制限されていた従来のCPUのみの移植版より大幅に高速だ。
なぜ重要か
PS5の所有者は、クラウドサービスを使わずにAIチャットモデルをオフラインでローカル実行できる。
脱獄したPS5でGPUを使ったローカルAIモデルの実行が可能に
コミュニティーによるフォーク版により、脱獄したPlayStation 5でQwen 3.8‑27Bなどの大規模LLMを毎秒約20トークンで実行できる。
短信著者： OossaOossa公開日: 1 分で読める
次に読む
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。