Der Reddit-Nutzer u/AdIllustrious7246 hat einen Fork von PS5LM veröffentlicht, einer Portierung von llama.cpp. Sie läuft nativ auf einer gehackten PS5 und kann deren GPU nutzen. Der Fork bewältigt Modelle wie Qwen 3.8‑27B mit etwa 20 Tokens pro Sekunde – deutlich schneller als frühere, ausschließlich CPU-basierte Portierungen, die auf etwa 6 GiB RAM beschränkt waren.
Warum es wichtig ist
PS5-Besitzer können damit KI-Chatmodelle offline und lokal ausführen, ohne auf Cloud-Dienste angewiesen zu sein.
