Das Projekt Strata soll große Sprachmodelle auf Gaming-PCs nutzbar machen, deren Grafikkarte dafür normalerweise zu wenig Speicher hat. Heise hat die Software getestet; die vorliegende Leseprobe verrät jedoch nicht, welches Modell lief oder wie schnell es war. Laut Artikel braucht der Rechner mindestens 12 GByte Grafikspeicher und 32 GByte Arbeitsspeicher. Das GitHub-Projekt hatte dem Text zufolge schon kurz nach seinem ersten Release 19.000 Sterne gesammelt.
Warum es wichtig ist
Für Besitzer eines Gaming-PCs mit diesen Speichermengen könnte Strata den lokalen Einsatz größerer KI-Modelle ermöglichen; welche Modelle praktikabel laufen, bleibt in der Leseprobe offen.
