Golem-Redakteur Mike Faust hat sechs Mini-PCs darauf getestet, wie schnell sie Sprachmodelle lokal ausführen. Im Test war auch ein aktueller Mac Mini mit M6. Dafür nutzte Golem ein quelloffenes Werkzeug, das Modelle über Ollama laufen lässt und ihre Geschwindigkeit in Tokens pro Sekunde misst.
Getestet wurden Modelle der Reihen Phi 3, Gemma 2, Mistral, DeepSeek-R1 und Llava. Welche Rechner am schnellsten waren, geht aus dem vorliegenden Textausschnitt nicht hervor. Golem weist darauf hin, dass neben dem Prozessor auch Modellgröße, Arbeitsspeicher, Grafikkarte und Systemkonfiguration die Werte beeinflussen.
Warum es wichtig ist
Wer einen Mini-PC für lokale KI-Modelle vergleicht, erfährt, welche Faktoren die Geschwindigkeit beeinflussen; welcher Rechner im Test gewinnt, bleibt im vorliegenden Ausschnitt offen.
