Das llama.cpp-Projekt hat am 4. November 2026 die Vorabversion b12091 veröffentlicht. Die wichtigste Änderung: Beim Setzen von Checkpoints speichert und lädt sie den verborgenen Zustand für MTP, eine Methode des spekulativen Decodings. Laut den Versionshinweisen wird nur die verborgene Zeile an der Grenze gespeichert; bei unterstützten Wiederherstellungspfaden werden die Verifizierungszeilen neu erstellt.
Die Version umfasst Builds für macOS, iOS, Linux, Android und Windows, darunter Varianten für unterschiedliche Prozessoren und Beschleuniger. Die Versionshinweise nennen keine Auswirkungen der Änderung auf die Leistung.
Warum es wichtig ist
Für Entwickler, die MTP in llama.cpp einsetzen, ändert sich dadurch, wie verborgene Zustände bei unterstützten Wiederherstellungen erhalten bleiben. Ob sich dadurch Geschwindigkeit oder Zuverlässigkeit verbessern, geht aus den Versionshinweisen nicht hervor.
