# llama.cpp unterstützt bis zu 256 Ein-Token-Schaltoptionen

> Die Open-Source-Bibliothek llama.cpp kann für Granite-Switch-Modelle jetzt bis zu 256 verschiedene Optionsmarker zuordnen.

Oossa · 2026-10-17 · https://oossa.com/de/llama-cpp-adds-support-for-256-single-token-switch-options

Das llama.cpp-Projekt hat eine neue Version (b11707) veröffentlicht, die die Funktion GraniteSwitchDecisionFullOptions einführt. Damit kann jedes Switch-Modell bis zu 256 eindeutige Marker aus jeweils einem Token verwenden, zuvor waren es 66. Der Code ermittelt automatisch, welche Zeichen im Vokabular des jeweiligen Modells Ein-Token-Einträge bilden. Die Änderung betrifft die C++-Konvertierungsschicht und ist in den Versionshinweisen dokumentiert.

## Die Fakten

- Release-Tag b11707 am 2026-10-17 veröffentlicht
- Die Unterstützung wurde von 66 auf bis zu 255 eindeutige Ein-Token-Marker erhöht

## Warum es wichtig ist

Entwickler können für Granite-Modelle umfangreichere Entscheidungsprompts erstellen, ohne Tokenlisten manuell zusammenstellen zu müssen.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11707](https://github.com/ggml-org/llama.cpp/releases/tag/b11707) – llama.cpp, 2026-10-17

Zuletzt aktualisiert: 2026-10-17