← Alle AI-begrippen
Wat betekent Token?
Token
Het kleine stukje tekst dat een taalmodel leest en schrijft, vaak een deel van een woord. Prijzen en limieten worden meestal in tokens geteld.
Nieuws over Token
- llama.cpp schaalt MoE-experts per token
- Push-overdracht van KV-cache versnelt eerste token in vLLM
- llama.cpp ondersteunt nu 256 opties met één token
- llama.cpp b11755 voegt MoE-kernel toe voor tokens met 9 experts
- Stacklet lanceert Token Custodian voor grip op AI-kosten
- llama.cpp b11813 voegt Tekken-tokenizer en nieuwe binaries toe