← Alla AI-begrepp
Vad betyder Token?
Token
Den lilla textbit som en språkmodell läser och skriver, ofta en del av ett ord. Priser och gränser räknas oftast i tokens.
Nyheter som nämner Token
- Inception lanserar Mercury 3 – en diffusionsmodell med 1 068 token/s
- Vertiv och NVIDIA presenterar metod för AI-fabriker: upp till 30 % fler token
- i14 tränar Laplace 3B på AWS Trainium2 med 120 000 token/s
- Pushbaserad KV-överföring ger snabbare första token i vLLM
- AI-agenter använder fem gånger fler token än människor
- llama.cpp b11471 får nya token och färdigbyggda binärer