← Tous les termes de l’IA
Que signifie « Token » ?
Token (jeton)
Le petit morceau de texte qu’un modèle de langage lit et écrit, souvent une partie de mot. Les prix et les limites se comptent généralement en tokens.
Actualités qui mentionnent Token
- llama.cpp adapte la mise à l’échelle par expert et par token pour les modèles MoE
- vLLM réduit jusqu’à 3 fois le délai avant le premier token
- AWS réduit le délai du premier token des agents IA à plusieurs tours
- Vertiv et NVIDIA promettent jusqu’à 30 % de tokens en plus pour les usines d’IA
- i14 entraîne Laplace 3B à 120 000 tokens/s sur AWS Trainium2
- llama.cpp ajoute la prédiction multi-token GLM5‑Next et accélère son exécution
Tous les termes de l’IA
- Intelligence artificielle
- Grand modèle de langage
- Chatbot
- IA générative
- Prompt
- Fenêtre de contexte
- Hallucination
- Agent IA
- Entraînement
- Ajustement fin
- Paramètres
- Modèle ouvert
- Benchmark
- Modèle de raisonnement
- Multimodal
- RAG
- Inférence
- GPU
- API
- Deepfake
- Alignement
- AGI
- Quantification
- Mélange d’experts
- Modèle de diffusion
- Centre de données