← Tous les termes de l’IA
Que signifie « Quantification » ?
Quantification
Stocker les nombres d’un modèle sur moins de bits pour qu’il utilise moins de mémoire et soit plus rapide, au prix d’une légère perte de qualité. Courant pour faire tourner l’IA en local.
Actualités qui mentionnent Quantification
- Une technique améliore la quantification basse précision des LLM sans surcoût à l’inférence
- llama.cpp b11799 accélère la déquantification q8 avec SYCL
- llama.cpp b11810 ajoute des options de déquantification et des binaires
- llama.cpp corrige un rare plantage lors de la quantification
- llama.cpp ajoute de nouveaux formats de quantification WebGPU
- llama.cpp repacke les tenseurs Hexagon et ajoute de nouvelles quantifications
Tous les termes de l’IA
- Intelligence artificielle
- Grand modèle de langage
- Chatbot
- IA générative
- Prompt
- Token
- Fenêtre de contexte
- Hallucination
- Agent IA
- Entraînement
- Ajustement fin
- Paramètres
- Modèle ouvert
- Benchmark
- Modèle de raisonnement
- Multimodal
- RAG
- Inférence
- GPU
- API
- Deepfake
- Alignement
- AGI
- Mélange d’experts
- Modèle de diffusion
- Centre de données