← Tutti i termini dell’IA
Che cosa significa Quantizzazione?
Quantizzazione
Memorizzare i numeri di un modello con meno bit, così occupa meno memoria e va più veloce, perdendo un po’ di qualità. Comune per usare l’IA in locale.
Notizie che citano Quantizzazione
- llama.cpp aggiunge il supporto alla quantizzazione Q1_0 e Q2_0 per Hexagon NPU
- Una nuova tecnica migliora la quantizzazione degli LLM a pochi bit
- llama.cpp b11685 accelera la dequantizzazione q4_K/q5_K con SYCL
- llama.cpp b11810 aggiunge switch di dequantizzazione e nuovi binari
- llama.cpp corregge un raro crash durante la quantizzazione
- llama.cpp b11345 aggiunge due tipi di quantizzazione Hexagon
Tutti i termini dell’IA
- Intelligenza artificiale
- Modello linguistico di grandi dimensioni
- Chatbot
- IA generativa
- Prompt
- Token
- Finestra di contesto
- Allucinazione
- Agente IA
- Addestramento
- Fine-tuning
- Parametri
- Modello aperto
- Benchmark
- Modello di ragionamento
- Multimodale
- RAG
- Inferenza
- GPU
- API
- Deepfake
- Allineamento
- AGI
- Mixture of experts
- Modello di diffusione
- Data center