Was bedeutet Inferenz?

Inferenz

Das Ausführen eines fertig trainierten Modells, um eine Antwort zu erhalten. Jede Chatnachricht ist eine Inferenz – dafür zahlen KI-Dienste mit Chips und Strom.

Alle KI-Begriffe

• Künstliche Intelligenz
• Großes Sprachmodell
• Chatbot
• Generative KI
• Prompt
• Token
• Kontextfenster
• Halluzination
• KI-Agent
• Training
• Feinabstimmung
• Parameter
• Offenes Modell
• Benchmark
• Reasoning-Modell
• Multimodal
• RAG
• GPU
• API
• Deepfake
• Alignment
• AGI
• Quantisierung
• Mixture of Experts
• Diffusionsmodell
• Rechenzentrum