量化是什么意思？

量化

用更少的比特存储模型的数字，以减少内存并加快速度，代价是质量略有下降。在本地运行 AI 时很常见。

全部 AI 术语

• 人工智能
• 大语言模型
• 聊天机器人
• 生成式 AI
• 提示词
• Token
• 上下文窗口
• 幻觉
• AI 智能体
• 训练
• 微调
• 参数
• 开放权重模型
• 基准测试
• 推理模型
• 多模态
• RAG
• 推理计算
• GPU
• API
• 深度伪造
• 对齐
• AGI
• 混合专家
• 扩散模型
• 数据中心