Что означает «Квантование»?

Квантование

Хранение чисел модели меньшим числом бит: ей нужно меньше памяти и она работает быстрее ценой небольшой потери качества. Часто используется для запуска ИИ локально.

Все термины ИИ

• Искусственный интеллект
• Большая языковая модель
• Чат-бот
• Генеративный ИИ
• Промпт
• Токен
• Контекстное окно
• Галлюцинация
• ИИ-агент
• Обучение
• Дообучение
• Параметры
• Открытая модель
• Бенчмарк
• Рассуждающая модель
• Мультимодальность
• RAG
• Инференс
• GPU
• API
• Дипфейк
• Согласование
• AGI
• Смесь экспертов
• Диффузионная модель
• Дата-центр