양자화, 무슨 뜻일까?

양자화

모델의 숫자를 더 적은 비트로 저장해 메모리를 줄이고 속도를 높이는 것. 품질은 조금 떨어집니다. AI를 내 컴퓨터에서 돌릴 때 흔히 씁니다.

모든 AI 용어

• 인공지능
• 대규모 언어 모델
• 챗봇
• 생성형 AI
• 프롬프트
• 토큰
• 컨텍스트 창
• 환각
• AI 에이전트
• 학습
• 파인튜닝
• 파라미터
• 공개 모델
• 벤치마크
• 추론 모델
• 멀티모달
• RAG
• 인퍼런스
• GPU
• API
• 딥페이크
• 정렬
• AGI
• 전문가 혼합
• 확산 모델
• 데이터센터