Aleph Alpha는 2026년 7월 10일, Kolibri 언어 모델의 아키텍처가 학습 비용과 배포 비용에 미치는 영향을 자세히 설명한 블로그 글을 공개했습니다. 글에서는 전체 매개변수와 활성 매개변수, 토큰당 FLOPs, 문맥을 저장하는 KV 캐시의 크기를 계산하는 공식을 소개합니다. 대화형 도구를 사용하면 설정을 바꾸고 Kolibri Origin, Kolibri 및 다른 오픈 웨이트 모델을 비교할 수 있습니다.
왜 중요한가
개발자는 이 도구로 모델 크기와 속도 사이의 균형을 따져 하드웨어 예산에 맞는 구성을 선택할 수 있습니다.