llama.cpp 프로젝트가 SenseNova U1의 밀집 이해 계열 모델을 불러와 일반 CPU에서 실행할 수 있는 새 버전을 출시했다. 여기에는 U1.5‑8B‑MoT 모델도 포함된다. 모델의 비전 인코더를 변환하는 도구도 추가돼 해상도와 관계없이 이미지를 입력할 수 있다. 생성 계열 모델은 아직 지원되지 않아 이번 업데이트는 이해 작업만 지원한다. 이번 변경 사항은 Hugging Face의 Sigbjørn Skjæret도 공동 작성했다.
왜 중요한가
이제 CPU 사용자도 GPU 없이 고해상도 SenseNova U1 비전 모델을 실행할 수 있다.