Liquid AI가 Hugging Face에 의사결정 모델 d1-omni-600M의 8비트 변환 버전을 공개했습니다. d1-omni-600M-MLX-8bit라는 이름의 이 버전은 MLX-vlm 라이브러리를 사용해 Apple Silicon에서 실행되며, 용량은 0.73 GB로 원본의 약 60%입니다. 텍스트·이미지·오디오 입력에 대해 이름과 유형을 지정한 여러 질문에 한 번의 순전파로 답할 수 있으며, 생성된 토큰은 반환하지 않습니다. 저장소에는 pip 설치 명령어와 텍스트·이미지·오디오 질의 예제 코드가 포함돼 있습니다.
왜 중요한가
개발자는 GPU 없이도 Mac에서 멀티모달 의사결정 모델을 로컬로 실행할 수 있어, 자동화된 고객 지원 분류와 같은 엣지 애플리케이션의 응답 속도를 높일 수 있습니다.