Oossa

Liquid AI, Apple Silicon용 8비트 d1-omni-600M 의사결정 모델 공개

텍스트·이미지·오디오에 관한 여러 유형의 질문에 한 번에 답하는 모델로, MLX를 통해 Apple Silicon에서 0.73 GB로 실행됩니다.

짧은 소식작성: Oossa 게시일: 최종 업데이트: 1 분 읽기

Liquid AI가 Hugging Face에 의사결정 모델 d1-omni-600M의 8비트 변환 버전을 공개했습니다. d1-omni-600M-MLX-8bit라는 이름의 이 버전은 MLX-vlm 라이브러리를 사용해 Apple Silicon에서 실행되며, 용량은 0.73 GB로 원본의 약 60%입니다. 텍스트·이미지·오디오 입력에 대해 이름과 유형을 지정한 여러 질문에 한 번의 순전파로 답할 수 있으며, 생성된 토큰은 반환하지 않습니다. 저장소에는 pip 설치 명령어와 텍스트·이미지·오디오 질의 예제 코드가 포함돼 있습니다.

왜 중요한가

개발자는 GPU 없이도 Mac에서 멀티모달 의사결정 모델을 로컬로 실행할 수 있어, 자동화된 고객 지원 분류와 같은 엣지 애플리케이션의 응답 속도를 높일 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.