Oossa

NVIDIA, 양자화한 Nemotron 3.5 Super VL 모델 공개

1200억 개 매개변수를 갖춘 비전·언어 모델로, 텍스트와 이미지, 동영상을 입력할 수 있다. NVIDIA는 NVFP4 버전이 BF16 모델보다 메모리를 적게 사용한다고 밝혔다.

짧은 소식작성: Oossa 게시일: 최종 업데이트: 1 분 읽기

NVIDIA가 Hugging Face에 NVIDIA Nemotron 3.5 Super VL NVFP4를 공개했다. 이 비전·언어 모델은 텍스트와 이미지, 동영상을 입력으로 받을 수 있으며, 가중치는 상업적·비상업적 용도로 모두 사용할 수 있는 OpenMDW 1.1 라이선스로 제공된다.

모델의 전체 매개변수는 1200억 개이며, 한 번에 활성화되는 매개변수는 120억 개다. 최대 100만 토큰의 컨텍스트를 지원한다. NVIDIA는 H200 한 대 또는 H100 두 대를 포함한 하드웨어에서 배포할 수 있다고 안내했다. GPQA-Diamond 점수는 NVFP4 버전이 89.90으로, BF16 버전의 89.52보다 높다고 밝혔다.

왜 중요한가

지원되는 NVIDIA GPU를 보유한 개발자는 공개된 가중치로 텍스트와 시각 정보를 처리하는 에이전트를 만들 수 있다. 다만 원문에는 가격이나 독립적인 벤치마크 결과가 제시되지 않았다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.