Oossa

NVIDIA Nemotron 3.5 Super VL, SageMaker JumpStart에 추가

AWS 고객은 이미지·동영상·텍스트 작업에 NVIDIA 모델을 배포할 수 있다. 추론용과 맞춤화용 모델이 각각 제공된다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

AWS가 파운데이션 모델 배포 카탈로그인 Amazon SageMaker JumpStart에 NVIDIA Nemotron 3.5 Super VL을 추가했다. 이 모델은 이미지, 동영상, 텍스트를 입력받아 텍스트를 생성하며, 문서 분석, 동영상 질의응답, 그래픽 인터페이스 이해 등에 활용할 수 있다.

최대 1 million tokens의 컨텍스트 길이를 지원한다. JumpStart는 지정된 G7 인스턴스에서 추론할 수 있는 NVFP4 모델과, 맞춤화를 위한 ml.p5en.48xlarge 인스턴스용 BF16 기준 가중치를 제공한다. AWS에 따르면 후자는 파인튜닝을 비롯한 다양한 방식의 조정을 지원한다.

왜 중요한가

문서나 동영상 애플리케이션을 개발하는 AWS 고객은 SageMaker JumpStart를 통해 모델을 배포할 수 있고, 특정 분야에 맞는 동작이 필요하면 BF16 가중치를 조정할 수 있다. 원문에는 가격이나 성능 비교 정보가 없다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.