NVIDIA는 2026년 10월 14일 Nemotron 3.5 Super와 Nemotron 3.5 Lightning을 발표하고 모델 체크포인트와 관련 자료를 공개한다고 밝혔다. Super는 전체 매개변수가 1200억 개이며 토큰당 120억 개를 사용하는 모델이다. 텍스트 전용 모델인 Lightning은 전체 매개변수 300억 개 중 토큰당 30억 개를 활성화한다. 두 모델 모두 Mamba와 Transformer 구성 요소를 결합한 하이브리드 설계에 전문가 혼합(Mixture-of-Experts) 방식을 적용해, 토큰마다 모델의 일부만 활성화한다.
두 모델은 긴 문서와 소프트웨어가 도구를 활용해 여러 단계를 수행하는 에이전트형 작업을 겨냥한다. Super는 텍스트, 이미지, 동영상과 대화형 도구를 처리할 수 있다. NVIDIA는 두 모델 모두 최대 100만 토큰의 컨텍스트 길이를 지원한다고 밝혔다. 공개 자료에는 BF16 및 압축된 NVFP4 체크포인트와 학습·평가 레시피, 데이터 세트, 추측 디코딩 도구가 포함된다. NVIDIA의 발표에는 가격이나 라이선스 조건이 명시되지 않았다.
NVIDIA가 밝힌 Super의 성능
NVIDIA에 따르면 후처리 학습을 거친 Super는 소프트웨어 엔지니어링 벤치마크인 SWE-bench Pro에서 51.78%를 기록해 Nemotron 3 Ultra를 앞섰으며, 활성 매개변수는 약 4.6배 적게 사용했다. 회사는 에이전트 작업에 초점을 둔 학습으로 DeepSWE pass@1 점수가 6.4%에서 10.4%로 올랐다고도 밝혔다. 이는 NVIDIA가 공개한 평가 결과이며, 제공된 자료에는 독립적인 검증 결과가 포함되지 않았다.
회사는 Super를 개발하는 데 상당한 학습 과정을 거쳤다고 설명한다. 인도의 22개 언어와 34개 언어·문자 조합을 다룬 데이터로 추가 학습을 진행했으며, NVIDIA는 이 과정에서 평가 대상인 인도 언어 벤치마크 5개 점수가 최대 9.82%포인트 향상됐다고 밝혔다. 이후 긴 컨텍스트 작업과 소프트웨어 엔지니어링을 대상으로 추가 학습을 진행했다. 회사는 마지막 학습 단계에서 Super의 RULER-1M 점수가 앞선 단계 이후 33.5까지 낮아졌다가 81.0으로 회복됐다고 밝혔다.
성능은 테스트 환경에 따라 달라진다
NVIDIA는 여러 에이전트를 병렬로 실행하고 서로 답변을 검토하게 하는 방식도 시험했다. 회사가 평가한 환경에서 이 방식은 Terminal-Bench 2.1 점수를 62.7%에서 71.9%로, DeepSWE 점수를 24.6%에서 34.5%로, BrowseComp 점수를 71.5%에서 79.8%로 끌어올렸다. 이 수치는 해당 멀티에이전트 방식의 결과이며, 모든 배포 환경에서 보장되는 성능은 아니다.
속도와 관련해 NVIDIA는 20턴 에이전트 작업을 시험했을 때 GB200 GPU 한 대에서 초당 최대 4,856개의 출력 토큰을 생성하면서 사용자당 초당 최소 50토큰을 유지했다고 밝혔다. 회사에 따르면 NVFP4 버전은 36개 벤치마크에서 BF16 정확도의 중앙값 기준 99.62%를 회복했다. 이러한 결과는 NVIDIA 하드웨어와 테스트 환경에 따라 달라지며, 다른 시스템에서의 성능을 보여주는 것은 아니다.
왜 중요한가
연구자와 개발자는 공개된 체크포인트와 레시피를 활용해 처음부터 학습하지 않고도 모델을 시험하거나 기반으로 삼아 개발할 수 있다. NVIDIA의 벤치마크 결과를 보면 Super는 소프트웨어 엔지니어링 에이전트에 적합할 가능성이 있지만, 제공된 정보만으로는 독립적인 성능 검증 결과와 라이선스 조건, 실제 배포에 필요한 하드웨어를 알기 어렵다.
