엔비디아 네모트론 3.5 슈퍼 VL 공개 - 속도에 초점을 맞춘 오픈 웨이트 모델

 (출처: 엔비디아)

​

​

엔비디아가 새로운 오픈 웨이트 모델인 네모트론 3.5 슈퍼 VL을 공개했습니다. 이 모델은 총 120B 파라미터의 MoE 구조 모델로 12B 활성 파라미터를 지니고 있습니다. 비슷한 체급의 다른 중국 오픈 웨이트 모델보다 더 추론 성능이 높진 않지만, 네모트론 3 울트라 (550B 파라미터 55B 활성)에 비슷한 추론 성능에 훨씬 작고 빠른 LLM을 목표로 개발됐습니다.

​

아쉬운 대목은 현재 개인용 로컬 LLM에서 최강자로 불리는 Qwen 3.8 27B와 비교해서 추론 성능이 더 높지 않다는 것입니다. 파라미터가 4배 이상 많은 점을 생각하면 다소 아쉬운 부분입니다.

​

벤치마크	Nemotron 3.5 Super VL	Qwen3.8 27B	우위
GPQA-Diamond	~89.5–89.9	89.2	거의 동등 (Nemotron 미세 우위 가능)
SWE-bench Pro	51.78	61.7	Qwen 우위
Terminal-Bench 2.1	~66.7	73.0	Qwen 우위
DeepSWE	~24.7	42.2	Qwen 우위
LiveCodeBench v6	88.22	90.3	Qwen 우위
IFBench	~70.9	79.5	Qwen 우위
HLE	~29.2	30.8	Qwen 우위
AA Intelligence Index	~26	~34	Qwen 우위

​

솔직히 앞서 소개드린 것처럼 Qwen 3.8 27B도 GSQ RCO 모델처럼 크기를 줄인 모델의 경우 16GB VRAM에 다 올리면 MTP 사용시 속도 50 TPS 이상도 가능합니다. 그냥 MTP 빼고 사용해도 충분한 속도가 나와서 로컬에서 사용하기에 무리가 없습니다. 다만 네모트론 3.5 슈퍼 VL은 개인 사용자보다는 기업에서 로컬 서비스를 빠르게 하기 위해 나온 모델이라고 할 수 있습니다.

​

네모트론 3.5 슈퍼 VL는 인터랙티브 에이전트 워크로드에서 Qwen 3.8 Flash-Next 대비 약 1.90배, Qwen 3.5 122B-A10B 대비 약 2.34배의 속도를 지니고 있습니다. 그리고 Artificial Analysis 측정에서도 Intelligence Index 20점 이상 모델 중 가장 빠른 출력 속도(~630 tokens/s 수준, 긴 프롬프트 기준)를 보였고, 같은 클래스 대비 최대 5배 빠르다는 게 엔비디아의 주장입니다. 활성 파라미터가 12B로 작아서 메모리·연산 효율이 좋고, hybrid Mamba-Transformer + MTP speculative decoding + NVFP4 양자화 덕분에 엔비디아 GPU에서 빠른 속도를 보장합니다.

​

다만 그렇다고는 해도 최신 오픈 웨이트 모델 가운데 용량 대비 성능이 그다지 우수하지 않은 점은 아쉬운 대목입니다. 사후 훈련에 강하다고 주장하긴 하지만, 모델을 수정하지 않더라도 이미 Qwen 3.8이 더 강한 성능을 지니고 있어 사용자 입장에서 유리합니다.

​

엔비디아 네모트론은 아직 사용자가 많지 않은 것으로 알려져 있습니다. 앞으로 널리 쓰이는 오픈 모델이 되기 위해서는 속도 뿐 아니라 성능을 더 높여야 하지 않을까 생각합니다.

​

참고

​

https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/

​

https://developer.nvidia.com/blog/nvidia-nemotron-3-5-super-vl-powers-specialized-agents-with-multimodal-reasoning/

​