Tamaño: 120 B de parámetros totales, 12 B activos (MoE). Contexto: hasta 1 millón de tokens
.
Funciona con: 1 DGX Spark, 1 H200, 2 H100 o 1 GB200 con el punto de control NVFP4. También se publica un punto de control BF16.
Rendimiento: razonamiento sólido, codificación de agencias y visión documental. NVIDIA afirma tener un rendimiento de una sola GPU hasta 5 veces mayor
que el de sus pares abiertos.
El mejor: 89,90 en GPQA-Diamond (NVFP4).
Peor: 17,78 en la banca Tau3 (NVFP4).
¿Qué es Nemotron 3.5 Super VL?
Es un modelo de agente multimodal abierto. Las pesas se envían bajo la licencia OpenMDW-1.1. NVIDIA también publicó conjuntos de datos abiertos, recetas de entrenamiento y entornos RL
en NeMo Gym.
La tarjeta modelo muestra las entradas de texto, imagen y vídeo con la salida de texto. El vídeo está limitado a clips MP4 de hasta 2 minutos. El razonamiento se puede activar o desactivar a través de la plantilla de chat
.
¿Cómo funciona la arquitectura?
La columna vertebral entrelaza Mamba-2, una mezcla de expertos y capas de atención. Cada capa de MoE tiene capacidad para 512 expertos en rutas. Un codificador C-RADIO Vision y un conector introducen imágenes, páginas de documentos y fotogramas de vídeo en la red troncal del lenguaje
.
La velocidad proviene de cuatro técnicas:
Predicción multitoken: un redactor nativo propone varios tokens, verificados en una sola pasada.
LiliCorr: un redactor especulativo para DGX Spark, que genera tokens hasta 2,3 veces más rápido.
NVFP4 con destilación basada en la cuantificación: ponderaciones y activaciones de 4 bits en Blackwell, ponderaciones de 4 bits con activaciones de 16 bits en otros lugares.
Reutilización del contexto: el almacenamiento en caché de prefijos conserva tanto las cachés de atención como los estados de Mamba durante los turnos de los agentes.
El modelo se destiló a partir de Nemotron 3 Ultra. El equipo de NVIDIA afirma que se entrenó con unos 26 billones de fichas. Tras el entrenamiento, se utilizaron aproximadamente 3,8 millones de muestras más RL en docenas de entornos. La capacitación previa continua agregó 10 000 millones de tokens índicos
.
¿Cómo funciona en los puntos de referencia?
Todas las puntuaciones que aparecen a continuación provienen de NVIDIA, según el punto de control NVFP4 de la tarjeta modelo.
Area
Benchmark
Score
Razonamiento
GPQA-Diamond
89.90
Codificación SWE-Bench Verificado 71.07
Codificación
Terminal-Bench 2.1 60.80
Agente web BrowseComp 77.5 Instrucción siguiendo IFBench
52.3 Agente a largo plazo tau3-bench banking 17.78
Una vez que el agente Harness evalúa, Super
NVIDIA just released Nemotron 3.5 Super VL, an open vision-language model built for always-on enterprise agents. Nemotron 3.5 Super VL is a 120B-parameter mixture-of-experts model from NVIDIA that activates 12B parameters per token. It reads text, images, documents and video, then reasons, calls tools and writes code in one model. For developers, 1 open checkpoint replaces a separate text model along with a separate vision model. NVIDIA also shipped 2 edge models, Nemotron 3.5 Bolt 74B-A9B and Bolt E4B.
TL;DR
Size: 120B total parameters, 12B active (MoE). Context up to 1M tokens.
Runs on: 1x DGX Spark, 1x H200, 2x H100 or 1x GB200 with the NVFP4 checkpoint. A BF16 checkpoint is also published.
Performance: Strong reasoning, agentic coding and document vision. NVIDIA claims up to 5x higher single-GPU throughput than open peers.
Best: 89.90 on GPQA-Diamond (NVFP4).
Worst: 17.78 on tau3-bench banking (NVFP4).
What is Nemotron 3.5 Super VL?
It is an open multimodal agent model. Weights ship under the OpenMDW-1.1 license. NVIDIA also released open datasets, training recipes and RL environments in NeMo Gym.
The model card lists text, image and video inputs with text output. Video is limited to MP4 clips up to 2 minutes. Reasoning can be toggled on or off through the chat template.
How does the architecture work?
The backbone interleaves Mamba-2, mixture-of-experts and attention layers. Each MoE layer holds 512 routed experts. A C-RADIO vision encoder and a connector feed images, document pages and video frames into the language backbone.
Speed comes from four techniques:
Multi-token prediction: a native drafter proposes several tokens, verified in 1 forward pass.
LiLiCorr: a speculative drafter for DGX Spark, up to 2.3x faster token generation.
NVFP4 with quantization-aware distillation: 4-bit weights and activations on Blackwell, 4-bit weights with 16-bit activations elsewhere.
Context reuse: prefix caching keeps both attention caches and Mamba states across agent turns.
The model was distilled from Nemotron 3 Ultra. NVIDIA team states that it trained on about 26 trillion tokens. Post-training used roughly 3.8 million samples plus RL across dozens of environments. Continued pretraining added 10B Indic tokens.
How does it perform on benchmarks?
All scores below are NVIDIA-reported, from the NVFP4 checkpoint on the model card.
Area
Benchmark
Score
Reasoning
GPQA-Diamond
89.90
Coding
SWE-bench Verified
71.07
Coding
Terminal-Bench 2.1
60.80
Web agent
BrowseComp
77.5
Instruction following
IFBench
71.50
Charts
CharXiv reasoning
79.88
Documents
MMLongBench-Doc
62.82
Computer use
OSWorld-Verified
52.3
Long-horizon agent
tau3-bench banking
17.78
On agent harness evals, Super VL beats Nemotron 3 Ultra. It scores 63.44% on Hermes Bench versus 56.33%. On LangChain evals it scores 87.05% versus 84.3%. Ultra carries about 4.6x more total parameters.
NVIDIA team reports over 600 output tokens per second on Artificial Analysis agentic tasks via a Baseten endpoint. Its chart marks a 5x speed gap over Inkling Small.
For production, Dynamo recipes add KV-aware routing. On 16 B200 GPUs at 50 tokens per second per user, NVIDIA reports 8x more users served. First-token latency drops 85%.
Customization runs through NeMo AutoModel for SFT and LoRA, and NeMo RL for reinforcement learning. NVIDIA cites early results:
Scale AI for Skydance vendor credit processing: 40x lower inference cost and 5x lower latency.
Ramp receipt-to-JSON extraction: up to 50% higher throughput and 10x lower latency expected.
AI21 for Alice threat intelligence: 40% higher accuracy.
What are the Nemotron 3.5 Bolt models?
Nemotron 3.5 Bolt 74B-A9B targets local agents. NVIDIA’s launch notes describe it as distilled from Super VL. Native 2-bit quantization fits it into 24GB of memory on RTX and DGX Spark systems. NVIDIA says it ranks #1 among open models in its class on PinchBench. It ranks #2 on BrowseComp among open models. It is available now on Hugging Face with llama.cpp, Ollama, LM Studio, Unsloth and vLLM support.
Bolt E4B 4GB arrives October 23. It targets voice assistants and embedded agents on GeForce RTX, Jetson and RTX or DGX Spark.
Key Takeaways
120B MoE, 12B active, 1M context, open weights under OpenMDW-1.1.
1 model handles text, images, documents, video, tools and code.
NVFP4 checkpoint runs on a single DGX Spark, H200 or GB200.
89.90 GPQA-Diamond, but only 17.78 on tau3-bench banking.
Bolt 74B-A9B brings a 24GB local agent model to RTX PCs.
</div>
<div class="stage" data-i="2">Hybrid MoE<small>Mamba-2 + attention</small></div><div class="arr">
Back</button>
<button class="btn pri" id="mtp-next">Next