从数据中心到桌面:英伟达扩展 Nemotron 家族,推出最高效率的 Super VL 与 Bolt 模型
摘要
英伟达发布 1200 亿参数开源多模态模型 Nemotron 3.5 Super VL,以及面向边缘的 Nemotron 3.5 Bolt 74B-A9B(24GB)与 Bolt E4B(4GB),宣称以约五分之一参数量达到前沿智能体精度、吞吐最高快 5 倍,并覆盖从数据中心到本地设备的完整部署层级。
核心要点
- Nemotron 3.5 Super VL 为 120 亿级(120-billion-parameter)开源模型,在多模态智能体任务——指令遵循、工具调用、多步业务流程与视觉理解——上精度可与英伟达最大的推理模型相当,而参数量约为其五分之一。
- 在 Artificial Analysis Intelligence Index 榜单上,Super VL 相比同级别其他模型最高可实现 5 倍吞吐,被称为同类中最快的开源智能体模型。
- Nemotron 3.5 Bolt 74B-A9B 24GB 采用原生 2-bit 量化装入 24GB 显存,可在 NVIDIA RTX/DGX Spark 上与其他应用并行本地运行,是 PinchBench 同类开源模型第一、BrowseComp 开源模型第二。
- Nemotron 3.5 Bolt E4B 4GB 面向 GeForce RTX、Jetson 与 RTX/DGX Spark 上的物理与对话式智能体,结合自然对话与多轮智能体能力,发布日期为 10 月 23 日;Super VL 与 Bolt 74B-A9B 已可用。
- 三款开源模型并入 Nemotron 家族,与 8 月发布、负责高吞吐负载的 Lightning 和处理最难推理任务的 Ultra 形成分级,Bolt 则把智能带到边缘。
原文佐证
- Nemotron 3.5 Super VL, on Artificial Analysis Intelligence Index leadboard, achieves up to 5x faster throughput compared to other models in its class.
- Bolt 74B-A9B 24GB is designed to run everyday agentic tasks locally on NVIDIA RTX/DGX Spark, using a native 2-bit quantization to fit in 24GB of memory and run alongside other applications.
- Super VL and Bolt 74B-A9B are available now, with Bolt E4B coming Oct. 23.
AI 洞察
英伟达的意图不只是卖模型,而是用「全谱系开源权重」把智能体工作负载锚定在自己的硬件分层上:云端靠 Super VL,边缘靠 Bolt,本地靠 RTX/DGX Spark 与 Jetson。当开源权重允许企业自行后训练并私有部署时,真正的竞争点从「谁的模型最强」转向「谁的推理栈+硬件组合最能压低每 GB、每 token 的智能成本」。若这一策略奏效,闭源前沿模型在企业高吞吐、长周期智能体场景中的价格与部署优势将被持续侵蚀。