英伟达于10月15日发布了开放权重多模态大模型 Nemotron 3.5 Super VL:总参数1200亿、每个token仅激活120亿,定位是面向长时间在线的专用企业AI智能体。同批亮相的还有两款主攻本地与端侧部署的Bolt系列模型。在10月中旬本已密集的开源模型发布潮中,这又是分量不轻的一次。
事件详情:Super VL 与两款 Bolt 模型
Super VL 采用混合专家(MoE)架构,总参数1200亿、激活参数120亿,单层含512个路由专家。它把文本理解、图像与文档识别、视频分析、推理、工具调用和代码生成装进同一个模型,可解析图表、表格、扫描件、多页PDF,以及最长2分钟的MP4视频片段。企业不再需要为语言任务和视觉任务各维护一套模型,智能体可以在一个模型内读完报表图表、再对照后文表格完成总结。
模型上下文窗口达100万token(官方托管端点限制为26.2万),推理模式可通过对话模板开关。权重以OpenMDW-1.1许可发布、允许商业使用,已在Hugging Face、OpenRouter和ModelScope上架,训练数据集、训练配方与NeMo Gym中的强化学习环境也一并开放。
性能方面,英伟达称Super VL在多模态智能体任务上的准确率可与自家最大的推理模型Nemotron 3 Ultra相当,参数量约为其五分之一;单GPU智能体任务吞吐最高可达同尺寸开放模型的5倍,依据是Artificial Analysis Intelligence Index榜单实测。该榜单给出Super VL智能指数26.5分——美国领先的开放权重模型,约为前代Nemotron 3 Super(13分)的两倍;NVFP4量化版与BF16版得分差距仅0.1分。部署上,NVFP4检查点可运行于一台DGX Spark、一张H200、两张H100或一台GB200。
同批Bolt系列主打“装得进本地机器”:Bolt 74B-A9B 24GB总参数740亿、激活90亿,用原生2比特量化压进24GB显存,在RTX PC、DGX Spark上可与其他应用并行运行,支持llama.cpp、Ollama、LM Studio、Unsloth和vLLM,现已可下载;更小的Bolt E4B 4GB面向GeForce RTX、Jetson设备的对话与物理智能体,定于10月23日提供。
企业生态与评测
公告列出的一批后训练与集成案例覆盖金融智能体(Scale AI)、信用协议分析(AfterQuery)、皮肤科处方起草(TrainLoop),以及供应商审核、并购尽调、网络安全分诊等场景;Atlassian、CrowdStrike、Salesforce、Perplexity等平台方已接入。安全评测上,200项间接提示注入测试中,后训练模型得分从35.19升至76.16,超过GPT-6.1 Sol——但这只是定制系统在特定流程上的结果,不代表原始模型在通用能力上全面超越GPT或Claude。
背景分析:从“拼参数”转向“拼效率”
Nemotron家族分工明确:Lightning主打高吞吐,Ultra主打深度推理,Super VL卡位多模态智能体。据称Super VL由Nemotron 3 Ultra蒸馏而来,配合投机解码、NVFP4量化与多token预测,在压缩参数的同时保留智能体任务精度。
时间点值得注意:榜单机构BenchLM统计10月已确认的模型发布达22个,追踪总数超221个;同一天Meta的8160亿参数开源模型Muse Spark Open等也相继发布。当参数竞赛走到千亿量级,“每token只激活120亿”的MoE和“塞进24GB显存”的2比特量化说明,竞争焦点正从堆参数转向效率与部署成本——谁的模型能在更便宜的硬件上跑起来,谁就更容易进入企业的采购清单。
影响与展望:本地智能体门槛被压低
对企业来说,这批模型的最大意义是可用性:开放权重意味着可用私有数据后训练、部署在自有基础设施上;Bolt系列则让敏感文档不必上传云端,在一台高配工作站甚至笔记本上就能跑起带视觉理解的智能体,对律所、金融、医疗等数据不出域的行业是实质性选项。
落地前仍有功课:2比特量化的输出稳定性需在自有数据上验证,榜单分数不等于业务表现。选型更值得看文档解析准确率、工具调用成功率、并发延迟与成本,以及后训练运维的总投入。随着厂商纷纷把“效率”当卖点,开源市场的分化会加剧——大参数拼上限、小模型拼部署,选型逻辑将越来越依赖真实业务测试,而非发布会数字。