英伟达发布 Nemotron 3.5 Lightning 30B A3B，主打 Agent 执行层
2026年8月11日，英伟达发布开源模型 Nemotron 3.5 Lightning 30B A3B，同一天推出模型路由库 NeMo Switchyard。模型采用混合 Mamba 的 MoE 架构，总参数 30B，单 token 激活约 3B。
英伟达开发者博客给这款模型的定位很直接：Agent 执行层。博客原文写道，长期运行的 AI Agent 大部分时间花在高频执行上，包括工具调用、结果验证和子代理委派；如果每一步都调用前沿推理模型，成本和延迟都会增加。Nemotron 3.5 Lightning 30B A3B 就是用来接这部分活的。
规划和执行拆开
英伟达把 Agent 工作流拆成两层。复杂规划和推理交给 Nemotron 3 Ultra、GPT-5.6 这类前沿模型，高频、低复杂度的执行步骤交给更小的模型。开发者博客的说法是，前沿模型赢得头条，Nemotron 3.5 Lightning 30B A3B 这类模型在“战壕”里赢得勋章。它处理 git pull、验证工具输出、格式化结果这类日常调用，这些调用支配着长期运行 Agent 的 token 预算。
30B 总参、3B 激活的设计对应这个场景。MoE 让模型总容量够大，但每个 token 只走一小部分参数，推理成本压到前沿模型的零头。混合 Mamba 则针对长序列和吞吐做优化。规格细节写在英伟达官方技术博客和 HuggingFace 模型卡上。
NeMo Switchyard 管路由
同一天发布的 NeMo Switchyard 是一个模型路由库。Agent 系统里同时跑规划和执行模型时，需要决定哪个请求交给哪个模型。Switchyard 做的就是这件事。英伟达没有在博客里展开它的调度策略，但从命名看，它面向多模型分工的部署场景。
许可沿用 NVIDIA Open Model License。已有部署指南参考 Ollama 官方文档和社区实测数据，本地跑 Nemotron 3.5 Lightning 30B A3B 的路径已经有人走通。
执行层的账
Agent 落地的一个现实问题是账单。一个任务里真正需要强推理的步骤可能不到两成，剩下八成是查表、调工具、核对返回值。用前沿模型跑这八成，成本曲线很难看。Nemotron 3.5 Lightning 30B A3B 切的是这块市场，同类思路的还有各家的小尺寸 MoE 模型。
英伟达同时卖 GPU 和开源模型。模型越小、部署越广，推理卡的需求越分散。Lightning 这类执行层模型如果真被 Agent 工作流大量采用，对英伟达的算力生意是增量。
来源