Nemotron 3.5 Bolt E4B
NVIDIA Nemotron 3.5 Bolt 4B 超紧凑型推理模型,专为亚秒级高频 Agent 决策与工具路由量身打造,40 RPM 免绑卡可用。
更新于 2026/11/221 个代码示例
关于该模型
为什么要选择 Nemotron 3.5 Bolt E4B?
Nemotron 3.5 Bolt E4B 是 NVIDIA 官方推出的 4B 参数超紧凑型文本推理模型。专为亚秒级响应、轻量 Agent 子代理决策与高并发 API 路由网关量身打造。
核心优势与技术突破
- 超轻量 4B 架构:单 Token 推理延迟极低,首字生成毫秒级送达,大幅降低流水线调度开销。
- 严谨工具调用与结构化推理:虽体量精简,但在指令遵循、参数抽取与路由分发方面经过专门强化。
- 原生 TensorRT-LLM 优化:在各类 NVIDIA GPU 上具备极致吞吐表现。
如何免费接入 (通过 NVIDIA NIM)
为什么选择在 NVIDIA NIM 上调用 Nemotron 3.5 Bolt?
Nemotron 3.5 Bolt E4B 是 NVIDIA 官方推出的极速紧凑型大模型。仅 4B 参数,首字生成毫秒级送达,适合作为复杂 Agent 系统的前置路由分类器、实时语法审查与快速指令响应器。
在浏览器里试用
选个模型、粘贴你自己的免费 Key,即可运行。你的 Key 只用于调用一次该提供商,绝不存储在我们的服务器上。
选个模型、粘贴你自己的免费 Key,即可运行。你的 Key 只用于调用一次该提供商,绝不存储在我们的服务器上。
调用代码示例
curl
curl https://integrate.api.nvidia.com/v1/chat/completions \
-H "Authorization: Bearer $NVIDIA_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nvidia/nemotron-3.5-bolt-e4b",
"messages": [{"role": "user", "content": "Extract structured routing parameters from this user request."}]
}'
社区反馈
评论与你的 GitHub 账号绑定,登录后即可参与讨论。