Nemotron 3.5 Bolt E4B

NVIDIA Nemotron 3.5 Bolt 4B 超紧凑型推理模型,专为亚秒级高频 Agent 决策与工具路由量身打造,40 RPM 免绑卡可用。

更新于 2026/11/221 个代码示例

关于该模型

为什么要选择 Nemotron 3.5 Bolt E4B?

Nemotron 3.5 Bolt E4B 是 NVIDIA 官方推出的 4B 参数超紧凑型文本推理模型。专为亚秒级响应、轻量 Agent 子代理决策与高并发 API 路由网关量身打造。

核心优势与技术突破

  • 超轻量 4B 架构:单 Token 推理延迟极低,首字生成毫秒级送达,大幅降低流水线调度开销。
  • 严谨工具调用与结构化推理:虽体量精简,但在指令遵循、参数抽取与路由分发方面经过专门强化。
  • 原生 TensorRT-LLM 优化:在各类 NVIDIA GPU 上具备极致吞吐表现。

如何免费接入 (通过 NVIDIA NIM)

为什么选择在 NVIDIA NIM 上调用 Nemotron 3.5 Bolt?

Nemotron 3.5 Bolt E4B 是 NVIDIA 官方推出的极速紧凑型大模型。仅 4B 参数,首字生成毫秒级送达,适合作为复杂 Agent 系统的前置路由分类器、实时语法审查与快速指令响应器。

在浏览器里试用

选个模型、粘贴你自己的免费 Key,即可运行。你的 Key 只用于调用一次该提供商,绝不存储在我们的服务器上。

选个模型、粘贴你自己的免费 Key,即可运行。你的 Key 只用于调用一次该提供商,绝不存储在我们的服务器上。

调用代码示例

curl
curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Authorization: Bearer $NVIDIA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-3.5-bolt-e4b",
    "messages": [{"role": "user", "content": "Extract structured routing parameters from this user request."}]
  }'

社区反馈

评论与你的 GitHub 账号绑定,登录后即可参与讨论。