Nemotron 3.5 Lightning

NVIDIA's 30B-A3B Mamba-2/MoE hybrid architecture with NVFP4 quantization and millisecond latency.

Actualizado el 30/8/20261 ejemplos de código

Sobre el modelo

为什么要选择 Nemotron 3.5 Lightning?

Nemotron 3.5 Lightning 是 NVIDIA 于 2026 年 8 月最新发布的轻量级旗舰 MoE 模型。总参数 30B,每次仅激活 3B 参数,融合了 Mamba-2 状态空间模型与 MoE 混合架构,专为高并发 Coding Agent、工具编排与实时自动补全量身定制。

核心优势与技术突破

  • 30B-A3B 极速架构:单 Token 推理延迟大幅低于传统 Dense 架构,首字生成时间达到毫秒级,大幅缩短 Agent 决策循环等待时间。
  • 原生 NVFP4 深度优化:在 NVIDIA Blackwell / Hopper 架构 GPU 上深度优化,显存开销更小、吞吐速度翻倍。
  • 100 万(1M)Token 上下文:支持长文本代码审阅与复杂系统日志分析,长程上下文忠实度极高。

Cómo Acceder Gratis (vía NVIDIA NIM)

Why Choose Nemotron 3.5 Lightning on NVIDIA NIM?

Released in August 2026, Nemotron 3.5 Lightning combines Mamba-2 state-space efficiency with MoE sparsity (30B total, 3B active) for the lowest latency in autonomous agent execution.

Pruébalo en tu navegador

Elige un modelo, pega tu propia clave gratuita y ejecuta. Tu clave se envía una vez para llamar al proveedor y nunca se almacena en nuestros servidores.

Elige un modelo, pega tu propia clave gratuita y ejecuta. Tu clave se envía una vez para llamar al proveedor y nunca se almacena en nuestros servidores.

Ejemplos de Código

curl
curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Authorization: Bearer $NVIDIA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/nemotron-3.5-lightning-30b-a3b",
    "messages": [{"role": "user", "content": "Explain Mamba-2 state space models."}]
  }'

Comentarios de la comunidad

Los comentarios están vinculados a tu cuenta de GitHub; inicia sesión para participar en la discusión.