SheepNav
新上线13天前0 投票

NVIDIA Nemotron 3.5 Lightning 登陆 Amazon SageMaker JumpStart,加速高并发 Agent 工作负载

NVIDIA Nemotron 3.5 Lightning 现已上线 Amazon SageMaker JumpStart,这是一款专为高并发 Agent 工作负载设计的开源模型。该模型采用混合专家(MoE)架构,总参数量 30B,但仅有 3B 激活,可在单 GPU 上运行,吞吐量最高提升 4 倍,任务完成速度最高提升 30%。本文介绍如何通过 SageMaker JumpStart 快速部署该模型,并解析其技术亮点与适用场景。

延伸阅读

  1. 马斯克加速燃气轮机生产的新路径,却伴随污染争议
  2. 德州州长冻结Flock AI监控摄像头资金,反监控浪潮席卷全美
  3. Caterpillar:从自动化采矿到AI部署,经验如何迁移?
查看原文