智能体
x.com ·
@NVIDIA AI (@NVIDIAAI)
NVIDIA 发布 Nemotron 3.5 Bolt 24GB:74B-A9B 参数装入 24GB 显存
NVIDIA 推出 Nemotron 3.5 Bolt 24GB,采用 74B-A9B 参数配置,可放入 24GB 显存,官方定位为在本地运行 agent 的模型,兼顾智能与速度,可与本机应用并行运行,并针对 RTX Spark 优化。输入未提供基准测试、量化方案或实际性能数据。
AI推荐理由 NVIDIA 官方发布 Nemotron 3.5 Bolt 24GB,74B-A9B 参数可装入 24GB 显存,面向本地 agent 场景并针对 RTX Spark 优化。对本地部署与消费级硬件跑 agent 有明确参考价值;但输入仅给出参数与显存占用,缺少基准测试、量化方式和实际吞吐数据。
74
浏览 47,190
点赞 1,362
评论 52
转发 89
正文
And this one fits into 24GB of memory.
Introducing Nemotron 3.5 Bolt 24GB ⚡️ https://t.co/SOiBgeMMjD