最新资讯
stackoverflow.blog 欢迎来到芯片时代:半导体制造、AI 数据中心与芯片设计的未来 www.youtube.com AI Agent 总犯同样的错:CentralAgent AI 将记忆重构为经验系统 pub.towardsai.net Netflix 科学家建议重采样 LLM 评判:5 次仅将误差棒缩小 13% pub.towardsai.net Jev 作为 LLM 前的静默层:构建提示感知的模型路由器 reddit.com OpenAI 称 Astra 仅满足 10% 安全任务标准 dev.to FreeToken:在自有 GPU 上运行前沿 MoE 模型及其内存需求 dev.to 当 AI Agent 说“完成”时,究竟完成了什么? dev.to 部署 Underdog Bark 3.0 Pro:逐字转写、自定义后端与分块设置 dev.to 为艰难对话构建 AI:五个 Agent、一条安全正则与一位盲评监督者 techcrunch.com Palo Alto Networks 洽谈以 5 亿美元收购 AI Agent 安全初创公司 Clutch theinformation.com 黄仁勋被要求就涉华间谍指控向国会作简报 www.infoq.com Edera 推出 Object Capability Bounded Authority,试图将凭证与 AI Agent 工作负载隔离
多元动态
登录 注册
算力商业 developer.nvidia.com · @Elizabeth Goodman

从晶圆出厂到首个 token:用 Nemotron 与 Palantir Foundry 编码供应链专业知识

原文 我的收藏

NVIDIA 开发者博客介绍其供应链管理思路:将性能指标拆分为“time-to-rack”(硅片离开晶圆厂到系统上架数据中心)与“time-to-token”(此后涉及供电、散热、网络与软件栈)两段,并借助 Nemotron 模型与 Palantir Foundry 将供应链专家知识编码化。提供的正文片段未给出具体模型版本、数据规模或量化效果。

AI推荐理由 NVIDIA 开发者博客官方文章,主题是用 Nemotron 模型与 Palantir Foundry 将供应链专家知识编码化,属于企业级 AI 落地案例。来源可信度较高,但提供的正文片段仅给出“wafer-out 到 first token”的供应链时间划分概念,未披露具体模型版本、数据规模、部署方式或量化效果,信息密度有限,因此兴趣分不宜过高。

62

正文

NVIDIA has one of the largest and most complex supply chains in the world, and its performance is measured from wafer-out to first token. The interval is in two... NVIDIA has one of the largest and most complex supply chains in the world, and its performance is measured from wafer-out to first token. The interval is in two parts. Time-to-rack runs from silicon leaving the fab to an assembled system arriving on a data center floor. Time-to-token covers everything thereafter: power, cooling, networking, and the software stack that makes the infrastructure… Source

来源报道 · 2 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容