最新资讯
bloomberg.com 台积电据报考虑生产先进 AI 存储芯片 www.infoq.com Yelp 为 AI Assistant 融合原生与服务器驱动 UI computerworld.com 英国监管机构:企业须为自家 AI 代理的错误负责 siliconangle.com Atomicwork 推出面向企业 IT 与安全的认证 AI 同事市场 computerworld.com OpenAI 收购小型软件公司以改进 Codex bdtechtalks.com Next-Concept Modeling 如何重新思考 AI 文本生成 computerworld.com Box 发布 Architect:用自然语言构建业务流程工作流 techrepublic.com Perplexity 推出 Teammates:每月 200 美元的 AI Agent 如何工作 the-decoder.com METR 称 Anthropic 或已在 7 月越过自身 AI 加速预警阈值 towardsdatascience.com 用 Ollama 和 Python 构建你的第一个多工具 AI Agent the-decoder.com Thinking Machines 的 Inkling 2 Small 称霸西方开放权重模型 dev.to 为 CI/CD 构建 AI 质量门禁
多元动态
登录 注册
大模型 dev.to · @Carlos Chinchilla Corbacho

一个 transformer block 是六个张量加一条总线:把它当流水线来读

原文 我的收藏

这是“从代码到权重”12 篇 ML 基础系列的第 5 篇,面向转向 ML 工程的开发者。文章以 nanoGPT 的 model.py 为对象,把整个 decoder block 当作流水线来读:输入是什么、每个阶段写入什么、参数和计算成本落在哪里,并指出二者并不在同一位置。作者还做了破坏性实验:逐个移除 block,以及让每个 block 覆盖输入而非相加。该系列每篇聚焦一个“行为不像普通软件”的点,本篇聚焦成本所在与代码所在不一致。

AI推荐理由 这是一篇面向工程师的 ML 基础系列文章(第 5 篇),以 nanoGPT 的 model.py 为对象,逐阶段拆解一个 transformer block 的数据流、参数位置与计算成本分布,并做了移除 block、改为覆盖输入等破坏性实验。具体价值在于把 block 当作流水线来读,指出成本所在与代码位置不一致这一工程直觉盲点;局限是内容属教学性解读,未提供新的模型、数据或可验证的性能结论,且正文片段在关键处截断。

62

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容