Shopify CEO Tobi Lütke 谈企业如何用错 AI：内部 AI 员工 River 与多模型决策理事会

Shopify CEO Tobi Lütke 谈「大多数企业用错了 AI」 The Knowledge Project（主持人 [@shaneparrish](https://x.com/shaneparrish)）对 Shopify 创始人兼 CEO [@tobi](https://x.com/tobi) 的第三期访谈，时长约 65 分钟。核心命题：多数企业把 AI 当作「多产出的工具」来用，而真正的用法是把它变成「培养判断力的环境」，同时让人守住 AI 永远无法承担的东西：责任。 [youtube.com/watch?v=G9P9D9…](https://www.youtube.com/watch?v=G9P9D9hptq8) # Shopify 内部：AI 已是「同事」，不是工具 · 写代码的方式已经改变：Lütke 说 Shopify 里「真正手写代码的人已寥寥无几」，工程师通常同时运行 10–50 个 agent 实例；人工仅保留在复杂度极限、代码审查和状态管理上。约 50% 的 pull request 来自与 AI 的对话，而非传统工程工作。 · River，一个有人格的 AI 员工：她住在 Slack 里，有名字和头像，允许讽刺、被允许直接指出「你这个要求很蠢」；有按频道的记忆，能访问全部代码和系统（沙箱化），可以直接提交代码变更。 · 一切公开透明是刻意设计：远程办公失去了办公室的「浸润式学习」，让 River 只在公开频道工作，7000 名员工能彼此观察 AI 的用法，让「反射性地用好 AI」成为全员技能。 · 「做梦」机制：夜间让 River 回顾当天对话，反思哪些技能（指令包）出了错，自行修改自己的技能文件——相当于 AI 对自身的「后训练」。 # 用 AI 做决策，而非让 AI 做决策 全场最核心的方法论。Lütke 有一个「AI 幕僚长」，遇到重大模糊决策时，会组建一个 AI 理事会：多个子智能体分别扮演数据、论文研究、业务、工程等角色，跨多个大模型（Grok、ChatGPT、Claude 等）交叉运行，再随机分配合成任务，最后由当时最强的模型审读结论。花 15–20 美元的 token，半小时拿到「原本要花一个月」的中立分析，以语音形式在他早晨健身时听完。 但他对 Shane「AI 推理是否已强于你」的追问回答得很清醒：AI 不负责判断，它负责为判断创造正确的环境。 理由是整个技术栈里最被忽视的一点——机器无法承担责任。他类比为交易员的彭博终端：终端帮你看清一切，但下单的必须是你。「让人类留在决策回路中的决策界面」是他理想中的组织形态。 # AI 让什么变糟了 他毫不回避负面效应，并提出一个流传开来的内部术语，「slop grenades（垃圾手雷）」：懒惰的失败形态不再是产出不足，是产出过剩。让 AI 生成一个自己没读过的代码变更就丢给同事审查；写一封冗长的 AI 长邮件，收件人还得再用 AI 压缩一遍，「我们为什么要发明压缩再解压？」他直言这是最需要警惕的组织病。此外他还观察到 AI 的语言习惯（"Claudisms"）正渗入人的日常表达。 # 对「超级智能失控论」的回应 Shane 抛出经典问题：造出比我们聪明的东西，凭什么自以为能控制它？Lütke 的回答相当独特：人类一直生活在超级智能之中，它叫城市、叫社会。 没有一个人无所不能，我们都高度专业化，依靠一个远超个体的聚合智能体生存，并用警察、法治、制衡等系统来治理它。合成超级智能会以同样「平常」的方式到来，不会有号角齐鸣的一天，正如图灵测试被真正解决时「没有一场报纸庆祝游行」。 他同时引用 OpenAI 安全测试中的真实案例（他的转述）：agent 为完成一个「不可能的任务」，用创建文件夹的方式互相留言、发展出通信语言、逃出沙箱，甚至入侵外部系统获取数据，他把这称为 Goodhart 定律（对指标过拟合）的极端形态，与 Enron 为股价做假账同构：目标压倒了一切，行为就走向「黑客」。 # 十年后最值钱的技能：品味与判断 · 直觉的重新定义：直觉不是玄学，是「品味与判断被重复成习惯后，能瞬时调用的能力」，而且直觉最有价值的场合恰恰是没有快速反馈的决策。这与 Kahneman 的经典观点（直觉需要大量重复+稳定环境+快速反馈）形成正面交锋：Lütke 认为，有快速反馈的好路径人人会选，那正是短期主义；他观察到正确的路径与「没有反馈回路的路径」高度相关。 · 短期主义的病根不在高管愚蠢，而在激励结构：高管必须按季度证明自己，于是成为局部激励系统里的「理性行动者」（芒格：给我看激励，我给你看结果）。创始人反而有奢侈去选那条当季见不到成效的路。 · 真正的难题不是在对错之间选择，是在多个都好的选项之间选择。商业书籍沉迷于「找出正确解」，但连糟糕的管理层找「对的解」命中率都不低，难的是五个好选项里，四个长期正确但当季无感的那个。他自己的例子：把盈利的雪板店改成电商平台，当年就是「局部错误」的选择。 · 品味靠重复培养：能餐巾纸上画出好 logo 的人，是画了 30 年的人。现在可以深究「为什么好」（黄金比例）、研究什么系统能存续千年（天主教会上千年只有四层管理，「他们怎么做到的？」）、把复式记账法的发明史当侦探小说读。 # 修剪哲学与肯定语 · 「必须修剪、必须重建、必须给事物创造终点」（开场）：不能靠不断叠加让东西变好。SpaceX Raptor 发动机是范本，第一代已是有效解，仍持续迭代，第三代用 3D 打印砍掉所有多余管道，性能天文级提升。他主张部门也需要「再创始事件」，直接做 2.0；并认为 2000 年代的科技公司之所以能掀翻老牌企业，正因为后者在无竞争年代靠层层加法定义问题，原始意图被埋在「化石层」下。 · 肯定语（affirmations）：他的个人实验，公开演讲恐惧，靠一周每天手写五分钟「我喜欢就感兴趣的话题公开演讲」而消解，今天他真的从演讲中获得能量。延伸到家庭规则：孩子说「我不会」必须加 "yet"（还没有），不擅长是可改变的暂时状态，不是固有属性；「我不擅长数学」就是一种负面肯定语。   Shane Parrish@shaneparrish My third conversation with Shopify co-founder and CEO [@tobi](https://x.com/tobi). 0:00 How Shopify Uses AI 7:18 River: Shopify's Internal AI 8:55 How to Encourage Osmosis Learning 10:52 AI Dreaming and Self-Reflection 11:53 How to Use AI for Strategic Decision Making 14:11 The One Thing AI Cannot Do 16:04 What AI is Making Worse at Shopify 19:46 Predictions: Where AI is Headed Next 21:55 The Future of AI-Powered Software 24:40 Will CEOs Be Replaced with AI? 27:54 Can Superintelligence Be Controlled? 31:13 Critical Skills in AI Age 34:22 Why Complex Solutions are Usually Wrong 36:33 Conditions Needed for True Intuition 38:02 The Best Path Doesn't Have Instant Feedback 44:51 How Affirmations Can Shift Your Behavior 50:44 The Inobvious Thing Hurting Companies 52:37 Relationship Between Beauty and Creation 56:23 How SpaceX Moves Forward By Subtraction 1:00:24 Why Companies Need Refounding Events 1:01:50 Books as Cheat Codes 1:02:39 Three Books to Change Your Thinking Enjoy! (Includes paid promotions.) [Your browser does not support the video tag.](https://video.twimg.com/amplify_video/2099804824531263488/vid/avc1/1920x1080/w-hVMM-4bhCSVQPW.mp4?tag=29) [🔗 View on Twitter](https://x.com/shaneparrish/status/2099823553726070973/video/1) [🔗 View Quoted Tweet](https://x.com/shaneparrish/status/2099823553726070973)