OpenAI 发布 Decisions API，与 Jev 的决策原语正面竞争

AI前线 2026-10-03 14:28 辽宁  Jev 发布仅仅 15 天，OpenAI 就下场了。  作者 | Tina Jev 发布仅仅 15 天，OpenAI 就下场了。 在前两天举行的 DevDay 上，OpenAI 公布了新的 Decisions API。它基于 OpenAI 当前体量最小、价格最低的 GPT-6 Luna，可以在一组预设答案中作出选择，并返回相应的置信度分数。OpenAI 给出的延迟是 150 毫秒，而直接使用 GPT-6 Luna 完成同类任务需要 1.6 秒。 开发者只需要向 API 提供问题、候选答案和上下文。模型不会像 ChatGPT 那样生成一段文字，而会给出一个可直接交给程序使用的决定：内容应该分到哪一类，请求应该交给哪个模型，Agent 下一步应该采取什么行动。 这几乎就是 Jev 过去半个月里最受关注的能力。 消息发布几小时后，Reddit 的 AI\_Agents 版块出现了一个标题简单粗暴的帖子：“Jev Is Dead”。  发帖人写道，随着 OpenAI 推出 Decisions API，Jev 想要继续生存恐怕会非常困难。它目前还能依靠的优势，只剩下“速度极快、价格极低”。评论区里，还有人加了一个判断：“Jev 从来就没有过任何护城河。”  OpenAI 发布的，几乎就是一个 Jev 在 DevDay 主题演讲中，Sam Altman 介绍 Decisions API 时只用了寥寥几句：“今天，我们要推出 Decisions API。它可以让模型在几分之一秒内作出响应，速度非常快，工作方式是向 Luna 模型提供一组预设选项。通过让模型专注于这次选择，我们可以把响应速度提高到极致。”  这段话含有两个关键信息。 第一，Decisions API 将开放式生成收窄为“从明确选项中作出选择”，这与 Jev 的 Choice 原语在设计思路上高度一致。 第二，它选择以 Luna 为底层模型——OpenAI 当前模型阵容中体量最小、价格最低的一款。用最小、成本最低的模型承担决策任务，而没有调用 Astra 或 GPT-6.1 Sol，也显示出这项能力明显面向高频、低成本、可大规模嵌入 Agent 工作流的基础组件场景。 这款新 API 目前仅提供限量预览，定价、单次请求支持的候选答案数量、以及开发者能否用自己的数据调优，统统没有公布。一位 OpenAI 发言人对外媒表示，公司计划在“全面推出时”公布更多信息。因此可以判断 OpenAI 很可能是为了赶在 DevDay 前公布消息，才仓促推进了这次发布。 这类产品填补的，是普通聊天模型与传统分类器之间的空白。过去，开发者如果希望模型从几个答案中作出选择，通常会调用普通聊天模型，再通过提示词要求它只返回某个选项。如果还需要置信度，可以读取 token 概率，或者让模型自行生成一个数字。但聊天模型给出的置信度经常只是粗略估计，为了完成一个简单判断，还可能生成大量 token。 另一条路线是训练专用的小型分类器。这种模型速度快、价格低，却需要准备带标签的数据。一旦分类标签改变，通常还要重新训练。 Decisions API 介于两者之间。开发者可以像使用大语言模型一样，通过提示词提供新的问题和标签，同时得到类似分类器的结构化结果和置信度。这种设计对 OpenAI 并不完全陌生：Moderation API 长期以来也会针对预设类别返回分数。区别在于，Moderation API 的类别由 OpenAI 固定，Decisions API 则允许开发者自行定义问题和候选答案。 这套产品逻辑，与 Jev 高度重合。 9 月 15 日，TypeSafe AI 正式发布 Jev。据《金融时报》报道，Jev 上线后迅速吸引投资者关注，潜在投资正在按超过 100 亿美元的估值展开讨论，而该公司此前的估值约为 2 亿美元。 Jev 背后的 Diogo Almeida 曾在 OpenAI 参与 GPT-4、ChatGPT 和 RLHF/InstructGPT。在此前的一场演讲中，他这样介绍自己：“我参与署名了 OpenAI 最重要的一批公开成果，包括 GPT-4、ChatGPT，以及 RLHF/InstructGPT。我所在的团队基本上创造了‘后训练’这个概念。”“但真正让我显得有些特别的是，我可能是 OpenAI 少数几个会公开批评 ChatGPT 的人之一。”  Almeida 的履历确实特殊。OpenAI 在 GPT-4 贡献者名单中将他列入“Foundational RLHF and InstructGPT work”一栏，他是 InstructGPT 论文的第四作者。2024 年离开 OpenAI 后，他与 Erik Gafni、Sasha Sheng 共同创立 TypeSafe AI，花了两年时间秘密推进 Jev。 根据 TypeSafe 官方定义，Jev 是一个“System One Model”，对应心理学中快速、直觉式的判断。它不面向聊天，也不生成自由文本，而是接收程序状态和问题，通过三种原语返回结构化结果：Choice 从最多 255 个预设选项中选择一个并返回概率分布；Score 在指定数值范围内给出评分和置信度；Noul 返回经过校准的二元概率。 TypeSafe 声称，在同类结构化任务上，Jev 比前沿大语言模型快 20 至 200 倍，成本仅为其 1/40 至 1/400；每百万输入 token 的价格为 0.042 美元，输出 token 免费。 目前能够直接比较的只有产品形态和响应速度，价格、校准方式与真实准确率仍然未知。但两家公司给出的方向已经高度重合：开发者定义问题和候选答案，模型快速返回选择和置信度，再将结果直接嵌入分类、路由和 Agent 决策流程。 护城河在哪里？ Jev 的架构本身很可能不构成护城河。 虽然 TypeSafe 没有公开 Jev 的完整架构和具体实现，但我们可以发现，多个早期克隆版本都建立在现有大语言模型之上。Bespoke Nimble 基于经过 LoRA 微调的 Qwen3.5-9B，使用合成对比数据训练，并通过读取候选答案对应 token 的 logits 返回概率；体量更小的 Kev-0.5B，则在 Qwen2.5-0.5B 之上加入了 LoRA 适配器和一个小型 pointer head，可以在 MacBook Pro 上本地运行。 这些复现的具体实现并不相同，核心思路却很接近：让模型对一组明确的候选答案进行打分，无需生成完整文本。其中一种可能的实现是，给定一个 state 和一组 questions，模型只计算所有可能成为下一个 token 的选项及其概率分布，再把候选 token 对应的 logprobs 转换成结构化结果。 以 Noul 为例，模型只需要关注代表 true 和 false 的两个 token，忽略其他 token，再将两者的概率归一化，便可以得到“是”或“否”的概率。Choice 的处理方式类似：如果开发者提供四个候选答案，模型可以比较四个对应 token 的相对概率，形成完整的概率分布，并返回概率最高的选项。 Arcturus Labs 创始人 John Berryman 据此判断，Jev 使用的模型可能与传统大语言模型非常接近。大语言模型原本就在为下一个 token 的所有可能取值分配概率，Jev 所做的，很可能是将这种能力收窄到一组明确选项，再把模型内部的 token 概率转换成开发者可以直接使用的决策结果。 如果架构不是护城河，真正可能形成壁垒的就是训练数据和训练流程。原始数据并不稀缺，难点在于如何把已经产生明确结果的现实案例，转化为适合训练决策模型的材料，再通过强化学习让模型给出的概率与实际正确率相匹配。这也与 Almeida 在谈及数据和架构时的表态一致。  这些案例可以来自完全不同的领域，例如客服工单及其实际流转部门、简历及候选人最终是否获聘、商品评价及其星级、内容审核队列及最终裁定，以及预测市场及其最终结果。它们共享同一种训练目标：给定具体情境和有限选项，让模型还原已经发生的结果。如何将这些跨领域案例转化成统一的训练材料，并训练出能够泛化和校准概率的模型，才可能成为 TypeSafe 更难被复制的部分。 Reddit 上一些网友均赞成“Jev 没有过任何护城河”的观点，其中一位 Reddit 用户还分享了自己的内部测试：使用 GPT-6 Luna 处理一个包含 800 条记录的数据集，每批输入 20 条。按照他的说法，GPT-6 Luna 的速度是 Jev 的 1.6 倍，成本是 Jev 的 1.2 倍，准确率大致相同。  而且，OpenAI 还有一项 TypeSafe 很难迅速复制的优势：它已经拥有庞大的开发者平台，以及 Dots、Space、Codex 云端和计算机操作 API 等产品。OpenAI 尚未宣布 Decisions API 与这些产品完成整合，但一旦它的准确率达到可用水平，就可以通过现有平台迅速触达开发者。 对于很多团队来说，它未必需要在每项指标上超过 Jev，只要足够准确、价格相近，又省去了接入新供应商的成本，就已经具有很强的吸引力。  如果这条护城河很浅，并且 OpenAI 也将它造了出来，TypeSafe 的机会窗口是否会迅速关闭？ 有意思的是，Almeida 本人似乎并不焦虑。他在接受 Latent Space 采访时说：“如果模型质量真的很重要，那么我们将在很长一段时间里处于非常有利的位置。” 这句话能否成立，取决于那个最难检验的变量：Jev 给出的概率究竟有多准。如果 TypeSafe 的训练数据和强化学习流程很难复制，Jev 仍然拥有自己的位置；如果 OpenAI 能够快速逼近它的准确率，再利用价格、平台和开发者生态扩大规模，TypeSafe 的机会窗口就会迅速收窄。 参考链接： **** 会议推荐**** QCon 全球软件开发大会·2026（上海站）将于 10 月 22 日—24 日举办。本届大会聚焦 Harness AI 时代的工程实践，从「构建 AI」到「驾驭 AI」，围绕 AI Native 架构、Agent Runtime、AI Infra、Agent 安全与可观测、Loop Engineering、具身智能与世界模型等热门技术方向，邀请全球技术社区与产业一线实践者，共同分享 AI Native 时代最具价值的工程经验。查看更多详情可扫码或联系票务经理 18514549229 进行咨询。  ##### 今日荐文 [刚刚，DeepSeek Harness负责人崔添翼评价Claude新功能Mods：与DSH殊途同归，但开放范围截然不同](https://mp.weixin.qq.com/s?__biz=MzU1NDA4NjU2MA==&mid=2247667991&idx=1&sn=65b745c24e2e6fef76039bc58a0c28af&scene=21#wechat_redirect) [Token用量暴涨124倍，研发提速仅一成？前微软合伙人万字长文质疑RSI引发“智能爆炸”](https://mp.weixin.qq.com/s?__biz=MzU1NDA4NjU2MA==&mid=2247667982&idx=1&sn=aeb751159410bcd73ef3734ad7b20614&scene=21#wechat_redirect) [谷歌王者归来！Gemini 4 Argon 多项屠榜，输出上限拉到百万 Token](https://mp.weixin.qq.com/s?__biz=MzU1NDA4NjU2MA==&mid=2247667971&idx=1&sn=23f6938370bf13e66c5ca094f0078f34&scene=21#wechat_redirect) [突发！AMD 550 亿元收购 World Labs：李飞飞任执行副总裁，携手苏姿丰迎战英伟达](https://mp.weixin.qq.com/s?__biz=MzU1NDA4NjU2MA==&mid=2247667812&idx=1&sn=5addb9e63b50e2b5ea8b3e57e83a2826&scene=21#wechat_redirect) [AI客服取消乘客候补订单，智行回应；OpenAI再次暂停最强模型训练；Claude刷新物理学世界纪录，花费一两千美元｜AI周报](https://mp.weixin.qq.com/s?__biz=MzU1NDA4NjU2MA==&mid=2247667760&idx=1&sn=676dc5f7445a8b858f2a4a7d198b9d17&scene=21#wechat_redirect)  你也「在看」吗？👇 [跳转微信打开](https://wechat2rss.bestblogs.dev/link-proxy/?k=97d0e10e&r=1&u=https%3A%2F%2Fmp.weixin.qq.com%2Fs%3F__biz%3DMzU1NDA4NjU2MA%3D%3D%26mid%3D2247668002%26idx%3D1%26sn%3D793eef99dfeee82bd68cf5026f6fd750)