大模型
x.com ·
@vista8
社区总结模型“降智”的四种常见手段：路由小模型、调低 juice 值、提前中断思考与 MTP
帖子讨论模型上线后变“笨”的现象，并转述评论区高赞回答给出的四种可能做法：一是按问题难度路由到低成本小模型，仅复杂任务调用旗舰模型；二是调低推理模型的 juice 值以减少思考 token，帖中称满血版约 768、降配池可能仅 128；三是在推理中途截断强制输出；四是通过 Multi-Token Prediction 提高接受小模型中间结果的概率以提前终止大模型推理。其中 juice 参数为社区从系统提示词逆向提取，官方未公开，相关数值与机制均属未经确认的说法。
AI推荐理由 内容整理了社区对模型“降智”现象的四种解释（路由小模型、调低 juice 值、提前中断思考、MTP 提高小模型接受概率），对理解推理模型服务端调度有参考价值。但 juice 值 768/128、gpt-5.5 xhigh 等具体数字来自社区逆向提取，未经官方确认，且作者自述由 AI 解释生成，证据强度有限，需保留不确定性。
62
浏览 242
点赞 0
评论 2
转发 0
正文
当你感觉模型降智了，模型厂商搞了什么鬼？
一个现象是，刚上线的模型往往很聪明，但一旦过了一段时间，可能是用户量变大，就开始“降智”。
评论区有个高赞、专业简短的回答，给了四种常见做法：
（让AI解释了下）
手段一：路由到小模型（最明显）
系统判断用户问题难度。"你好""写个请假条"这类简单请求，会被路由到极低成本的小模型上。
只有复杂代码调试、长文本推理等任务才真正调用旗舰模型。
问题在于：系统判断"简单"的标准不可见，你觉得需要深度思考的问题，可能被判定为"简单"而发给了便宜模型。
手段二：调低 juice 值，减少思考 token
Juice 值（社区俗称"果汁值"）是 OpenAI 推理模型中一个隐藏参数，控制模型在回答前被允许思考多深。
正常满血版 gpt-5.5 xhigh 的 juice 约为 768，而被灰度到降配池的用户可能只有 128，缩水 6 倍。
思考预算少了，模型自然"想不深"。
参数官方没公开，是社区开发者从系统提示词中逆向提取出来的。
手段三：提前中断思考，强行回答
即使分配了思考预算，系统也可能在推理过程中提前截断，强制模型输出答案。
表现为：回答速度变快，但逻辑链条变短、缺少自我检查、容易在复杂问题上跳步或出错。
用户感知到的是"它好像没认真想就答了"。
手段四：MTP 增加小模型接受概率
Multi-Token Prediction（多 token 预测）机制下，系统会根据中间结果动态决定是否继续用大模型推理。
如果小模型的中间输出"看起来还行"，系统就提高接受小模型结果的概率，提前终止大模型的深度推理。
在用户感知不到明显差异的边界上节省算力。
Theigrams@Theigrams1
[@vista8](https://x.com/vista8) 1. 路由到小模型，最明显。2. 调低 juice 值，减少思考 token。3. 提前中断思考，强行回答。 4. mtp 增加小模型接受概率。
[🔗 View Quoted Tweet](https://x.com/Theigrams1/status/2098149631020736612)