别让大模型做选择题：用 0.8B 小模型承担 Agent 的判断调用

文章主张 Agent 处理支持邮件等任务时，提示注入检测、紧急度判断、意图识别、工具选择、草稿校验等步骤本质都是多选判断，不应全部交给最大模型再解析文本。作者介绍一个 0.8B 开源模型，输入情境与带标签选项，单次前向传播即输出各选项概率，不生成文本，被称为栈中的“System 1”快速部分，大模型则作为慢速推理部分。该模型可零样本处理任意选项，作者称其源于对某托管决策 API 的开源替代，相关 HN 讨论获 574 分。文中未提供准确率或对比实验数据。

AI推荐理由 提出用 0.8B 小模型承担 Agent 流程中的多选式判断（提示注入检测、意图分类、工具选择等），由大模型负责生成，属于有具体架构思路的工程观点，对 Agent 成本与延迟优化有参考价值；但 HN 574 分等传播数据不能替代技术验证，文中未给出准确率或对比实验。