大模型
arxiv.org ·
@Sachin Gupta
面向 LLM 的 IT 工单分类成本感知弃权方法
论文评估成本感知弃权作为离线、成本条件下的就绪度评估:在校准数据上按显式成本选择路由策略,再在留出测试集上一次性评估冻结策略。在 47,837 条、八类别的公开 IT 工单语料上,比较四种训练型非 LLM 分类器与四种 LLM 的零样本/少样本提示。在示例成本 (c_ok,c_triage,c_wrong)=(0,1,5) 下,TF-IDF 加逻辑回归配合校准选出的 0.60 阈值将测试成本从 0.763 降至 0.472(相对降 38.1%),错误路由从 15.3% 降至 3.5%;事后成本参数分析中,冻结的校准策略在 16 种设定中的 14 种优于始终路由与始终转人工。
AI推荐理由 论文在 47,837 条、八类别的公开 IT 工单语料上比较四种非 LLM 分类器与四种 LLM 的零样本/少样本提示,采用成本感知弃权策略。在示例成本模型 (0,1,5) 下,TF-IDF 加逻辑回归配合校准集选出的 0.60 阈值,将测试成本从 0.763 降至 0.472(相对降 38.1%,95% CI [35.7%,40.4%]),错误路由从 15.3% 降至 3.5%。数据与置信区间明确,但成本模型为示例性设定,结论依赖该假设。
66
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。