大模型
dev.to ·
@Georgi Kalchev
用 LLM 做工单分诊:语气会左右优先级
作者让 Sonnet 和 Haiku 两个 Claude 模型各标注 25 条简短客服消息,要求以 JSON 输出固定列表中的类别、urgent/high/normal/low 优先级和语言代码。在没有书面优先级规则时,Sonnet 与预期标签一致 21 条,Haiku 16 条;类别和语言几乎全对,13 次错误中 12 次涉及优先级,其中 10 次是上调,喊叫、愤怒、询价和包裹延误都足以抬高优先级,两模型还在 7 条消息上互相不一致。把规则作为 skill 加入后两者表现均有改善。
AI推荐理由 这是一次小规模但方法明确的实验:用 Sonnet 和 Haiku 各标注 25 条客服消息,类别和语言几乎全对,13 次错误中 12 次出在优先级,且 10 次是上调,说明模型按语气而非问题本身判断优先级,两模型还在 7 条上互相不一致;加入书面规则后表现改善。样本量小、结论需谨慎,但对 LLM 分类任务中提示规则缺失的影响给出了可复现的具体证据。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。