我们的 AI 读对了数据，却仍写错了客户姓名

作者在开发小商户记账应用中的助手 Dash 时发现，常规担心的选错工具、传错参数和编造数据在测试中基本未出现，错误发生在最后一步：模型把正确查询结果转成自然语言时写错了客户姓名的一个字母，可能导致店主打错电话。文章以此说明 Agent 输出层校验的必要性。

AI推荐理由 一线开发者复盘记账助手 Dash 的故障：工具选择、参数和数据传递均正确，但模型在最终生成句子时把客户姓名写错一个字母。该案例指出 Agent 输出层的可靠性盲区，对构建业务 Agent 的团队有参考价值；但为单一案例，无量化数据。