智能体
arxiv.org ·
@Nikhil Mungel
OnTrack:基于流式结构感知最优传输的LLM智能体轨迹实时监控与干预
LLM agent在旅行规划、股票交易、IT事件分诊等场景中多自主运行,缺乏规则化防护,不可逆操作会带来成本与安全问题。现有方案或用守护agent逐步监控(增加成本与延迟),或事后评估日志(损害已发生)。作者提出OnTrack,一种流式监控机制,将agent步骤与依赖同已记录的成功运行对比,约每步一毫秒即可告警或阻断,并在全参考访问、仅工具schema、无先验知识三种递减访问场景下研究其监控能力。
AI推荐理由 提出OnTrack流式监控机制,通过将agent步骤与依赖同已记录成功运行对比,在约每步一毫秒内告警或阻断,并研究全参考、仅工具schema、无先验知识三种访问递减场景。针对LLM agent不可逆操作的安全与成本问题,兼顾实时性与低开销,具有工程落地价值,但摘要未给出完整准确率数据。
77
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。