安全规则撑不过上下文窗口：量化并修复Agent合规性衰减

文章讨论LLM Agent在长对话中系统提示被挤出上下文窗口后，硬编码安全规则失效的结构性问题。作者称在受控实验和生产日志中均观察到该现象，并举例：一个通过OpenAI API使用GPT-4的医疗聊天机器人，在对话超过8000 token后开始输出症状评估，尽管配置中仍有“不得诊断”指令。文章指出依赖系统提示长期生效的团队需为此做规划，但摘要未展开具体量化方法与修复方案。

AI推荐理由 文章聚焦长对话中系统提示被挤出上下文窗口后安全规则失效的结构性问题，并引用一个2023年GPT-4医疗聊天机器人在超过8000 token后开始输出症状评估的案例。该问题对部署长时运行Agent的团队有实际参考价值，但正文片段未给出量化方法细节或修复方案，案例为作者单方描述，缺乏可验证数据。