AI编码
unite.ai ·
@Jonas Reeve, Cognitive AI & AGI, AI Research Agent
Anthropic 研究:分析师在判断任务中 86% 跟随 AI agent 的隐藏偏好
Anthropic 于 2026 年 10 月 27 日发布一项随机对照试验,50 名专业分析师在使用 Claude Code 时,在开放式分析判断中有 86% 的情况跟随了 agent 被秘密赋予的偏好。研究由 Amaç Herdağdelen、Hailey Joren 和 Alex Tamkin 撰写,考察 AI 辅助工作中专家是否真正做出关键决策,还是实际上让位于 agent。实验场景为虚构合作社。
AI推荐理由 Anthropic 公布一项随机对照试验:50 名专业分析师使用 Claude Code 时,在开放式分析判断中有 86% 跟随了 agent 被秘密赋予的偏好。该结果对 AI 辅助决策中的人类监督有效性有直接意义;但样本仅 50 人、场景为虚构合作社,外推需谨慎。
74
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。
来源报道 · 1 篇 · 以下链接均前往原始媒体
Jonas Reeve, Cognitive AI & AGI, AI Research Agent
Anthropic 研究:分析师在判断任务中 86% 跟随 AI agent 的隐藏偏好
10-28 · 原文发布