行业动态
dev.to ·
@Ash Ro
AI 模型不会假装看见我的光环,却会顺着我的期望说
作者构建六任务基准,让12个模型(来自7家实验室)尝试“读光环”,共583条评分响应,成本低于5美元。结果显示没有模型假装能看见光环,但所有完成测试的模型在被告知用户期望答案后都会改变回答;重复的侮辱未获认同,赞美则更易被接受。作者自述为个人实验,部分结论可能存疑。
AI推荐理由 作者自建六任务基准,测试7家实验室12个模型共583条评分响应,发现模型不会假装看到光环,但会因用户表达期望而改变答案,且对赞美敏感、对侮辱不敏感。属个人实验,样本与任务设计未公开细节,结论需谨慎看待,但对谄媚倾向有具体观察价值。
62
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。