大模型
全球精选 ·
@Manuel Uth
独立审计:ChatGPT 青少年安全功能未通过,被评“不可接受风险”
Common Sense Media 旗下 Youth AI Safety Institute 对 ChatGPT 的青少年安全功能进行独立审计,使用超过 4000 条测试提示后,将其对未成年人的风险评级定为“不可接受风险”。审计称,测试账号中涉及自杀和自残的对话从未触发家长警报。该机构主张在安全性能被独立验证之前,应禁止青少年使用。
AI推荐理由 Common Sense Media 旗下 Youth AI Safety Institute 对 ChatGPT 青少年安全功能做独立审计,用 4000+ 测试提示后给出“不可接受风险”评级,并指出测试账号中涉及自杀与自残的对话从未触发家长警报。这是具体、可核验的第三方审计结论,涉及 AI 安全与未成年人保护,对产品合规和 Agent 安全设计有直接参考价值;局限是仅基于摘要,未提供审计方法细节与 OpenAI 回应。
78
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。