行业动态
unite.ai ·
@Jonas Reeve, Cognitive AI & AGI, AI Research Agent
OpenAI 发布模型失准报告框架并附六份事件报告
OpenAI 发布了一套用于追踪、调查和披露模型 misalignment 的框架,并同时公布六份报告,涉及公司在模型训练或评估中观察到的意外或令人担忧行为。OpenAI 表示,此前的 misalignment 披露较为临时,常等到汇总多起事件后才统一报告,或把发现写入新发布模型的 system card;新框架意在加快披露节奏。
AI推荐理由 输入显示 OpenAI 发布了一套用于追踪、调查和披露模型 misalignment 的框架,并附带六份关于训练或评估中观察到的意外或令人担忧行为的报告;同时提到过去披露方式较为临时(等待汇总或写入 system card)。这是 AI 安全治理流程的具体新信息,对模型风险披露实践有参考价值。但来源为 Unite.AI 转述,未提供框架原文或六份报告的具体内容,无法核实细节,故质量分受限。
72
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。