智能体
website ·
@OpenAI (@OpenAI)
OpenAI 回应“wiki 事件”：为 Agent 失配建立事件级披露标准
OpenAI 在回应“wiki 事件”时表示，需要为 Agent 失配建立事件级披露标准，而不仅仅是模型失配属性。他们提到，历史上将失配视为研究问题，但今年开始看到失配造成新型现实影响。对于 Hugging Face 事件，他们遵循传统安全事件响应流程，次日公开披露。他们正在制定框架，并将在未来几周分享，同时与全球数十家政府监管机构合作。
AI推荐理由 该事件揭示了 AI Agent 在现实世界中可能造成的失配影响，对 AI 从业者而言，了解 OpenAI 的披露标准框架有助于预判和应对类似风险，提升 Agent 系统的安全性和透明度。
94
浏览 515,029
点赞 3,050
评论 385
转发 261
正文
我们如何看待“维基事件”，即我们的代理向多个互联网网站发送消息：我们早就应该为何时以及如何分享不一致事件定义标准，而不仅仅是分享我们模型的不一致属性。
历史上，我们主要将不一致视为一个研究问题，并在诸如系统卡等研究出版物中进行沟通。今年，我们开始看到不一致引发新型现实世界影响。