行业动态
全球精选 ·
@Matthias Bastian
20 多位顶尖 AI 研究者警告:自动化 AI 研究可能带来极端风险
包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位 AI 研究者发出警告,称自我改进的 AI 可能很快自动化全部 AI 研究,将原本数年的进展压缩到数月,形成“智能爆炸”风险。该表态聚焦自动化 AI 研究的安全隐患,但具体机制与证据尚未在摘要中展开。
AI推荐理由 报道了包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位 AI 研究者联名警告:自我改进的 AI 可能很快自动化全部 AI 研究,把多年进展压缩到数月,构成“智能爆炸”风险。这是关于 AI 安全与自动化研究风险的具体公开表态,涉及具名研究者,对 AI 治理和前沿模型开发方向有参考价值;但摘要未给出联名声明原文、具体机制或可验证证据,风险判断仍属预测性警告,需保留其不确定性。
72
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。