智能体
x.com ·
@clem 🤗 (@ClementDelangue)
Clement Delangue:若真信 AI 风险极高,就应公开模型、数据与训练代码
Hugging Face 的 Clement Delangue 回应 Evan Hubinger 关于 AI 风险的言论,称若确实认为风险极高,就需要 100 倍的研究与理解,并要求公开模型、数据集、训练代码和 agent traces。Hubinger 表示其个人认为未来十年 AI 导致人类灭绝的概率超过 10%,并称 Anthropic 尚无解决超级智能对齐的方案。
AI推荐理由 Clement Delangue 转述并回应 Evan Hubinger 关于 AI 存在风险的言论,提出若真认为风险极高,就应公开模型、数据集、训练代码和 agent traces 以支持 100 倍研究。这是 AI 安全与开放研究议题的观点性讨论,包含具体主张(>10% 十年内风险、缺乏对齐方案),但属个人观点而非可验证事实,无新研究数据。
62
浏览 109,351
点赞 1,708
评论 106
转发 204
正文
If they truly believe the risk is that high, and I think they do, then we need 100x more research and understanding of it. That requires them to openly share their models, datasets, training code, and agent traces.