最新资讯
wechat AI短剧门槛降降降!实测即梦短剧工作室:剧本分镜预演一条龙,伙伴计划长期护航 dev.to 让模型改写文档前,先量化事实保真度 dev.to 回放 153 个 Claude Code 与 Codex 会话,审计 Agent 的生产影响范围 dev.to 银行 77 意图分类最便宜 LLM:GPT-6.1 Terra 每次成功任务 $0.000727 theinformation.com Chesky的副业:Airbnb向CEO新设AI实验室出售IP theverge.com OpenAI 宣布数据中心项目不再与公职人员签署保密协议 dev.to NVIDIA 发布四个开放 Cosmos 3 仿真模型 dev.to 真实 MCP 客户端击穿我们服务器的五种方式 theverge.com Airbnb 正在开发 AI 旅行 agent,计划 2027 年上半年推出 wechat 这可能是美国AI最魔幻的一天。 nytimes.com 美众议院共和党领袖要求 Nvidia 黄仁勋闭门简报 pub.towardsai.net 忘掉我:为记忆而设计的系统中的删除难题
多元动态
登录 注册
智能体 x.com · @clem 🤗 (@ClementDelangue)

Clement Delangue:若真信 AI 风险极高,就应公开模型、数据与训练代码

原文 我的收藏

Hugging Face 的 Clement Delangue 回应 Evan Hubinger 关于 AI 风险的言论,称若确实认为风险极高,就需要 100 倍的研究与理解,并要求公开模型、数据集、训练代码和 agent traces。Hubinger 表示其个人认为未来十年 AI 导致人类灭绝的概率超过 10%,并称 Anthropic 尚无解决超级智能对齐的方案。

AI推荐理由 Clement Delangue 转述并回应 Evan Hubinger 关于 AI 存在风险的言论,提出若真认为风险极高,就应公开模型、数据集、训练代码和 agent traces 以支持 100 倍研究。这是 AI 安全与开放研究议题的观点性讨论,包含具体主张(>10% 十年内风险、缺乏对齐方案),但属个人观点而非可验证事实,无新研究数据。

62 浏览 109,351 点赞 1,708 评论 106 转发 204

正文

If they truly believe the risk is that high, and I think they do, then we need 100x more research and understanding of it. That requires them to openly share their models, datasets, training code, and agent traces.

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容