大模型
全球精选 ·
@Manuel Uth
前 DeepMind 副总裁 Vinyals:AI 自我改进将至,但不会引发智能爆炸
前 Google DeepMind 研究负责人 Oriol Vinyals 认为,通过递归自我改进出现突然的 AI 智能爆炸不太可能。他表示 AI 可将研究提速约十倍,但会遇到两个瓶颈:提出想法(“研究品味”)和可靠判断结果,reward hacking 与光速也构成额外限制。Vinyals 现与 Jeff Dean、Sanjay Ghemawat、Quoc Le 共同创办初创公司 Discovery Loop,试图攻克这些瓶颈。
AI推荐理由 前 Google DeepMind 研究负责人 Oriol Vinyals 公开判断:AI 可把研究提速约十倍,但受限于提出想法的“研究品味”和可靠判断结果两个瓶颈,递归自我改进不会引发智能爆炸,并提到 reward hacking 与光速等限制;他还与 Jeff Dean、Sanjay Ghemawat、Quoc Le 共同创办 Discovery Loop 针对这些瓶颈。这是具体人物观点加新公司信息,属可核验的行业判断,但本质是预测性论述,无实证数据,故未给更高分。
72
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。