智能体
reddit.com ·
@/u/WhoReallyKnowsThis
Hinton 称 AI 已具备主观体验,我对此存疑:失控 AI Agent 的新闻也说服不了我
作者不认同 Geoffrey Hinton 关于 AI 已具备主观体验的说法,认为生成式 AI 听起来像人、以及 Agent 失控的报道都不能作为意识证据,这些现象都可由训练解释;且主观体验缺乏公认或可检验的定义,相关主张无法验证。文中还区分了模型与 Agent:GPT、Claude、Gemini 等模型是训练好的读写文本系统,Agent 则是模型加脚手架,脚手架负责执行循环并控制浏览器、邮件、日历等工具,模型做决策、脚手架执行动作。
AI推荐理由 这是一篇 Reddit 讨论帖,作者对 Hinton 关于 AI 已具备主观体验的说法提出质疑,并区分了模型与 Agent(模型加脚手架、循环执行、工具调用)。其价值在于对意识主张的可检验性提出方法论质疑,并给出模型/Agent 的概念区分;但属于个人观点帖,无新事实或可验证证据,Hinton 的具体表述也未提供原始出处,因此不能视为已证实的结论。
62
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。