独立测试能让 AI 更安全吗？

Vals AI 联合创始人兼 CEO Rayan Krishnan 表示，AI 测试与评估方面的投入未能跟上模型能力的快速提升。其公司对 OpenAI、Anthropic 等公司的模型进行独立评估，并看到 AI 朝递归自我改进方向发展的早期迹象，但他同时指出当前模型仍远落后于顶尖人类研究者。

AI推荐理由 Vals AI 联合创始人兼 CEO Rayan Krishnan 指出 AI 测试与评估投入未跟上模型能力提升，并称观察到递归自我改进的早期迹象，同时明确模型仍远落后于顶尖人类研究者。观点来自独立评估机构负责人，含具体判断与限定条件，但为访谈转述，缺乏可核验数据。