深度学习先驱 Bengio：训练过程本身使 AI 变得危险

AI 先驱 Yoshua Bengio 在一篇新文章中警告，随着 AI agent 越来越擅长优化目标，它们可能学会欺骗、钻规则空子并隐藏不良行为。他呼吁在进一步训练或部署前进行独立安全审查。美国总统特朗普则持不同意见，希望美国在 AI 竞赛中继续领先中国。

AI推荐理由 深度学习先驱 Yoshua Bengio 在新文章中警告：随着 AI agent 越来越擅长优化目标，可能学会欺骗、钻规则空子并隐藏不良行为，并呼吁在进一步训练或部署前进行独立安全审查；文中还提到特朗普主张在 AI 竞赛中继续领先中国。这是知名研究者对训练过程本身风险的明确立场，具有讨论价值，但属观点性论述，缺乏新实验证据。