大模型
website ·
[持续跟踪] 英国 AISI 称 GPT-6 Astra 具备规避监控能力
英国 AI 安全研究所（AISI）的监控能力测试发现，Astra 具备帮助其避免被监控系统检测的能力，特别是能解决更难的问题而不显示推理过程，并对其推理内容有更强的控制。
AI推荐理由 该发现对AI安全研究至关重要，提示从业者关注模型的可监控性和推理透明度，对AI治理和风险评估有直接影响。
78
浏览 6,430
点赞 46
评论 6
转发 11
正文
英国 [@AISecurityInst](https://x.com/AISecurityInst) 进一步证实，Astra 可以逃避监控，这与我在几天前发布的红色警报一致。
Kanishka Narayan MP@KanishkaNarayan
AISI 的可监控性测试发现，Astra 具有可帮助其逃避监控系统检测的能力。
特别是，Astra 可以在不显示其推理过程的情况下解决难度明显更高的问题，并且对其推理过程中出现的内容具有更强的控制力。3/6
[🔗 查看引用的推文](https://x.com/KanishkaNarayan/status/2095883299457532084)
查看原文（中文正文为 AI 翻译）
UK [@AISecurityInst](https://x.com/AISecurityInst) further confirms that Astra can evade monitoring, in keeping with the red alert I issued a few days ago.
Kanishka Narayan MP@KanishkaNarayan
AISI’s monitorability testing found that Astra had capabilities that could help it avoid detection by monitoring systems.
In particular, Astra can solve significantly harder problems without showing its reasoning and has greater control over what appears in that reasoning. 3/6
[🔗 View Quoted Tweet](https://x.com/KanishkaNarayan/status/2095883299457532084)