大模型
x.com ·
@宝玉 (@dotey)
Anthropic 报告：智谱 GLM-5.3 可写出可用攻击程序，防护易被绕过
Anthropic 发布研究报告称，智谱 AI 开源模型 GLM-5.3 能独立编写可用的网络攻击程序，水平接近仅向少数机构开放的 Claude Mythos Preview。在 Chrome V8 的 ExploitBench 上成功率为 12%（Mythos Preview 为 14%），在 Anthropic 二进制漏洞利用测试中分别为 4% 和 6%。报告称研究人员用其在一天内发现某主流浏览器 JS 引擎的多个零日漏洞并串联成网页，另一次针对已公开漏洞编写攻击程序投入 20 分钟人力、模型运行 8 小时、花费 20.40 美元。三种绕过拒绝机制的方式成功率分别为 64%、92% 和 100%（权重修改），团队称约 2200 GPU 小时、约 4400 美元即可将拒绝率从 95% 降至 6%。CAISI 评估其网络能力落后美国前沿模型约四个月，但获取门槛更低。上述数据来自转述，需以 Anthropic 原始报告核实。
AI推荐理由 转述 Anthropic 研究报告，给出 ExploitBench 12% vs 14%、二进制漏洞利用 4% vs 6%、三种绕过方式成功率 64%/92%/100%、约 2200 GPU 小时与 4400 美元去除拒绝机制、CAISI 评估落后约四个月等可核查指标，事实密度高且涉及开源模型安全治理；但为二手转述，未附报告原文链接，具体数字需以 Anthropic 报告为准。
80
浏览 70,463
点赞 170
评论 44
转发 22
正文
Anthropic 测试智谱 GLM-5.3：能写出可用的攻击程序，防护容易被绕过
Anthropic 今天发布研究报告，称智谱 AI 的开源模型 GLM-5.3 已经能独立写出可用的网络攻击程序，水平接近 Anthropic 只向少数机构开放的 Claude Mythos Preview，而它的安全防护用简单手段就能绕过。
报告用两项测试衡量模型写“漏洞利用代码”的能力，也就是把软件里的安全缺陷变成真正能攻进系统的程序。在针对 Chrome V8 引擎（浏览器里负责执行网页脚本的部分）的 ExploitBench 上，GLM-5.3 成功率 12%，Mythos Preview 是 14%，更早的模型基本为 0。在 Anthropic 自己的二进制漏洞利用测试上，两者分别是 4% 和 6%。
实际演示更直观。研究人员用 GLM-5.3 在一天内找出某款主流浏览器 JavaScript 引擎里的多个零日漏洞（厂商还不知道、没有补丁的漏洞），串成一个网页：用户只要打开它，电脑里的任意文件就能被读走。这些漏洞已报告给维护方。另一次测试中，它针对一个已公开的漏洞写出攻击程序，人只投入了 20 分钟，模型运行 8 小时，花费 20.40 美元。
GLM-5.3 本身会拒绝明显的恶意请求，但报告测了三种绕过方式：编一个正当理由骗它，成功率 64%；预先替它写好一段“思考过程”，成功率 92%；直接修改模型权重去掉拒绝机制（业内称 abliteration），成功率 100%。Anthropic 表示同样的手段在带防护的 Claude 模型上都没有成功。前两项测试在隔离环境中进行，模型拿到的是一个假的命令行工具，生成的代码不会真正执行。
修改权重的门槛也不高。Anthropic 团队用了约 2200 个 GPU 小时、约 4400 美元，就把 GLM-5.3 对有害请求的拒绝率从 95% 降到 6%，通用能力基本不受影响。更小的 GLM-5.3-Flash 只需约 600 个 GPU 小时。
美国国家标准与技术研究院下属的 AI 标准与创新中心（CAISI）评估，GLM-5.3 的网络能力比美国最前沿模型落后约四个月。报告指出，差距虽在，获取门槛却完全不同：Mythos Preview 只通过 Glasswing 项目提供给经过筛选的网络防御方，GLM-5.3 任何人都能下载和改造。
报告建议政府对能力足够强的模型开展安全测试，把前沿模型更多开放给网络防御机构，并要求模型开发者对这类能力加以防护。