开源工具
dev.to ·
@oooocean66
「无审查」AI 模型中的隐藏后门风险
文章援引 ProjectDiscovery 2026 年 10 月 6 日的研究，介绍一个概念验证：攻击者可编辑公开开源模型的权重植入后门。在 1.5B 模型上，仅污染 1% 训练数据（1500 行中的 15 行）即可获得 75–98% 的触发命中率，而干净的工具调用准确率仍保持 99–100%。
AI推荐理由 转述 ProjectDiscovery 关于开源模型权重被植入后门的概念验证：1.5B 模型仅污染 1% 训练数据即达 75–98% 触发率，同时干净工具调用准确率保持 99–100%，对模型供应链安全有实际警示价值；但为二手转述，需回看原始研究。
78
正文
当前仅保存了标题或简介；并非所有来源都提供正文，可通过下方原文链接查看。