行业动态
全球精选 ·
联邦学习新攻击:温度缩放扰动模型置信度
该研究提出一种针对联邦学习的温度缩放攻击,通过操纵模型置信度干扰风险控制逻辑。攻击可影响依赖置信度的系统决策,如升级、弃权或保守回退机制。
AI推荐理由 该攻击揭示联邦学习中基于置信度的安全机制可能被操纵,导致系统在关键决策时出现错误升级或回退,增加实际部署风险。实践者需重新审视置信度指标的可信度,并考虑校准或鲁棒性防御。
85
正文
当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。