研究称仅需约60美元即可向LAION-400M大规模投毒

据 Google、ETH Zurich 等机构研究者的一项研究，攻击者可能以约 60 美元成本向 LAION-400M 注入数万张恶意图文对。该数据集含 4 亿图文对，因仅存储网页链接，链接可被他人接管，约 0.01%（约 4 万对）即可被投毒。LAION-5B 曾于 2023 年因儿童虐待图像链接被下架，2024 年发布清洗版本。研究者建议的缓解措施包括锁定数据集版本、记录文件来源、在剔除低可信数据后测试模型行为。

AI推荐理由 转述 Google、ETH Zurich 等研究者关于 LAION-400M 数据投毒的研究：因数据集仅存网页链接，约 0.01%（约 4 万对）可用约 60 美元成本被替换为恶意内容；并提及 LAION-5B 2023 年因儿童虐待图像链接下架、2024 年发布清洗版。具体成本与比例是可核查的新信息，对数据供应链安全有实际价值；但本文为二手转述，未给出论文链接或实验细节，成本估算的假设条件不明。