大模型
x.com ·
@宝玉 (@dotey)
Anthropic 更新 Claude 使用政策：持续辱骂模型算违规，医疗金融等高风险用途需人工审核
Anthropic 一年多来首次修改 Claude 使用政策，新版 11 月 12 日生效。新规禁止用户对 Claude 持续且无必要地辱骂或残忍对待，执行手段以结束对话为主，是否封号官方未回应。政策同时收紧高风险滥用：禁止欺骗性商业或政治宣传、选举虚假信息、武器相关软件与部件开发，以及未经同意追踪他人、人脸识别、预测性警务；诊断病情、调整用药剂量、推荐具体投资产品被列为高风险用途，开发者交付前须经合格专业人士审核并告知用户内容由 AI 生成。
AI推荐理由 内容转述 The Verge 报道的 Anthropic 使用政策更新，信息密度较高，涵盖模型福利条款、虚假宣传、选举、武器、监控医疗金融等具体改动，并指出对 AI 问诊、AI 理财顾问开发者需增加人工审核的落地影响。局限在于这是二手转述，未提供 Anthropic 官方政策原文链接，且 X 帖子互动量仅作传播信号，不能替代事实核验。
72
浏览 60,890
点赞 171
评论 62
转发 18
正文
Anthropic 更新使用政策：对 Claude 持续无端地辱骂虐待，算违规
Anthropic 修改了 Claude 的使用政策，这是一年多来的第一次，新版 11 月 12 日生效。最受关注的一条是，用户不得对 Claude“持续且无必要地实施辱骂或残忍行为”。
这条规定来自 Anthropic 的“模型福利”研究，研究的问题是 AI 模型会不会有某种值得被考虑的感受。去年 8 月，Anthropic 已经让 Claude 可以主动结束和“持续有害或辱骂”用户的对话。新政策说，结束对话仍是“主要的执行手段”。会不会进一步封号，Anthropic 没有回应 The Verge 的询问，不过官方政策页的通用条款写着，违规者可能被警告、限流、暂停或终止使用。
普通用户不用紧张。Anthropic 说这条只针对极端情况，也就是用户反复虐待模型，又看不出任何目的。平时对 AI 发火、跟它争论、写黑暗题材的小说、做模型测试和研究，都不算。
其余改动针对的是高风险滥用。
虚假宣传：原来分散在各处的限制合并成了一条，禁止用 Claude 搞欺骗性的商业或政治宣传，比如隐瞒信息背后的真实发布者，或者用假账号、假帖子刷量造势。
选举：禁止散布关于候选人或投票方式的虚假信息，禁止冒充候选人或选举官员，禁止压低投票率、干扰投票和计票。
武器：Claude 一直禁止用于开发武器，但 Anthropic 说发现有人多次尝试用它写武器相关的指导和控制软件。新政策把禁令扩展到“让武器运转的软件和部件”，也包括给无人机和其他自动驾驶载具装上武器。
监控、医疗和金融：未经本人同意追踪他人被明确禁止，人脸识别、预测性警务都在列。诊断病情、调整用药剂量、推荐买卖具体的投资产品，被划为高风险用途。开发者用 Claude 做这类产品，结果交给用户之前必须经过合格的专业人士审核，还要告诉用户内容由 AI 生成。一般的健康科普和投资常识不受这条限制。
对做 AI 问诊、AI 理财顾问的开发者来说，11 月 12 日之后，流程里要加上人工审核这一步。
https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude