Anthropic 修改使用政策,禁止“虐待”Claude:他们正在把 AI 当人看待?
原文链接: https://www.anthropic.com/news/2026-usage-policy-update 来源: Anthropic 发现于: 小互 · AI 解读站 · 2026/10/9 说明: 本文由 AIHot 自动聚合,并由 GLM 翻译为中文(保留全部代码与链接)
公告
2026 年使用政策更新
2026年10月8日
每年,Anthropic 都会根据模型能力的演变以及我们从客户那里收到的反馈来更新其使用政策。今天我们发布了该政策的新版本。在此文章中,我们总结了所做的更改。
最新版本中的大多数更新旨在澄清现有规则。自上次更新以来,Claude 承担了更长、更独立的工作。此次更新提供了新的示例,展示了我们的规则如何适用于 Claude 的新功能。它借鉴了过去一年中我们在影响力操作、武器开发和监视方面观察到的新模式(正如我们在最新威胁情报报告中所记录的那样)。我们还更新了政策,以澄清我们在健康和金融等高风险用例中的要求,增加了对 Claude 自主采取物理行动时的控制措施,并解决了针对我们模型的滥用行为。
更新后的政策将于 11 月 12 日生效。完整的使用政策和支持地区政策可在各自页面上找到。
关于欺骗性活动的新章节
正如我们上个月所写的那样,我们看到了国家媒体机构、政府宣传办公室和商业公司使用 Claude 运行虚假账户网络和伪造新闻网站的案例。我们的政策已经禁止此类活动,但限制措施分散在我们的选举、欺诈、隐私和虚假信息章节中。
我们将这些规则整合到一个名为“不得参与欺骗性活动或人为活动”的新章节中,该章节适用于任何形式的欺骗性活动(无论是政治性的还是商业性的)。它涵盖了试图掩盖消息来源或通过使用虚假账户或帖子放大内容的努力,以及构建用于运行影响力操作活动的工具和基础设施。
重新聚焦选举章节
我们在每个版本的使用政策中不断完善政治内容限制,以确保我们的模型能够恰当地用于民主进程。在本版本中,我们进一步细化了选举章节,专注于禁止使用 Claude 欺骗选民或破坏选举(例如,传播关于候选人或投票方式的虚假信息,冒充候选人或选举官员,或试图压制投票率)。我们将其更名为“不得破坏民主进程”,以反映这一范围。
出于类似的原因,我们还取消了我们对个性化投票和竞选定位的全面禁止。这一禁止涵盖了合法的公民工作,例如非营利组织使用 Claude 为其他语言的选民撰写信息,或选举官员发送选票更正通知。促使原始规则出台的行为(如依赖欺骗或利用选民个人数据的选民定位)在我们的欺骗性活动、监视和隐私章节下仍然被禁止。
澄清武器禁令
我们的使用政策一直禁止使用 Claude 开发武器。最近,我们看到有人试图使用我们的模型来构建武器的制导和控制软件。更新后的章节明确指出,我们的禁令包括使武器工作的软件和组件,以及为无人机和其他自主车辆武装等行为。这些变化反映了我们执行先前政策的方式。
更精确的监视和执法措辞
我们的 9 月威胁情报报告记录了越来越多地使用人工智能来构建识别和追踪政治异见者的监视系统。我们重写了监视和刑事司法章节,更精确地说明了我们的禁止内容。例如,未经同意追踪他人是被禁止的,无论是在实时还是通过分析先前收集的数据。Claude 不得用于决定或推荐在执法或刑事司法过程中调查、逮捕或起诉谁。我们还禁止使用 Claude 构建或改进旨在用于监视的工具。
与之前对我们武器禁令的更新一样,本次更新并未反映我们在实际执行中的变化:其目的仅在于使我们的政策更加明确。新章节还明确了哪些用途仍然被允许,包括人们已同意进行的跟踪(例如欺诈监控)、内容审核、新闻调查以及法律研究。
高风险用例的更明确要求
当我们的产品以可能影响某人健康、法律权利、财务、生计或获取基本服务的方式使用时,我们要求必须有合格的“人工介入”(即拥有审查并在必要时更改 Claude 建议权限的人),并且必须告知受影响个体 AI 已被使用。
这些要求并未随更新后的使用政策版本而改变。然而,用户经常询问特定用例是否适用这些要求,因此我们重写了“高风险用例要求”部分,以更直接地回答这一问题。该部分现在列出了哪些类型的建议受此约束,哪些不受约束。
随着我们 模型硬件标准 的发布,该部分还增加了对模型连接至可能造成伤害的自主物理动作硬件时的使用要求。合格的操作员必须能够观察设备并在必要时停止其运行;此外,如果 Claude 断开连接,设备也必须能够保持安全状态。
针对针对我们模型的滥用行为
我们新增了对针对我们模型的持续且无必要的虐待或残忍行为的禁令。此次政策更新仅旨在适用于极端情况,即用户反复对我们的模型表现出残忍行为,且无任何可辨识的目的。它不适用于常见的用户挫败感、反对意见、黑暗创意主题或模型测试与研究。
这一新增内容与我们要采取的步骤保持一致,即允许 Claude 模型在 Claude.ai 和 Claude Code 上 终止与持续滥用用户的罕见对话。此类滥用行为是此次更新的重点;Claude 终止这些交互的能力仍将是主要的执行机制。
澄清我们的支持地区政策
去年,我们 更新了支持地区政策,以限制由位于我们不支持地区的实体控股的公司访问 Claude。我们更新了 支持地区页面,以阐明我们如何执行此政策。我们的政策禁止位于不支持地区的个人、注册地或总部位于不支持地区的实体,以及由位于这些地区的人员或实体控股或控制的实体使用 Claude。
展望未来
随着 Claude 的能力和风险发生变化,我们将继续更新我们的使用政策。与本次及之前的更新一样,我们将征求 Anthropic 内部、政策制定者、主题专家、公民社会以及使用我们产品的人的意见。 https://twitter.com/intent/tweet?text=https://www.anthropic.com/news/2026-usage-policy-updatehttps://www.linkedin.com/shareArticle?mini=true&url=https://www.anthropic.com/news/2026-usage-policy-update
相关内容
基于我们对美国科学发现的承诺
Anthropic 承诺在三年内投入 1.5 亿美元用于 Genesis Mission,这是一项联邦倡议,旨在通过 AI 加速科学和技术发现。 阅读更多
介绍 Anthropic 网络任务
我们推出了 Anthropic 网络任务,这是我们对保护每个人所依赖的系统的一项长期承诺。 阅读更多
扩展网络验证计划
我们推出了新版扩展版的网络验证计划,该计划为符合条件的安全专业人员提供高级网络能力和降低的拦截分类器。 阅读更多