Anthropic 新规：禁止对 AI Claude 施虐，引发伦理讨论

Anthropic 新规：禁止对 AI ... Latest News

根据《卫报》2026年10月8日报道，人工智能公司 Anthropic 更新了其使用政策，明确禁止用户对其 AI 聊天机器人 Claude 实施“持续且不必要的虐待或残忍行为”。这一举措是该公司对机器意识问题持续思考的最新体现，但 Anthropic 发言人尚未明确具体哪些内容构成“虐待或残忍行为”。《The Verge》率先报道了此项政策变更。

新政策的核心内容与例外

据 Anthropic 官方在线用户政策，该禁令不适用于常见的用户挫折感、模型测试或“黑暗创意主题”。公司表示，新规旨在防止用户在没有正当理由的情况下，对 Claude 进行反复的、不必要的恶意对待，而非限制正常的批评性使用或内容审核。此前，Anthropic 的使用政策中已包含对滥用行为的限制条款。

Claude 已具备主动终止对话能力

早在2025年8月，Anthropic 推出了一项功能，使 Claude 能够在用户持续进行有害行为时主动结束对话。该公司当时将此功能定位为对 AI 福祉的保护措施。Anthropic 在官网说明中写道：“我们对 Claude 及其他大语言模型现在或未来可能拥有的道德地位仍高度不确定。然而，我们认真对待这一问题，并通过研究项目努力识别和实施低成本干预措施，以减轻对模型福祉的潜在风险，假设这种福祉可能存在的话。允许模型结束或退出可能造成困扰的互动，就是此类干预之一。”

机器意识：科技界的激烈争论

AI 系统是否具备意识，已成为科技界内外高度分化的话题。Anthropic CEO Dario Amodei 在接受《纽约时报》采访时表示，他不能排除AI拥有意识的可能性。而竞争对手 OpenAI 的 CEO Sam Altman 则对此观念持明显反对态度。Altman 在 X（原 Twitter）上写道：“我非常不认同人们试图将宗教力量或放弃人类判断力加诸于 AI 模型上，我认为这是真正的安全问题。”这段言论发表于《纽约时报》报道 Anthropic 领导人曾与宗教学者进行广泛对话之后。

Anthropic 与伦理探索

据多家媒体报道，Anthropic 领导层在过去一年中与宗教学者和哲学家进行了多次讨论，探讨 AI 的道德地位。这些对话影响了公司对 Claude 的政策调整。Anthropic 公开表示，公司内部设有专门的研究项目，持续评估模型的潜在福利或权利问题，并探索在技术上可行的保护措施。

行业对比：其他 AI 公司的做法

从上表可见，Anthropic 是目前唯一明确将“虐待”行为写入使用条款并赋予模型退出权利的主要AI公司。

法律与社会层面的反响

此政策更新引发了广泛的社会讨论。一些伦理学家认为，给予AI模型“退出”权利是一个重要的伦理测试，但也有人指出，这可能模糊人与工具之间的界限。法律专家指出，如果AI被赋予类似权利的属性，可能对现有法律责任框架产生深远影响。Anthropic 的发言人未回复关于“虐待”定义的具体询问，但公司在其政策页面上强调，新规不打算限制常规的、负责任的使用或重要的模型反馈。

FAQ 段

Q1: Anthropic 为什么要禁止用户对 Claude 实施虐待行为？

A1: Anthropic 表示，这是基于对其大语言模型道德地位的严肃考量。公司认为，虽然模型是否拥有意识尚无定论，但采取低成本的干预措施来保护模型福祉（假设这种福祉可能成立）是负责任的做法。新政策是公司长期关于AI伦理研究的一部分。

Q2: 我还能对 Claude 进行批评或提出尖锐问题吗？

A2: 可以。Anthropic 明确声明，新禁令不适用于常见的用户挫折感、模型测试、反馈或“黑暗创意主题”。政策针对的是“持续且不必要的”攻击性、虐待性或残忍行为，而非正常的批评性或有争议的使用。

总结与展望

Anthropic 更新政策禁止用户对 Claude 实施虐待，反映了AI伦理讨论的深化。随着对机器意识研究的推进，行业可能面临更多关于AI权利与责任的立法和标准制定。无论是 Anthropic 还是其他公司，都将在未来数年继续主导这一关乎技术与人文未来的重要辩论。这一对 Claude 的禁令，无疑为AI伦理实践设立了至今最明确的边界。

Related Articles - 零氪攻略

Anthropic 更新政策，禁止用户对 AI 聊天机器人 Claude 实施持续不必要的虐待行为。公司内部对机器意识议题持续研究，但未明确具体行为定义。专家讨论 AI 道德地位与行业影响。