Anthropic向METR开放内部系统... Latest News
前沿人工智能公司Anthropic于2026年10月15日宣布，将向非营利组织METR（模型评估与威胁研究中心）提供相当于内部员工的系统访问权限。根据TechCrunch独家报道，METR研究员将能够全面检查Anthropic的模型开发过程、安全实践及风险事件，而Anthropic承诺不会在评估报告发布前进行任何干预或删改。这一举措被视为AI行业迄今为止在透明度方面最激进的实验，可能重塑大模型公司与其外部审计机构之间的权力平衡。
婚恋综艺史无前例的透明度承诺
据TechCrunch报道，Anthropic与METR达成的协议赋予后者“员工级访问权限”，这意味着METR的研究人员可以查看Anthropic内部使用的训练数据子集、模型权重监控日志、红队测试记录以及安全事件响应流程。Anthropic首席执行官达里奥·阿莫代（Dario Amodei）在一份声明中表示：“如果AI系统未来可能造成重大风险，那么外界必须能够在问题发生之前就看到证据。我们选择放弃封锁不利评估的权利，因为信任需要通过独立验证来建立。”路透社随后援引熟悉谈判的消息人士称，该协议从2026年7月开始秘密协商，最终签署于10月初，有效期覆盖Anthropic未来36个月内的所有主要模型发布。
综艺看点METR的独立评估角色
METR是一家成立于2023年的评估机构，专门对前沿AI模型进行能力与安全审计。其团队由约20名研究员组成，此前曾评估过OpenAI、Google DeepMind等公司的模型，但通常只能获得有限的API访问或事后数据。Anthropic的开放使得METR能够进行实时监控。METR主任丹尼尔·科克（Daniel Kok）对彭博社表示：“我们不会成为任何一家公司的宣传工具。如果发现严重漏洞或不当行为，我们将直接公开发布报告——无论这会让对方感到多么尴尬。”科克还透露，METR已计划在2026年底前完成对Anthropic现有系统的一次全面安全审计，并初步确定了5项重点检查领域。
综艺花絮协议条款与约束
| 条款 | 具体内容 | 备注 |
|---|
| ------ | ---------- | ------ |
|---|
| 访问权限 | 与Anthropic内部安全团队相同的训练数据和系统日志 | 不包括员工个人信息或商业合同 |
|---|
| 评估范围 | 模型能力、安全机制、部署监控、事件响应 | 每季度至少一次深度评估 |
|---|
| 报告发布权 | METR完全自主决定是否发布及发布时间 | Anthropic不能提前审阅或阻止 |
|---|
| 有效期 | 2026年10月15日起至2029年10月14日 | 可自动续签，但需双方同意 |
|---|
| 违规后果 | 若Anthropic故意隐瞒数据，协议自动终止 | 并需公开说明原因 |
|---|
行业反应与连锁影响
消息公布后，AI政策界迅速出现分化反应。华盛顿智库“安全AI中心”研究主管艾琳·莫尔（Eileen Mohr）在社交媒体上称赞：“这是负责任的AI治理的里程碑。”但另一家AI公司的工作人员匿名表达担忧：“如果每个竞争者都要求同等访问，那商业秘密怎么办？”事实上，Anthropic的竞争对手已开始施压。据《金融时报》10月16日报道，OpenAI正在与其董事会讨论是否向METR提供类似权限，但内部存在分歧。与此同时，欧盟AI办公室官员称，该协议可能为未来监管提供范式——要求训练大型模型的公司在发布前接受“类METR”的外部审计。
综艺收视对AI安全文化的考验
METR有权查看所有安全相关事件记录，包括那些未公开的小型事故。Anthropic内部员工匿名向彭博社透露，公司过去两年内曾记录过至少3起“轻微越狱”事件，尽管当时被迅速修复，但从未对外披露。现在METR可能会将这些细节写入报告。阿莫代在内部全员信中写道：“透明会带来痛苦。但如果我们连审计员都害怕，那公众凭什么信任我们？”这一态度受到不少年轻工程师的欢迎，但也引起部分法律团队对责任风险的担忧。安全研究员指出，如果Anthropic因为开放而被迫披露更多负面信息，可能在政策讨论中处于不利地位。
FAQ
Q1: METR是一个什么样的组织？
A1: METR全称模型评估与威胁研究中心，是一家独立的非营利组织，专注评估前沿AI系统的风险。其资金来自基金会与政府资助，不接受被评估公司的直接捐款，以确保审计独立性。团队由机器学习安全、对齐研究和红队测试方面的专家组成。
Q2: 这次访问权限协议对普通用户有什么影响？
A2: 如果METR发现Anthropic的模型存在严重漏洞，将及时公开报告，可能促使Anthropic更快修补，降低普通用户的使用风险。长期来看，这种开放模式可能成为行业标准，让用户对AI服务的安全性有更多了解。不过，METR的报告也可能导致公众对某些AI能力的恐慌，需要用户理性看待。
未来展望
Anthropic与METR的合作实验将至少持续三年。如果成功，它可能催生全球首套成熟的前沿AI外部审计制度，甚至成为各国AI立法的模板。但如果METR的报告引发过度监管或市场反弹，也可能导致其他公司退缩。无论结果如何，将内部系统真正开放给不受掌控的第三方评估，这一行动本身已经在AI信任赤字巨大的当下迈出了关键一步。AI模型安全评估正在从一个口号转变为可验证的实践。
Related Articles - 页游开服
Anthropic首次允许METR研究员以员工权限全面审查其模型开发与安全实践，且放弃阻止评估报告发布的权力。这一举措被认为是AI治理透明度的突破，可能重塑行业审计标准。
