Anthropic 启动 METR 员工级独立评估机制，推进 AI 安全透明化
背景：从承诺到行动
在签署白宫超级智能协议（White House Accord on Super Intelligence）并承诺加强独立第三方评估后，Anthropic 于 2026 年 10 月正式宣布了一项重大举措：授予非营利组织 METR（Model Evaluation and Risk Transparency）团队“员工级”访问权限。
这一决定标志着 Anthropic 在构建robust safety oversight（稳健的安全监督）方面迈出了实质性步伐。过去一年中，Anthropic 已与 METR、SecureBio 及 Accenture 等多方合作，但此次合作在深度与广度上均达到了新的高度。
核心突破：什么是“员工级”访问？
为了有效评估前沿（frontier）AI 模型的风险，Anthropic 认为仅靠外部观察是不够的。他们借鉴了银行监管的逻辑：监管机构需要深入银行内部才能准确评估风险。
因此，Anthropic 已接入 6 名 METR 员工，赋予其与公司内部风险评估团队相当的资源与权限：
- 硬件与空间：提供公司硬件、办公空间及内部工具系统访问权。
- 信息透明度：在排除特定敏感类别（如客户数据、律师 - 客户特权信息、模型架构细节等）的前提下，METR 团队可像内部员工一样获取训练数据、安全机制运作方式及模型表现信息。
- 出版自由：METR 有权发布其关于风险、事件或实践的分析报告。Anthropic 无法否决其出版，但可要求对特定敏感信息进行脱敏处理（redaction）。
三级评估体系架构
Anthropic 正在开发一个分层的评估者访问体系，旨在逐步扩大独立审计的覆盖面：
- 第一级（Tier 1）：针对特定风险范围进行有限调查。Anthropic 决定访问权限，评估结果需经 Anthropic 批准方可发布。
- 第二级（Tier 2）：评估者可独立发布发现，拥有更广泛的信息访问权。Anthropic 仍可要求移除特定类别信息，但评估者可公开质疑脱敏处理的合理性。
- 第三级（Tier 3）：即目前与 METR 的合作模式。提供“员工级”访问权限，评估者可自主发布分析，且 Anthropic 无权干预其结论的公开。
数据安全与独立性保障
尽管访问权限极高，Anthropic 强调这种合作受到严格约束：
- 独立性：评估团队不得持有公司股权，也不存在财务或运营依赖。
- 隔离机制：只有少数经过筛选的员工在强制协议下参与此项目，其他 METR 研究人员被严格隔离，无法获取相关信息。
- 保密义务：Anthropic 鼓励员工在分享信息时遵循安全标准，确保客户和合作伙伴数据不被泄露。
行业意义
Anthropic 表示，这种自愿嵌入独立评估者的模式是前沿 AI 公司的标准做法。通过让第三方深入理解系统运作，Anthropic 旨在缩小“评估者对公司系统的理解”与“公司自身理解”之间的差距，从而构建更具韧性的 AI 安全防线。
“我们致力于分享更新，并积极参与此类合作，以学习何种形式的伙伴关系最有效。” —— Anthropic 官方团队
