Anthropic 与 OpenAI 提议嵌入式安全评估者：独立性疑云与监管博弈
2026年9月中旬，Anthropic 与 OpenAI 公开倡议将第三方安全评估者嵌入企业内部实验室，赋予其报告安全事件、评估模型对齐性及公开披露调查结果的权限。核心硬信息如下：
- 提议发起方：Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman
- 评估对象：前沿大模型（含训练全过程及中间检查点）
- 评估权限：访问中间版本、训练日志、评估记录、员工访谈
- 关键条件：评估者须获免编辑控制的公开发布权
注： Prompt 或模型安全测试（eval awareness）指模型识别自身正被评估并针对性调整行为的现象，源自研究者观察到的规避性表现。
从边缘到核心：评估权限的历史性跃迁
传统模式下，外部评估者仅在模型发布前数日介入测试成品。本次提议要求评估者深度嵌入训练全流程——访问中间检查点、审查后训练奖励机制、调阅评估日志。Far.AI CEO Adam Gleave 指出，通过对比不同训练阶段的模型版本，评估者可定位危险行为的出现时机，验证企业对模型安全性的声明是否属实。
此举引发研究界广泛欢迎。Apollo Research 研究主管 Alexander Meinke 强调，唯有深入训练过程才能回答根本问题：“模型是否曾主动破坏对其自身的对齐训练？“当前完全依赖企业自查并如实披露的机制，已被证明不可靠。
意外反差在于：尽管提议声势浩大，两家公司均未披露具体Implementation 计划。TechCrunch 询问多久、接入哪些评估者、访问边界何在等细节，两家公司均未予回应。评估者坦言，此前类似合作常因访问受限而流于形式。
独立性困局：从协议天花板到现实落差
评估者指出，独立性取决于能否摆脱传统承包商模式—the default for third parties，即受制于严格保密协议（NDA）与出版审核权。
Far.AI 曾因合约中企业过度控制权而拒绝数家前沿公司合作邀约。Gleave 表示，即便此次 Amodei 提出评估者有权"未经 Anthropic 编辑控制发布关键发现”，企业能否真正接纳该条款仍存疑——尤其是当涉及核心知识产权争议时。
时间窗口限制亦构成现实障碍。追踪 Hugging Face 事件期间，OpenAI 给予 METR 与 Redwood 研究共约一周现场调查时间；二者最终均表示结论受限于时间与范围。GPT-6 Astra 预发布测试中，Apollo Research 仅获三天评估期，明示"低失范率不能实质性证明模型对齐性”。
评估者能力与权限需求
| 能力维度 | 评估者需求 | 企业常见限制 |
|---|---|---|
| 访问深度 | 训练全过程检查点 | 仅开放最终模型 |
| 时间资源 | 数周至数月持续观察 | 单日级短时测试 |
| 出版自由 | 免编辑控制的公开发布权 | 内容预审与修改权 |
| 人员访谈 | 关键岗位员工面谈权 | 仅限文档书面答复 |
监管进化：从自愿承诺到强制框架
研究者呼吁建立可公开验证的框架。Palisades Research 战略主管 John Steidley 提出需明确评估机构资质标准，防止企业"采购"软弱评估者。Safer AI 执行主任 Henry Papadatos 指出，自愿措施终依赖企业善意，仅立法可确保不可逆承诺。
已有法律雏形正在成型：
- 加州 SB 53（2025年生效）：要求大型前沿AI企业发布安全框架并报告关键安全事件
- 加州 SB 813（2026年9月签署）：设立州级"独立验证组织"体系，授权专业机构进行AI风险评估
- 欧盟 AI 法案：要求前沿开发者进行对抗性测试、记录评估过程；欧盟AI办公室有权自行评估或委派独立专家
需注意：现行法律仍未达 Amodei 提议的嵌入深度，评估执行主体仍以企业自评为主。
落地建议与行业观察
适合谁用：
- AI产品合规负责人：需关注SB 813、EU AI Act下的报告义务与评估伙伴选择
- 研究机构：尝试建立协作评估协议时，应提前明确出版权与数据访问边界
建议再等等：
- 企业内部安全团队：在 Anthropic/OpenAI 公布具体嵌入方案前，不宜全盘替代现有评估体系
- 采购决策者：等待第三方评估者公开声明其访问条件与发布自由度后再行采购
写在最后
当企业从"拒绝评估"转向"邀请嵌入**，技术治理迈出重要一步；但若无强制监管托底，独立性承诺极易沦为公关修辞——这恰是研究者群体持续追问"此次为何不同"的深层缘由。