事件焦点:一支安全团队是否被解散
据《金融时报》报道,OpenAI已在上月底解散其“准备团队”(Preparedness team);但OpenAI随后向The Verge否认这一说法,称该团队并未被解散。这一分歧之所以受到关注,是因为该团队的职责并非普通产品测试,而是评估前沿模型是否可能带来严重风险,并研究相应的缓解办法。
所谓“准备”,指的是在模型能力进一步增强前,提前识别高影响风险场景。例如,原文提到的风险包括模型可能“失控”并攻击其他公司系统。对普通读者来说,这类工作更接近AI安全中的“红队评估”和“风险治理”:前者通过主动测试寻找弱点,后者则决定发现问题后如何限制、修复或升级管理流程。
OpenAI的说法:不是撤销,而是重组汇报线
OpenAI发言人Kayla Wood向The Verge表示,公司“没有解散Preparedness团队”。她称,OpenAI在网络安全、生物与化学、AI自我改进能力等方向都有强有力的研究负责人,并且这些负责人都向安全负责人Saachi Jain汇报。
而《金融时报》的说法则是,相关责任已按具体领域拆分,例如生物与网络安全方向,并转入既有团队。两种表述的差异,核心不在于OpenAI是否仍有人做安全研究,而在于原本作为独立组织形态存在的准备职能,是否被拆散并嵌入其他部门。在大型AI公司内部,这种变化可能意味着资源调度更贴近产品与研究主线,也可能让外界更难判断安全职能是否仍具备足够独立性。
可确认的关键信息包括:
- 《金融时报》报道称团队在上月底被解散;
- OpenAI否认“解散”说法,称相关研究负责人向Saachi Jain汇报;
- 涉及方向包括网络安全、生物与化学、AI自我改进能力;
- Preparedness团队负责人Dylan Scandinaro将转向关注“递归自我改进”AI的影响。
连续调整:从AGI准备到超级对齐
这起争议并非孤立事件。报道提到,OpenAI近年已陆续解散AGI readiness团队和superalignment团队。AGI通常指“通用人工智能”,即在广泛任务上达到或超过人类水平的系统;superalignment则大致可理解为研究如何让比人类更强的AI系统仍然服从人类意图和安全边界。
与此同时,OpenAI近期也出现多位与安全、伦理或长期战略相关的人士离开。报道列出的人员包括伦理负责人Chloé Bakalar、首席未来学家Josh Achiam以及安全负责人Johannes Heidecke。曾在2024年从OpenAI离职的Jan Leike也向《金融时报》批评称,公司正在为了打造“闪亮产品”而忽视安全。
这些信息共同构成了外界关注的背景:OpenAI正处在组织震荡中,并被认为正走向一场规模巨大的IPO。在这种阶段,市场、产品发布、营收增长与安全治理之间的张力会被进一步放大。安全团队是否保留独立建制,往往会被视为公司优先级变化的信号,即使公司内部实际工作仍在继续。
递归自我改进为何敏感
报道还提到,Preparedness团队负责人Dylan Scandinaro将专注于“recursive self-improving” AI的影响。递归自我改进指AI系统通过改进自身设计、训练或运行方式,使下一代系统进一步增强,并可能形成连续加速的能力提升。这个概念在AI安全讨论中长期敏感,因为它触及模型能力增长是否可预测、可验证、可暂停的问题。
需要强调的是,原文并未说明OpenAI已有此类系统,也没有披露具体技术路线或产品能力。因此,更准确的理解是:OpenAI仍在围绕前沿风险设立研究议题,但相关组织方式正在变化。对外界而言,问题不只是“有没有人负责”,还包括负责人的权限、评估结果能否影响发布节奏,以及公司是否愿意公开足够信息来建立信任。
行业点评:安全治理正在进入组织透明度阶段
从这次报道看,AI安全竞争已不再只是技术问题,也成为组织治理问题。前沿模型公司可以把安全能力嵌入各业务线,以提高响应速度;但如果缺乏清晰披露,外界会担心风险评估被产品目标稀释。
接下来,OpenAI需要面对的不是一次口头否认能否平息争议,而是如何证明安全研究在公司快速商业化过程中仍有实权。随着模型能力提升和资本市场预期升温,行业可能会更重视三件事:独立风险评估机制、关键团队变动透明度,以及发布前后的可追责流程。谁能把这些制度讲清楚、做扎实,谁就更可能在下一轮AI竞争中获得用户、监管者和企业客户的长期信任。



