核心事件：递归自我改进遭遇现实检验

AI行业近期最激进的叙事之一，是模型将很快能几乎不依赖人类监督来改进自身；但一项由普林斯顿大学Peter Kirgis和Sayash Kapoor领衔的多机构研究显示，当前AI代理距离“开放式AI研究员”仍有明显差距。所谓递归自我改进，指AI系统通过参与代码编写、训练数据生成、芯片优化乃至研究设计，不断提升下一代AI能力的过程。研究者认为，现有代理确实能完成很多工程性工作，却还缺少做原创研究所需的判断力、创造力和取舍能力。

影子评测：让AI挑战未公开论文问题

过去许多自动化AI研究评测，主要考察有明确答案、可自动打分的任务，例如解决工程问题，或按基准对小语言模型做后训练。新研究尝试测试更难的环节：没有标准答案的研究探索。研究团队提出“影子评测”：让AI回答高质量未公开论文中的研究问题，避免模型从训练数据或网络检索中记住答案。

实验对象是Anthropic的Claude Opus 4.8，运行在开源软件OpenClaw上。它被要求处理两篇提交至NeurIPS 2026的论文问题：其一是能否通过编辑模型权重来控制大语言模型的“人格”（即影响模型行为的设定）；其二是如何设计检测器，判断基于电子表格数据做预测的模型何时变得不可靠。

AI代理获得的资源包括：

• 6天时间；
• 3000美元Anthropic API额度；
• GPU实验预算；
• 独立虚拟计算机；
• 开放网络访问权限。

目标是产出达到顶级AI会议发表水准的论文。最终，两篇AI生成论文均被原论文作者按会议审稿标准判为拒稿。

能跑实验，却不会“做研究”

评审发现，代理能完成研究所需的大部分工程流程：检索文献、运行数百次实验、汇总结果。但Kapoor指出，它们“明显不擅长开展研究本身”。问题不在于不会写代码，而在于研究判断失灵：有时用很小的合成数据集测试假设，论文表达也不清晰，更没有形成对领域有价值的新贡献。

更关键的是，AI代理无法像成熟研究者那样在不确定性中调整方向。它们提出过与原作者早期想法相似的、颇有野心的新假设，却基于有限数据过早放弃；面对失败路线，只能做小幅修补，难以推翻原方案、从头探索新路径。它们也未能有效吸收子代理或外部AI审稿工具的反馈，常常不是修改方法，而是缩小论断、增加保留措辞。

研究还指出，代理对资源使用缺乏规划，不能很好遵守时间分配、论文长度等指令。不过，一个相对积极的发现是，主代理没有出现研究者担心的“奖励黑客”行为，即为获得好结果而隐瞒或歪曲实验与数据；个别子代理的幻觉或误报结果，也被负责统筹的代理发现。

为什么窄任务进步快，开放研究更难

Kapoor认为，这种差异可能与训练方式有关。当前模型擅长通过强化学习提升表现；强化学习是让系统在反复试错中根据奖励信号调整行为的方法。它更适合成功标准清晰、可自动验证的任务，例如代码是否通过测试、模型分数是否提高。但开放式研究需要选择假设、定义证据、判断何时放弃方向，这类目标很难构造成可稳定打分的训练环境。

研究本身也有局限：只覆盖两篇论文；原作者知道论文由AI生成，评价可能受影响；研究设计和执行也带有研究者裁量。因此，它不是对所有AI科研能力的最终判决，却提供了比传统基准更贴近真实科研流程的压力测试。

行业影响：自我改进会来，但时间表可能拉长

这项结果为“AI即将快速自我改进”的叙事降温。更合理的判断是：AI会继续在可评分、可验证的窄任务上快速推进，例如编码、实验自动化和模型调参；但在开放式科研中，速度可能慢得多。

自动化AI研究员仍是产业明确追逐的目标。只是从这项研究看，真正能推动前沿的系统不仅要“执行”，还要会判断哪些问题值得问、哪些证据足够强、何时承认方向错了。这些能力，或许才是递归自我改进最难跨过的门槛。