AI圈新词RSI是什么：机器自己造AI离智能爆炸还有多远

AI 圈从来不缺新词。AGI 的热度还没散去，RSI 又迅速占领技术圈：Recursive Self Improvement，递归自我改进。它指的是 AI 自己写代码、跑实验、改训练流程，再把改进结果交给下一代更强的模型。一层层递进下去，研发速度可能越来越快，甚至超过人类理解与控制的速度。

围绕它很快分成两派：一方视其为通往超级智能的入口，另一方认为这只是被精心包装的恐慌生意。OpenAI 总裁格雷格·布罗克曼此前称 GPT-6 Astra 已经摸到 AGI 的门槛，首席科学家 Jakub Pachocki 则把 AI 描述为人类尚未充分理解的「异星心智」。

六十年前就被提出的「智能爆炸」

它的思想源头可以追溯到 1965 年。数学家 I.J. Good 当年提出设想：如果一台机器能够超越人类的智力活动，那么设计机器也应当属于它的能力范围。它可以造出比自己更聪明的机器，后者再改进下一代，机器智能由此进入不断加速的正反馈循环，Good 把这种现象命名为「智能爆炸」。

自主性被分成 L1 到 L5 五个层级

由上海交通大学、清华大学、字节跳动、上海人工智能实验室等机构研究者合作完成的预印本《The Last AI Built by Humans》，把 RSI 的自主性划分为 L1 至 L5 五个层级。

• L1 主要负责执行人类给出的改进方案；
• L2 开始自主寻找改进策略；
• L3 可以决定需要获取哪些经验；
• L4 能把部署环境中的反馈转化成持续保留的改动；
• L5 则让改进机制本身也成为改进对象。

到了最激进的一步，AI 还能提出目标、重写评估方法，人类制造的就不再只是一个模型，而是一套能继续制造模型的系统。

实验室里的进展和另一条现实路径

OpenAI 9 月 6 日公布的内部报告显示，「自动化研究实习生」目标已经实现：这类系统能在人类指导下编写代码、运行实验、排查故障和分析结果。截至 8 月中旬，每投入一个人类工作日，OpenAI 研究部门智能体的运行时长已经相当于 3.1 个工作日。

Anthropic 把自动化推进到了安全研究：在最接近「AI 训练下一代 AI」的实验中，能力较弱的 Claude Sonnet 5 帮助早期 Claude Opus 4.8 改善安全表现，约 60 小时内测试了 50 多种方案，最终只用约 2400 条训练样本，就把后者在既定评测中的对齐成绩推到接近正式版 Opus 4.8 的水平。

除了改模型，还有一条更现实的路子：在模型周边的软件系统上打补丁。北大校友翁荔重返 OpenAI 后将带队研究递归自我改进，她讨论的 Harness Engineering 就是理解 RSI 的入口——Harness 相当于 AI 的运行系统，负责工具调用、上下文管理和结果检查，改动未必触及模型权重，却可能提升整个系统的能力。

时间表分歧与两道难题

业界预测差异明显：Thinking Machines 首席科学家 John Schulman 认为需要 3 至 4 年，Millidge 倾向于约 5 年，O’Neill 则认为可能要 5 至 10 年。分歧背后是尚未解决的难题：模型要吸收新经验又不能丢掉原有能力，更新太激进会出现「灾难性遗忘」；比这更难自动化的是研究判断力，判断一次失败实验意味着方向错了还是值得继续探索，远比优化一段代码困难。

恐慌叙事与算力生意的两面

争论由一封辞职声明引爆。9 月 8 日，曾在 OpenAI 和 Anthropic 从事研究工作的 Jacob Coxon 宣布从 Anthropic 辞职，浏览量很快超过 1.7 亿次，Anthropic 在职对齐科学负责人埃文·休宾格也公开附和。随后 Anthropic CEO 达里奥·阿莫代伊呼吁同行集体降速，给安全研究让出一到两年时间；OpenAI CEO 山姆·奥特曼、xAI 创始人马斯克等往日对手也在减速问题上形成统一阵线。但能承担高额安全审查成本的恰恰是这些头部公司，而 AI 风险评估与能力限制规则的制定权，很大程度上也掌握在前沿实验室手中。

另一头，英伟达 CEO 黄仁勋在 All-In 峰会上反驳了非黑即白的思路：如果末日叙事转化为训练规模限制或算力审批，首先受冲击的就是芯片、服务器和电力基础设施。RSI 的技术讨论并非空穴来风，但当下争论的真正焦点，其实是下一轮算力、资本和产业利益怎么分配。