参考链接：
1. 什么是递归自我提升？
递归自我提升（Recursive Self-Improvement，简称 RSI）指的是：AI 参与改进自身，而改进后的系统又能更有效地推动下一轮研发，从而形成持续迭代的过程。
其基本逻辑是：提出改进方案 → 执行实验 → 验证效果 → 更新系统 → 开展下一轮改进。
改进对象可以包括训练数据、模型算法、推理策略、工具使用方式，以及整个研究流程。它的关键在于，系统不仅提升解决问题的能力，还逐步提升“如何改进自身”的能力。
因此，回答时进行反思、一次训练带来性能提升，以及持续增强自身研发能力，属于不同层次，前两者可以成为 RSI 的组成部分。
2. 为什么 RSI 值得关注？
随着训练成本上升、高质量数据供给承压，AI 研发正在更加重视算法效率、推理计算和研究流程自动化。RSI 的吸引力在于：如果 AI 能承担更多研发工作，技术改进就可能减少对人类研究速度的依赖。
两组产业案例能说明这一趋势。其一是 Richard Socher、田渊栋等人共同创立的 Recursive Superintelligence。投资方 GV 披露，该公司获得 6.5 亿美元融资，估值为 46.5 亿美元，目标包括让 AI 通过实验改进自身代码与能力。GV 公告
其二是 Karpathy 加入 Anthropic。利用 Claude 加速预训练研究，强调现有模型参与下一代模型研发的潜力。两组案例分别代表了构建自我改进系统，以及在现有研发流程中增加自动化的思路。
3. 支撑自我改进的四项技术
3.1 连续隐空间推理：探索不同的内部计算方式
传统思维链通过逐步生成文字展开推理。Coconut 尝试将模型的隐藏状态直接反馈为下一步输入，使部分推理在连续表示空间中进行。研究显示，它在一些需要规划和回溯的逻辑任务上取得了优势，并减少了推理所需的 token。Coconut 论文
3.2 强化学习与可验证反馈：通过试错改善策略
强化学习利用反馈调整模型行为。在代码、数学等任务中，测试结果和答案核验可以提供相对明确的奖励信号。自博弈则通过系统之间的互动或对抗产生训练经验，它与可验证奖励有关联，但并非同一概念。
OpenAI 的 o1 研究展示了训练时计算和推理时计算两条扩展路径：增加强化学习投入，以及让模型在回答前进行更多推理，都能改善部分任务上的表现。o1 研究说明
DeepSeek-R1-Zero 展示了跳过前置监督微调、直接对预训练基座进行强化学习的潜力，并出现反思和自我验证等行为。后续 R1 结合冷启动数据与多阶段训练，改善了可读性；知识蒸馏则让较小模型学习到部分推理能力。DeepSeek-R1 论文
3.3 自我奖励：让评价能力参与迭代
Self-Rewarding Language Models 让模型评价候选回答，再利用这些评价进行迭代训练，尝试使生成能力和评价能力共同改善。自我奖励语言模型论文
Process-based Self-Rewarding Language Models 进一步把评价深入到中间推理步骤，帮助定位错误并优化推理过程。这意味着系统不仅判断“答案好不好”，也分析“哪一步出了问题”。不过，自我评分仍需要外部校验，避免偏差在循环中被不断强化。过程级自我奖励论文
3.4 科研自动化：把局部能力连接成完整流程
Sakana AI 的 The AI Scientist 将想法生成、实验编程、运行实验、论文撰写和自动评审连接起来，展示了科研流程自动化的可能性。如果这类系统进一步用于研究 AI 算法，就可能成为自我改进体系的一部分。
不过，自动完成流程与可靠地发现新知识之间仍有距离。研究团队也记录了实验实现错误、基线比较不公平和结果解释失误等问题。The AI Scientist 项目说明
2026 年 9 月发布的 ZGCM-1，则为 AI4AI 提供了更贴近基础模型研发的案例。它是一个从零训练、面向数学推理与工具辅助搜索的约 7B 参数模型。值得关注的是，团队让研究人员指导的 AI Agent 参与数据整理、集群运维、诊断评测与部署，将 AI 嵌入模型研发的多个环节。项目仓库
4. 从模型到 Agent：自我改进发生在哪里？
四项技术解释了自我改进的能力基础。进一步落到工程实现，可以把智能体理解为 Agent = Model + Harness：Model 提供理解、推理与生成能力，Harness 则组织上下文、记忆、工具调用与任务流程。
改进对象 | 如何积累能力 | 代表论文 |
模型参数 | 生成自我更新方案，经微调和评测将经验写入权重 | |
上下文 | 保留任务现场，按需组织历史、计划和中间结果 | |
长期记忆 | 从成功与失败轨迹中提炼经验，供后续任务检索 | |
Skill | 持续修订可复用的操作步骤、行为规则与脚本 | |
工具与 Harness 代码 | 同时调整工具能力、调用方式和控制流程 |
这里需要区分：上下文是模型当前直接看到的信息；记忆保存在外部，等待检索；Skill 更强调遇到某类问题时可以重复执行的方法。它们可以共同进化，也可能把错误经验带入后续任务。
5. 自我改进如何组织？
版本结构决定经验如何继承。SkillFlow 采用链式更新，将修订后的 Skill 库直接用于下一任务，实现简单，但容易继承错误。Darwin Gödel Machine（DGM） 保留多个历史版本，通过树形分支探索不同改进方向，并用实际评测选择候选版本，代价是更高的实验成本。Mendel Gödel Machine（MGM） 进一步利用跨任务、跨分支的轨迹对照辅助修改。即使版本继承关系仍以树保存，经验也可以形成跨分支的信息流：同一系统在哪些任务上反复失败，不同系统又为何在同一任务上表现不同，这些比较有助于定位问题。
更新者则可以是 Agent 自身、独立 Teacher，或双方协作。Teacher 的职责是分析轨迹并参与决定如何修改；仅提供分数的评估器不等于 Teacher。Recursive Experiential-Working Memory Evolution 是理解外部更新流程与记忆演化的一项参考工作。
6. 核心限制：数据、评估与安全
高质量人类数据的供给压力会推动合成数据的使用。但如果训练持续用模型生成的数据替换真实数据，错误可能累积，罕见信息与输出多样性也可能逐渐丢失。
风险概括为两类：熵衰减，即分布多样性下降；方差放大，即缺乏外部约束时，模型表征可能逐渐偏离真实分布。这些结论依赖具体数学假设，不能直接推广为所有自我改进方法都必然失败。自我改进极限研究
合成数据也并非必然导致崩溃。研究发现，在保留原始真实数据、持续积累合成数据的实验设置下，可以避免崩溃现象。数据如何生成、筛选与保留，以及反馈是否可信，都会影响结果。Is Model Collapse Inevitable?
当系统能够修改代码、运行实验和调整流程时，就需要防止它通过改变评价条件获得更高分数。重点担忧奖励漏洞、目标偏差和未经授权的修改，以及快速迭代给监督带来的压力。
此外，分数提高并不一定意味着系统获得了可迁移的能力。《Rethinking the Evaluation of Harness Evolution for Agents》在 Terminal-Bench 2.1 上比较发现，在可比的反馈与尝试预算下，Harness 自动进化没有稳定超过多次采样或顺序修正；划分训练、验证与测试任务后，未见任务上的成绩仅从 67.7% 提升至 68.3%。论文全文
7. 智能是否必须像人？
第一，AI 的内部表征和推理过程未必与人类相似，未来高级智能可能具有不同于人类的认知结构。第二，智能的发展可能越来越依赖主动实验、环境互动和错误修正，知识由此在行动与反馈中逐步形成。