AI 自己造 AI？刷屏的RSI，没那么可怕

从ChatGPT催热的Prompt，到今年刷屏的OpenClaw、AI Agent，AI领域涌现的新术语，堪比互联网行业的内部黑话。

最近，Google旗下的DeepMind传出消息，其AI能力几乎接近实现RSI（递归自我改进）。

在微软、Anthropic、OpenAI、马斯克等业界巨头频繁呼吁减缓前沿AI发展的当下，RSI开始频繁出现在各类报道中。

用一句不太精确的话来解释RSI，就是“AI自己创造AI”。换言之，利用一个成熟的AI系统来协助开发下一代更强大的模型，并提升未来模型的研发效率，一旦形成循环，AI的进步速度可能远超当前的迭代方式。

尽管RSI近期才受到关注，但其思想源头可追溯至六十多年前。1965年，英国数学家I.J. Good提出，如果一台机器能超越人类智力，那么设计机器也应在其能力范围内。它可以设计出比自己更聪明的机器，机器智能由此进入加速的正反馈循环，他称之为“超智能机器”。

正是这样一个科幻概念，最近正以超乎预期的速度变为现实。

9月上旬，OpenAI首次公开披露RSI进展，预计在2028年3月前实现自动化AI研究员；其首席科学家帕霍基发文警告，人类尚未准备好应对超级智能的快速演进。

另一家AI巨头Anthropic也在尝试将自动化推进到安全研究领域，之前曾利用Claude Sonnet 5帮助早期的Claude Opus 4.8改善安全表现，仅用约2400条训练样本，就将成绩优化到接近正式版的水平。

除了直接修改模型，业内还有一条更实际的路径，即在模型配套的软件系统上打补丁，业内称之为“Harness Engineering”。这种工程范式让智能体能够改进自己的记录方式、修正出错的工具接口、重写低效的代码。这些变化未必改变模型权重，却可能显著提升整个系统的能力。

不过，与真正的RSI相比，并非所有自我改进都配得上“递归”二字。目前大多数所谓的“AI进化”，本质上仍离不开人工干预。真正的RSI，除了比上一代有明显进步外，还在于它更擅长“制造”后继者。

换句话说，一个系统每次可能比上次高出一分，但越来越慢、越来越贵，同时更依赖人工，这实际上只能算作版本更新；相比之下，另一个系统或许跑分并不高，却越来越能用更少资源造出更好的后继版本，这才更接近RSI的概念。

当然，业内对RSI的准确判断仍在探索中。9月10日，arXiv上发布了一篇由国内33位作者共同完成的论文，涵盖上海交大、清华大学、字节跳动、上海AI Lab等机构。

该论文将RSI的自主性划分为L1至L5五个层级，从执行人类给出的改进方案，到自主寻找改进策略，再到获取经验、将环境反馈转化为持续保留的改动；到了L5，改进机制本身也成为改进对象，人类制造的不仅是一个模型，而是一套能继续制造模型的系统。

按照这个标准来看，目前绝大多数所谓模型都达不到RSI的要求，大多是为了渲染“AI末日论”。

目前，围绕RSI的争论早已超出技术范畴。

Anthropic CEO阿莫代伊呼吁同行集体降速，提议引入拥有接近员工权限的第三方评估团队进行长期监督，OpenAI和马斯克罕见地形成统一阵线。

但也有人指出，大型实验室要求放缓发展，并不完全出于安全考虑，也可能是在争取监管护城河。一旦监管收紧，拥有庞大安全团队和审计资源的大公司更容易满足要求，而开源社区和中小企业将面临更高门槛。

本文来自微信公众号“镁客网”，作者：镁客网，36氪经授权发布。