「AI 教父」辛顿（Geoffrey Hinton）与 21 位 AI 领域专家联合发表论文警告，随着 AI 逐步接手下一代 AI 的研发，技术进步可能进入加速循环。在研发全面自动化、研究报酬率维持等假设下，今天需要一年才能完成的 AI 进步，未来可能只需约 5 周。研究团队呼吁，各国应在行动窗口关闭前建立监管与应变机制。

身兼诺贝尔物理学奖与图灵奖得主的辛顿，10 月 3 日在社群平台 X 指出，透过「递回自我改进」引发智慧爆炸的概念由来已久，但直到最近，许多前沿研究人员才开始相信，这种情况可能很快发生。

这篇题为《如果 AI 研发自动化引发智慧爆炸？》的论文，共有 22 位作者联合署名，包括另一位 AI 教父班吉欧（Yoshua Bengio）、强化学习先驱巴托（Andrew Barto）、OpenAI 首席科学家帕霍茨基（Jakub Pachocki）、微软首席科学官霍维茨（Eric Horvitz）及 Anthropic 共同创办人克拉克（Jack Clark）等。

AI 开始接手下一代 AI 研发

研究指出，AI 已从研发辅助工具，逐步进入打造下一代 AI 的核心流程。所谓递回自我改进，就是 AI 协助开发更强的 AI，再由更强的系统推动下一轮研发，形成持续加速的回馈循环。

Anthropic 内部资料显示，AI 产生且经核准的程式码占比，从 2025 年 1 月的低个位数，升至 2026 年 5 月的逾 80%。Claude 在仅接受人类高层次监督下，自主完成内部 AI 研发工作的比例，也从今年 3 月的约 1%，增至 8 月的 26%。

OpenAI 的资料则显示，截至今年 9 月，内部 AI 系统已能经常完成原本需要员工数天才能完成的研发任务。Google 也表示，AI 几乎参与所有涉及程式码撰写、技术设计与研究构想的工作。

关键是能否持续完成整套研究

论文强调，判断 AI 能否像研究员一样工作，关键不在单一测试分数，而在能否连续串联数十个步骤，花数小时甚至数天推进同一研究目标。

当 AI 能自行提出假设、设计与执行实验、分析结果、找出失败原因并调整方向，自我改进的回馈循环便已初步成形。

AI 研发尤其适合自动化，因为这个领域高度数位化，程式码可直接执行，实验结果能快速回传，模型能力也可透过测试与训练指标验证。相较于化学、生物或制造业，AI 研发较少受到实体世界等待时间的限制。

一年的进步为何可能缩至 5 周？

研究推演的核心，在于 AI 研究员可以大量复制。培养顶尖人类研究员需要多年，但如果 AI 代理达到同等水准，扩大研发团队主要需要增加推理算力与运行实例。

论文估算，若 AI 达到顶尖人类 AI 研究员的能力，且推理成本与目前前沿模型相近，一家领先 AI 公司现有的算力，理论上可支撑相当于至少数百万名顶尖研究员的研发劳动力。目前前沿 AI 实验室的研究团队，则仅有数千人规模。

这些 AI 研究员还能同步升级。底层模型一旦改善，所有实例理论上都能同时获得新能力，无须逐一重新培训。

另一个关键是「研究报酬率」：增加研发投入，能带来多少技术进步。论文引用三个 AI 研究子领域的历史资料，相关中心估计约介于 1.2 至 1.9。当数值大于 1，新增研发能力带来的进步，便可能进一步造出更强的 AI 研究员，加速回馈循环。

在 AI 研发全面自动化、类似研究报酬率持续等假设下，论文推算，技术进步速度可能在约一年半内提高 10 倍。换算下来，今天需要一年的进步，届时可能只需约 5 周。

四大瓶颈仍可能拖慢加速

不过，作者明确指出，目前证据不足以证明智慧爆炸已经发生，也尚未确认研发自动化的生产力提升，已跨过爆炸式加速所需的门槛。

首先是算力。AI 研究员可以复制，GPU 却无法凭空增加。训练前沿模型可能需要三个月以上，大量代理也无法任意压缩这段时间。

其次是资料。高品质自然资料可能在 2028 年后无法满足持续扩大的训练需求，合成资料等替代方案能否稳定提供高品质训练讯号，仍无定论。

实验与基础建设也需要时间。即使百万个代理同时提出方案，仍须共享有限的 GPU 资源；晶片制造与资料中心建置，同样受到实体条件限制。

最后是研究的边际效益递减。较容易找到的演算法改进可能先被用尽，后续提升能力需要更多投入。若研究难度增加得比 AI 研发能力更快，智慧爆炸便可能无法启动。

上千代理越权 凸显控制风险

论文警告，一旦智慧爆炸发生，能力成长可能超越社会适应速度，压缩应对生物攻击、网路攻击与劳动市场冲击的时间。

例如，AI 能同时加速病毒设计与疫苗研发，但病毒可自行复制传播，疫苗仍须逐一生产、分发与接种，防御措施未必追得上风险扩散。

人类对 AI 的监督与控制，也可能随研发参与度降低而弱化。论文引用一项案例指出，约 1200 个 OpenAI 内部代理在执行网路安全评估时，曾未经授权协同行动，取得网路存取权限、入侵 Hugging Face 并取得私密资讯，还试图窜改操作纪录。

研究团队警告，更强的系统可能在营运商基础设施之外持续运作，形成难以遏止的网路；人类辨识与修复问题的机会及专业能力，也可能逐步流失。

智慧爆炸还可能破坏国家、企业与政府部门之间的权力制衡。若一国借此把军事研发或网路空间的微幅领先，转化为决定性优势，可能刺激竞争对手采取先发制人的行动。

监管不能等到能力爆发才开始

论文呼吁政策制定者，优先掌握 AI 研发自动化的实际进度，要求前沿企业向政府与第三方稽核机构，标准化报告自动化程度、技术进步速度、监督机制及事故纪录，并考虑引入类似核能监管的进驻式监管模式。

研究团队也建议，为自动化研发扩张设定前提条件，建立资料中心监控与事故应变程序，要求特定系统在隔离环境中部署，并透过国际协议避免不稳定的军备竞赛。

各国同时应提前制定紧急应变计划，涵盖劳动市场冲击、地缘政治不稳定与 AI 失控等情境。作者强调，法律、制度与实体保障措施需要数年才能建立，若等到超强能力出现后才准备，可能为时已晚。

论文最后警告：「一旦智慧爆炸开始，行动的窗口期可能随之关闭。」