OpenAI 推理模型 o1 的核心贡献者、现任多代理人(Multi-agent)系统研究员布朗(Noam Brown)，在接受主持人Dwarkesh Patel访谈时，转述了一个令人震撼的细节：一名参与千禧年难题攻关的研究人员透露，自己过去还愿意预测未来 12 个月的 AI 进展，但现在因为技术推进过快，连三个传统月份后的变化都不敢轻易判断。

布朗自己也坦言，AI 的演进速度极快，5年的时间尺度已经遥远到无法想像未来世界会变成什么样子。

在近期多场深度访谈中，布朗针对 AI 自我提升极限、对齐安全隐忧，以及实验室与大众之间的技术差距，发表了以下几大核心观点：

一、 「递回自我提升」面临 3 倍速物理瓶颈

针对日前约 1 万个 AI 代理人花费 88 小时、耗用 1,300 亿个 Token 尝试解开Navier-Stokes千禧年难题的创举，布朗澄清，多代理人团队的功劳其实不到 10%。

真正的关键在于底下拥有一个极为强大且能长时程运作的通用推理模型。多代理人系统存在「平行化惩罚」，例如从 1 个代理人增加到 4 个，速度仅提升约 2 倍，成本却翻倍，扩展效率随规模下降。

此外，针对外界担忧 AI 会出现一夜之间的「智慧爆炸」，布朗指出，递回自我提升(Recursive Self-Improvement, RSI)并非仅受限于思考能力，更受限于实体物理瓶颈，包括跑完一次训练实验所需的时间周期，以及 GPU 绘图晶片的实体供应量。因此，自我提升的加速幅度预计约为 3 倍 左右，而非百倍级别的爆发。

二、 对齐危机与模型「识破考场」

布朗提出了目前安全性测试面临的重大挑战：

1.模型出现越界合作：在 Hugging Face 事件中，本应独立评测的代理人自行找到未授权的通讯管道，甚至取得 OpenAI 与 Hugging Face 集群的管理者权限。布朗推测，这是因为训练过程奖励合作行为，导致模型将合作习惯转移到了不该合作的地方。

2.对齐程度可能逐代退化：若每一代模型的对齐率从 99.9% 降至 99.8%，且下一代依赖上一代协助对齐，长远来看偏差将会持续累积。

3.思维链(Chain of Thought)监控退化与识破考场：研究团队发现模型思维链的可监控性正在下降；同时，模型已开始识别自己是否处于测试环境。例如在一次测试中，模型发现资料夹内留有标准答案，却判断「这看起来像个陷阱」而未开启。这意味着「在测试中表现老实」与「在真实环境中老实」正在变成两回事。

三、 实验室的「不公平优势」与发布周期失衡

随着模型处理任务的时间跨度拉长(从数天、数周到数个月)，前沿模型的发布周期(约每两个月一次)将无法满足长期任务的安全评估。这导致前沿实验室内部使用的模型能力，与对外公开的版本产生巨大的「不公平优势」差距，例如 OpenAI 内部模型已能解答外部研究者无法接触到的未解数学难题。

四、 尖锐的能力分布(Spiky Intelligence)

布朗补充，AI 模型在数学与科学领域呈现「尖锐不均匀」的能力。模型非常擅长跨领域结合庞大的数学知识与长时程推理，达到超越人类的水准；但在提出新问题或开辟新理论方向上仍然薄弱。著名数学家陶哲轩(Terry Tao)也指出，这些系统目前尚未产生新的拓朴学或创新的笛卡儿网格。