先进AI继续加速还是踩煞车，成为矽谷时下最具争议话题。围绕这场争议，矽谷巨头们开始站队，Dario Amodei、奥特曼、马斯克以及Demis Hassabis组成了「暂停派」。黄仁勋则是坚定的「加速派」，批判「AI末日论」缺乏科学根据；杨立昆更是持续嘲讽Amodei，他说：「（Amodei）当年还在OpenAI时，就认为GPT-2危险到不该开源，我当时就嘲笑过他，现在大家可以继续。」

相比之下，祖克柏和纳德拉等人表现相对中立。巨头们各自站队，意味着矽谷对先进模型暂停没有形成共识，这源自于各家在AI产业链上的生态位差异。模型层面的领先者能够出于不同的理由喊暂停，但想让手握数千亿美元算力订单的甲骨文、AWS，以及站在产业链顶端的辉达这样的企业停下来，不可能得到正面响应。

在华盛顿，「暂停」的呼声不仅没有得到支持，甚至引发一系列质疑。「这有点特洛伊木马(Trojan horse)的味道。」副总统范斯在接受采访时说，这句话其实反映了华盛顿的真实看法——制造木马的企业一再要求把门变得更窄的时候，就应该审视一下这道门究竟适合哪些企业。

「暂停」、警示与一封辞职信

这场争论的导火线，是一名Anthropic研究员考克森(Jacob Coxon)的辞职。他此前在OpenAI和Anthropic做了三年预训练研究，亲身参与了最先进模型的训练。在X上的长文里，他几乎没有客套：「两家公司都没有负责任地行事。它们正径直冲向可自我改进的超级智慧，拿我们的生命下注。」

他直言，实验室内部的人真正相信AI可能在十年内杀死所有人类，而这绝不是公关表演。许多同事已经开始用「关键时刻」、「终局」来形容当前阶段。考克森甚至放弃了即将归属的股权。他在Anthropic只待了四个月，按公司规定六个月才能行权。

紧接着，Anthropic负责对齐科学的埃文·休宾格公开回应：雅各布是对的，我们真的认真相信AI可能杀死所有人类。我个人认为，十年内这个概率超过10%。Anthropic在尽力，但我们还没有解决超级智慧对齐的清晰计划，也远未走上正轨。

这两声枪响，把原本主要在实验室内部发酵的担忧，直接推到了公众面前。在这一背景下，Anthropic创办人兼CEO Amodei随即发表长文，系统提出「放缓先进研究」的主张。他不再只谈「多投安全」，而是明确要求主动控制能力跃升的速度，给安全机制留出追赶时间。

他列出三步走：先由Anthropic单方面引入拥有员工级权限的独立评估者；再推动民主国家AI公司建立共同安全标准和能力增长上限；最终尝试全球协调。

奥特曼、马斯克、Hassabis很快公开呼应，形成了「暂停派」。在考克森、Amodei提出「减速」论之前，约书亚·本吉奥、杰弗里·辛顿这些「AI教父」们，一直在发出关注风险的倡议。

谈及考克森的辞职，本吉奥表示，先进AI实验室的科学家往往能够比公众更早看到最新模型的能力，因此他们对风险的判断值得认真对待。

与此同时，本吉奥还具体举例，称当前AI系统已经具备骇客攻击和说服能力，如果被用于损害人类利益，可能造成严重后果。他还担心，随着AI具备更长时间跨度的规划能力，这类风险可能进一步扩大。

在被BBC问及AI在未来十年内「杀死所有人类」的概率超过10%时，杰弗里·辛顿也表示，这一数字「并非不合理」，但同时强调，没有人真正知道如何给出一个可靠的估计，因为人类此前从未面对过「可能很快比我们更聪明的物种存在」。

辛顿认为，AI未来可能被用于设计危险的生物病毒、电脑病毒以及发动大规模网路攻击。因此，人类需要在风险失控之前找到有效的控制方法。

与矽谷新一轮「暂停论」的倡议者们不同，「AI教父」们更多的是呼吁关注风险，并探索建立控制风险的机制，而非直接踩煞车。而且，从立场上来说，学术领域的意见和建议更加单纯，而先进实验室的倡议，即便明面上挂着「为了人类」的标签，仍然难以100%脱离商业考量。

这恰恰就是为什么JD万斯说「暂停论」像特洛伊木马的原因。

分歧与站队

9月15日，多位科技公司掌舵者在Salesforce Dreamforce大会上接连发声，这场争论开始变成一场更加直接的观点交锋。

当天，Amodei、黄仁勋和奥特曼都谈到了AI安全，但对发展速度、安全责任以及企业应该采取什么行动，给出了不同答案。

Amodei与Salesforce执行长Marc Benioff同台时，再次强调AI企业应该通过自身行动树立更高的安全标准。他认为，企业主动采取更加严格的安全措施，可以成为推动整个行业向前发展的方式。

换句话说，Amodei的态度开始转变，从呼吁全行业减速，转向企业自主加装安全护栏。

黄仁勋则表示「不需要新的法律，也不需要新的监管」。在他看来，速度和安全并不是非此即彼的关系，企业可以尽可能快地推进模型开发；如果发现失去控制，或者产品无法确保安全，就应该暂停下来解决问题。

Benioff的态度则更加开放和强调自主。他表示，如果企业认为应该放慢，就应该放慢；如果认为应该加快，就应该加快，同时也应该对自己的决定承担责任。

OpenAI创办人兼CEO奥特曼在Dreamforce现场表示，非常有信心OpenAI乃至整个AI行业能够在不对公众造成重大伤害的情况下安全发展。他同时表示，对于外界将自己的观点理解为支持整个行业放慢AI发展速度，他感到失望。

换句话说，奥特曼也开始转变，强调自己想表达的并非呼吁行业减速，而是安全和监控工作应该先于能力提升。

祖克柏则不主张把一家公司的安全行动，建立在其他AI公司必须同步放慢的前提上。他认为引入独立评估机构和外部顾问来检验模型安全性是行业最佳实践。他还透露，Meta此前已经自行放慢了Muse AI工具的开发，而不是等待其他公司先就放慢AI发展达成共识。

微软执行长纳德拉的态度某种程度上和奥特曼是一致的，鼓励加装护栏，也鼓励充分的竞争。

纳德拉9月15日在参加All-In Summit 2026峰会时说，「我们首先要做的是服务人类、并确保技术处于人类控制之下。与此同时，AI技术的广泛扩散才是最关键的，必须有选择、有竞争。安全要认真对待，但要用工程和透明的方式去解决，而不是把它神秘化。」

这些企业家之外，华盛顿的声音也进一步加入了进来。

在川普直接致电黄仁勋，公开表达了对AI产业继续发展的支持之后，美国总统科学技术顾问委员会主席David Sacks随后表示，科技公司可以继续推进先进AI，同时质疑部分企业提出「减速」主张背后的动机。

谁来制定规则？

随着讨论扩大，争议也从AI风险本身，进一步延伸到先进AI的安全标准究竟应该由企业自行制定，还是需要政府和独立机构介入？

彭博社援引知情人士消息，称Anthropic、谷歌和OpenAI此前已经讨论过建立一个AI产业标准机构。

7月份，Hassabis发表过一篇文章，提出成立一个由美国主导的AI标准机构，运作模式类似美国金融业监管局（FINRA）。这一机构可以在先进AI模型正式部署之前进行测试，判断其是否达到相应的安全标准。

按照Hassabis的设想，这一机构不应完全由政府主导，而应采取公私合作模式。其中，政府扮演监督的角色，由AI行业提供资金，同时吸纳独立的顶尖技术专家以及开源社区代表参与。

Hassabis试图在模型进入现实世界之前增加一道独立的安全检查，这比较贴合美国政府6月初公布的一套监管逻辑：企业可自愿在模型公开发布前，交给政府评估，最长可提供发布前30天访问窗口且明确不搞强制审批、不设发布许可。

比较戏剧的是后续Fable 5和Mythos 5上线，未遵照这套流程，但被发现具备极强的网络攻防能力，最终被美国BIS以出口管制的形式短暂下线。

不过，即便如此，政策的态度也只是要求加装安全护栏，未做出减速的表态和指导。

和Hassabis持有类似观点的是OpenAI首席科学家Jakub Pachocki。他在9月初也强调，共享安全标准，围绕AI进一步发展进行国际协调，应当成为当前的优先事项。

没有人真正踩下刹车

到目前为止，这场争论还没有真正改变先进AI公司的发展节奏。Anthropic、OpenAI、Google、xAI等公司仍在继续推进模型研发，围绕算力、资料中心和AI基础设施的竞争也没有因为这场争论而停止。资本市场层面则出现了不同变化：Anthropic仍在筹备今年的IPO，而OpenAI则将IPO计划推迟至2027年。

Amodei想拉着整个行业停下来，陪着Anthropic一起寻找为模型能力越界加装护栏的解决方案，一定程度上可以理解为「慷他人之慨」。这也是为什么Amodei会被贴上「假装成完美无瑕的小天使」标签的原因。

关于这个风险控制的话题，黄仁勋所代表的观点其实更符合现状，如果企业有担忧，或者发现问题，完全可以自行探索解决方案，并且将探索出的行之有效的方案与行业共享。

让一个100人的团队，和一个1,000人的团队，一起停下来，根本不具备共识的基础。甚至连Amodei自己都很清楚，如果只有自己停下来了，很有可能就会被OpenAI等竞争对手超过。

更重要的是，公司治理层面的分歧。Anthropic、OpenAI都是公益公司（Public Benefit Company），可以喊着「为了人类未来而放弃短期财务利益」，可以告诉投资人「这一点我们很早就共识过」，但Google、微软、Meta这类上市公司，管理层对二级市场股东负有法定信义义务。

两种不同利益的公司在这点上，达成共识的可能性也不会太大。还有一个可能被忽视掉的细节。在「暂停论」之前，Anthropic和OpenAI都先后发了最强模型，一个是Fable 5.1，另一个是GPT-6 Astra。在这样的呼吁声中，其他家的新模型还会如期推出吗？」