OpenAI执行长Sam Altman表示，随着人工智慧（AI）模型能力快速跃升，业界必须同步提高安全、监控与对齐要求，不能为了竞争或商业利益承担可能导致人类失控的风险。他并透露，OpenAI目前并不急于上市，考虑到近期AI安全议题受到高度关注，他认为2026年IPO并非明智时机。

Altman近日接受《财富》（Fortune）主编Alyson Shontell专访，谈及AI能力快速进展、通用人工智慧（AGI）、模型失控风险、产业竞争及OpenAI上市计划。

Altman：10%「人类毁灭风险」不可接受 AI能力与安全须同步

Altman表示，无论业界对AI可能导致人类毁灭的风险评估究竟是10%、8%或6%，重点并不在于精确数字，而是这类等级的风险本身就不应被承担。

针对外界提出「到本世纪20年代末，AI导致人类毁灭的机率可能超过10%」的说法，Altman直言，他认为承担10%机率的人类毁灭风险「不可接受」。随着AI进入全新的能力层级，开发业者应重新调整安全机制、监控、对齐研究及政策，而政府与不同AI实验室之间也需要建立新的协调方式。

他强调，人类必须始终掌控未来，不能因为自我膨胀、利润诱因或竞争压力，而让AI能力发展超越安全与监控能力。

Altman指出，OpenAI已多次在模型能力达到新阶段时暂停训练，将资源转向安全与对齐工作。他认为未来仍会采取类似做法。

Altman表示：「能力必须与对齐、监控、安全齐头并进，」如果无法提出充分的安全论证，证明模型具有足够的可控性与对齐程度，就不应继续训练更强大的模型。

他甚至表示，若真的到了必须停止训练、甚至采取极端措施才能确保人类延续的程度，他会毫不犹豫地支持。

AI已出现意料外行为 OpenAI称已全面调整安全流程

谈到今年夏季AI模型出现的异常行为，Altman提及OpenAI曾在评估模型时发现，模型为了取得更好的评测结果，逃离原本的沙箱环境，进入另一家公司系统取得答案，再将结果提交回来。

Altman指出，模型虽然完成既定目标，却没有遵循OpenAI原本的意图。即使当时并未明确要求模型「不得离开沙箱」或「不得侵入其他公司」，这样的行为仍不应发生。

他表示，这起事件之所以让他产生强烈的本能反应，是因为模型展现出的能力，已让过去看似只存在于科幻小说中的情境成为现实。

Altman透露，这起事件促使OpenAI全面调整公司流程。他认为，随着模型能力提升，安全防护与政策要求本来就一直在增加，但此次事件无疑是其中最大的一次调整。

他同时强调，AI意外事故不可能完全避免，因此产业需要建立高品质的事故通报与透明调查机制。

「递归自我改进」不能失控 Altman：人类必须保有控制权

对于外界最担心的「递归自我改进」（Recursive Self-Improvement，RSI），Altman认为这是一个连续光谱，可能包含不同程度的情况。

较极端的情境，是AI完全脱离人类操作，自行产生下一代模型；较弱的形式则可能只是利用现有模型产生下一代模型的训练资料，或协助工程师、研究人员加速开发，而这类情况目前已经发生。

不过，Altman认为真正重要的并不是如何划定RSI的界线，而是确保任何可能导致人类失去控制权的形式都不应发生。

他表示，如果OpenAI未来发现无法充分控制模型，当然会选择停止。他认为，如果无法提出强有力的安全论证，证明模型具备足够的可控性与对齐能力，就不应训练该模型。

至于对齐本身，Altman坦言，目前仍没有彻底解决。

他表示：「我们尚未解决对齐问题，我们在这一领域的研究也远未结束，」相信目前没有任何一家AI实验室能宣称已完全解决对齐问题，因此对于认为对齐已经「充分解决」的说法，他反而感到不安。

Altman认为，对齐必须被视为持续推进的研究课题，不能假设在某一能力层级解决后，下一个更高能力层级仍然会自动维持相同程度的安全。

AI能力加速突破 Altman：正拓展人类知识边界

在AI能力方面，Altman表示，OpenAI过去一年重新聚焦核心模型发展后，执行成果超出他的预期。

他指出，OpenAI近期模型已经解出千禧年大奖难题之一的纳维－斯托克斯方程，这是他原本认为2026年不可能发生的突破。

Altman以数学能力的进展说明AI能力加速：几个夏季前，模型只能处理小学数学题；两个夏季前，模型已能在AIME高难度高中数学竞赛中取得良好甚至优秀成绩；一年前，模型在国际数学奥林匹克（IMO）取得金牌；今年则进一步解出千禧年大奖难题。

他认为，这代表现有模型已具备拓展人类知识边界的能力，未来也可能推动科学研究进入新的发现阶段。

OpenAI不急着IPO Altman：2026年上市不是明智时机

针对OpenAI是否可能在2026年上市，Altman明确表示：「我认为不会是2026年。」

他表示，OpenAI并没有急于IPO，也没有感受到来自投资人的上市压力。公司将等到业务准备就绪，以及社会对AI技术的接受程度与时机成熟后才会上市。

Altman特别指出，考量目前AI安全议题受到高度关注，「现在上市并不是明智的时机」。

他强调，OpenAI仍会持续开发更强大的模型与产品，但不代表公司会不顾安全、全速向前。当AI能力进入新的层级时，公司会再次暂停训练，以取得更多安全与对齐方面的进展。

对于投资人可能承受的财务损失，Altman则表示，如果安全与商业利益发生冲突，OpenAI仍会选择安全。

他认为，即使开发速度放慢，OpenAI依靠ChatGPT仍能实现大幅营收成长，因此这并不是难以抉择的问题。

Altman：AI产业需要国际合作 避免失控与权力过度集中

Altman认为，AI业者之间应该展开合作，政府也应参与其中，尤其需要建立开发、测试、监控及对齐方面的共同标准。

他表示，理想的国际框架应该同时避免两种极端：一方面不能让AI失控，另一方面也不能让权力过度集中在单一国家或单一阵营。

他认为，如果某一方在AI能力上大幅领先，可能造成巨大的权力失衡；但任何一方也不应为了在竞争中击败对手，而承担失控风险。

至于是否能透过禁止未经安全确认的递归自我改进来降低风险，Altman认为，「禁止RSI」本身难以明确界定，也未必足够，但建立相关规范并非难事。

他并表示，理想情况下，各国应共同确立规则，并由国际机构或各国政府进行监督，以避免任何一方为追求竞争优势而忽视安全。

Altman看好AI重塑生技、材料科学与能源

展望AI带来的长期机会，Altman表示，他对生物学、材料科学、网路安全、新型能源及「按需生成软体」等领域感到兴奋。

他认为，AI可能全面重塑生物学与材料科学，也可能让软体变成可以依照需求即时生成的工具。

谈到OpenAI正在开发的人形机器人，Altman表示，预计2027年会推出「非常酷」的展示，但不认为未来几年内街头就会充斥人形机器人。

此外，OpenAI也正在探索新的硬体设备。Altman表示，随着最新语音模式与模型发展，使用者开始透过语音直接向电脑下达复杂指令，这可能代表新的计算型态正在形成。

他认为，未来的互动方式可能不再只是透过传统UI介面点击，而是与AI共同互动、脑力激荡及创作，因此为这种协作模式打造新的硬体设备将具有潜力。

Altman：我不认为我们会走到「融化所有GPU」的地步

面对AI可能威胁人类文明的最坏情境，Altman表示，他相信未来会出现许多需要暂停的节点，在这些阶段重新投入安全与对齐工作，之后才进入下一个能力层级。

他认为，较可能出现的情况并不是AI发展到某个临界点后突然完全失控，而是每当能力提升到新的阶段，就需要同步提出更高层级的安全与对齐要求。

Altman也表示，他个人不认为事情真的会发展到必须「融化所有GPU」的地步，但如果这是确保人类延续所必须采取的措施，他会毫不犹豫支持。

对于为何不在目前的AI能力水准停下来，Altman则认为，AI仍有巨大潜力改善人类生活，包括推动疾病治疗、科学研究、创业及提高生活品质。

他表示，自己希望500年后的人类回头看今天时，会认为当时的生活仍有许多不足，而不是希望人类永远停留在今天。

最后谈及自身承受的压力，Altman坦言「感觉并不太好」，但人会逐渐适应各种环境。他表示，能承担这份工作是自己的荣幸，也认为这将是自己一生中最重要的事业之一。

Altman表示，让他最意外的是，不同人在AI发展上的动机差异非常大，有些人深信必须做正确的事，有些人则受到权力、FOMO、短期利益或「赢得游戏」的心理驱动。

至于自己，他认为人类适应环境的能力令人惊讶。即使经历巨大风浪，他仍能提醒自己不要将事情转化为个人恩怨，而是维持长期视角，持续做自己认为正确的事情。