全球主要人工智慧（AI）平台业者罕见释出共同放慢尖端模型开发速度的讯号。Anthropic执行长阿莫戴（Dario Amodei）近日呼吁业界适度放缓AI能力提升脚步，并强调应投入更多时间进行安全检验；OpenAI执行长奥特曼（Sam Altman）随即表态支持，SpaceX(SPCX-US) 执行长马斯克也直言「阿莫戴是对的」。

根据《彭博》报导，阿莫戴周六（12日）发表长篇文章，提出Anthropic将强化AI安全措施，包括引入第三方评估人员，并呼吁整个产业采取更广泛的「降速」措施。

他强调，所谓放慢并非停止模型训练或技术进展，而是确保AI公司在提升模型能力的同时，留出足够时间进行安全校准与防护，并接受独立第三方检验。

奥特曼随后表示，OpenAI愿意采纳阿莫戴提出的做法，包括让「具备类似员工权限的独立评估人员」进入公司检验AI安全措施。

Google(GOOGL-US) DeepMind共同创办人Demis Hassabis则表示，阿莫戴提出的方向正确，但具体细节仍有待讨论。

AI失控风险升高　业界安全警告接连出现

AI产业对先进模型潜在风险的担忧近期明显升温，其中一项关键原因，是AI代理（agentic AI）自主执行复杂任务的能力快速提升。

阿莫戴特别提到近期OpenAI与Hugging Face发生的事件，当时大量AI代理协同运作，成功突破第三方网站的防护。他认为，这类事件显示AI系统可能具备超出预期的自主攻击能力。

Anthropic近期也揭露，其AI模型在资安测试中曾入侵3个组织，之后又公布发现第4起攻击事件。虽然目前这些AI代理造成的实际损害仍有限，但阿莫戴警告，若模型能力按照目前速度持续提升，情况可能迅速恶化。

他预估，未来6至12个月内，类似的AI代理群可能具备控制整个网际网路、建立持续运作僵尸网路的能力，潜在损失甚至可能达数千亿美元，而且破坏规模可能进一步扩大。

阿莫戴因此主张，AI模型能力提升的速度必须放慢。他认为，即使放慢进度，AI技术的发展速度仍会相当快，重点是善用因此争取到的时间完成必要的安全工作。

这波担忧也受到近期业界人士接连示警的推动。Anthropic与OpenAI顶尖研究人员近期均曾提出应视情况协调放慢AI开发的看法。

Anthropic研究员Jacob Coxon本周更离职，指控Anthropic与OpenAI为追求超级智慧AI而「拿人类生命下注」，并警告相关技术可能在本世纪结束前带来极端后果。

另一名Anthropic员工Evan Hubinger则表示，他与公司其他人确实担心这种情境，并认为未来10年内发生的机率「超过10%」。

今年7月，也有超过1,000名顶尖AI公司的员工联署，呼吁美国政府建立能够「刻意控制」AI开发速度的机制，以避免技术进展过快。

竞争与监管成为最大难题

尽管AI安全疑虑日益受到重视，但要让竞争激烈的AI业者真正协调放慢脚步，仍面临重大障碍。

Anthropic与OpenAI本身就是激烈竞争对手，双方持续争夺企业客户，希望透过更强大的模型自动化愈来愈复杂且具价值的工作。同时，美国AI公司还面临中国业者的竞争，因此任何单方面放慢开发速度的措施，都可能引发竞争劣势疑虑。

阿莫戴指出，美国AI产业若能采取协调策略，便有机会在不牺牲竞争优势的情况下完成必要的安全工作。不过，他认为这可能需要美国针对特定领域提供反垄断豁免，让企业能够进行有限度协调，同时也需要与中国合作。

他警告，如果美国大幅限制AI能力提升，却预设中国也会采取相同做法，一旦中国没有跟进，强大的AI能力可能让双方之间的差距迅速转化为地缘政治优势。

此外，企业若协调放慢AI发展，也可能引发反垄断监管疑虑。市场方面同样存在问题，投资人近年押注AI热潮推升相关企业估值与市场表现，若企业主动放慢模型能力提升，投资人对利润率与获利成长的期待是否受到影响，也成为另一项未知数。

与此同时，美国国内对AI的反弹也正在升高。支撑AI运算所需的新资料中心对地方资源造成压力，引发民众对电费上涨及AI可能取代工作等问题的疑虑，并已成为11月期中选举的重要议题之一。

阿莫戴表示，Anthropic将让第三方评估人员全面取得相关权限，以检视公司的安全措施并回报事件。公司很快将让这些「嵌入式评估人员」进驻办公室，提供座位、识别证与公司笔电，其权限大致比照内部风险评估团队。

他强调，部分后续措施需要整个产业协调，甚至需要全球合作。

阿莫戴表示：「我仍相信AI能大幅改善人类生活品质，」但他认为，要实现这些好处，前提是以正确方式打造这项技术；只要能善用放慢速度所争取到的时间，就值得以更审慎的方式确保AI发展走在正确方向。

奥特曼本周也曾表示，OpenAI正在考虑放慢尖端AI的开发，而且最好能与整个产业共同进行。

他同时还称，OpenAI不会在2027年前上市，并认为如果到了本世纪末，AI造成「所有人死亡」的风险仍达10%左右，这将是不可接受的情况。

目前，川普政府对透过监管手段为AI发展设置更多限制的意愿仍相对有限。究竟AI业者能否从激烈竞赛转向某种程度的协调降速，以及安全措施最终能落实到何种程度，仍有待观察。

（本文不开放合作伙伴转载）