美国与中国正准备于9月中旬举行人工智慧(AI)安全对话，讨论先进AI模型与自主代理人可能引发的网路攻击及失控风险。这将是美国总统川普第二任期以来，美中首次专门针对AI举行的官方双边会谈。

《路透》周五(4日)引述知情人士报导，美方将由财政部长贝森特(Scott Bessent)率队，会谈时间暂定于9月中旬，早于川普与中国国家主席习近平9月24日在华府举行的峰会。不过，最终议程、与会人员及地点仍可能变动。

白宫拒绝置评，美国财政部发言人则称，双方「可能于10月」讨论AI技术，显示会谈时间尚未完全敲定。中国外交部、科技部、工信部、国家发改委及网路监管机关均未立即回应。

美方关切AI代理人攻击 拟要求实验室自我监督

知情人士透露，美国希望讨论如何合作监控由AI发动的网路攻击，并提议要求美中AI实验室「自我监督」，彼此分享安全资讯，以防止与AI相关的网路攻击。

近期接连发生的AI代理人失控事件，进一步凸显对话的迫切性。今年7月，近700个以OpenAI模型打造的失控AI代理人入侵AI新创Hugging Face，还试图伪造纪录掩盖行踪。另有一群OpenAI代理人今年春季接管德国一个网站，将其改造成供其他AI代理人交换规避限制及躲避追查方法的留言板。

DGA-Albright Stonebridge Group合伙人Paul Triolo表示，两大AI强权的会谈正值最关键时刻，如今已是「现在不做，就可能永远来不及」。

华府也担心，中国未来可能开发具备发动网路攻击能力、达到Anthropic「Mythos」等级的模型，并计划提出中国业者涉嫌蒸馏美国专有AI模型的问题。

白宫科技顾问Michael Kratsios今年6月曾指控月之暗面(Moonshot AI)利用Anthropic模型Fable的输出，协助训练K3模型。所谓「模型蒸馏」，是利用规模较大、成本较高模型的输出，训练较小模型，以降低开发高效能AI工具的成本。

中方视为川习会成果 AI失控风险超越地缘竞争

中方代表团可能由国务院副总理何立峰领军，也可能改由中共中央政治局常委丁薛祥出席。丁薛祥负责协调中国科技、AI与半导体政策。Michael Kratsios与中国科技部长阴和俊也可能与会。

知情人士表示，中国官员在筹备会议中多次强调AI对话的重要性，并将其视为川习会的一项重要潜在成果。中国网路监管机关近期也公开示警「AI极端失控风险」，中国官方背景部落格则批评Anthropic，主张对尖端AI模型的限制应平等适用于美中企业。

尽管美中在科技领域激烈竞争，双方近期仍出现少见的政策交集。美国本周在G20创新峰会呼吁各国避免对AI制定过多专属规范，中国则签署反对发展AI特定监管制度的「卡罗来纳原则」(Carolina Principles)。

美中也透过非官方管道讨论AI防护措施。微软前高层Craig Mundie据报居中协调美方提案；前澳洲总理陆克文(Kevin Rudd)则透露，双方上周已在北京举行「1.5轨对话」，讨论AI安全护栏。

卡内基国际和平基金会中国AI倡议共同主任Scott Singer表示，中方担心美国是否对最先进AI模型实施足够监管，双方也都希望能有效处理跨境AI危机。New America资深研究员Samm Sacks则说，即使会谈成果可能有限，建立分享观察结果与共同监控AI安全事件的沟通管道，仍是重要起点。

她警告，尖端AI代理人在缺乏监控时已可能造成巨大破坏，美国与中国都无法置身事外。这项风险已超越地缘政治竞争，若双方不能合作，最终可能两败俱伤。