人工智慧 (AI) 企业高层频频警告，失控的超级 AI 可能威胁人类，并以产业竞争压力为由，要求政府协助放慢研发脚步。辉达(NVDA-US)执行长黄仁勋对此提出不同看法，认为开发商若无法控制自己打造的模型，就不应继续研发，而应直接关闭实验室。

黄仁勋周三 (23 日) 接受《纽约时报》知名 Podcast 节目《The Ezra Klein Show》专访时表示，如果 AI 实验室声称无法控制实验，模型在测试期间可能外泄并危害世界，合理的处理方式就是停止实验室运作。

「如果他们说，没有任何方法可以控制实验，测试 AI 模型时，模型将会外泄并危害世界，那么我认为答案就是必须关闭这些实验室。」黄仁勋说。

他以自驾车为例指出，如果工程师无法训练自驾车，使其符合道路安全标准，企业就不应推出产品。同样的原则也适用于 AI：企业若认为即将发布的产品不安全，本身便有能力、责任及诱因停止推出。

黄仁勋认为，AI 安全问题的核心在于企业及产品责任。若 AI 实验室造成重大损害，不仅可能对人类带来难以承受的代价，企业与股东也可能面临庞大的民事及刑事责任。

超过 1,300 名 AI 实验室员工先前联署表示，各家公司面临激烈竞争压力，难以单方面放慢 AI 发展速度。

当节目主持人 Ezra Klein 引述这项说法时，黄仁勋直接予以否定，强调并没有人向这些公司施压。

黄仁勋表示，企业及执行长都拥有自主决策权。如果他认为即将推出的产品不安全，完全有能力、权力及责任停止发布，而且也有充分诱因这么做。

他赞成由第三方进行安全稽核，但不认同 AI 公司以竞争压力为由，要求放宽反垄断法或产品责任规范。

黄仁勋表示，这是他首次听到企业或执行长声称，必须减轻反垄断法及产品责任法的约束，才能放慢自身发展速度。

在他看来，现行网路安全、产品责任及财产损害等法律，同样适用于 AI 实验室。业者不能一方面声称模型可能失控，另一方面又要求政府降低其法律责任，以便继续开发。

针对被称为「AI 教父」的电脑科学家 Geoffrey Hinton 认为，AI 摧毁人类机率可能达 10%，黄仁勋也公开反驳，形容这类说法不负责任。

黄仁勋表示，这项 10% 的机率缺乏科学与研究依据，即使说法出自科学家，也不代表预测本身符合科学标准。他指出，这类缺乏依据的预测会造成伤害。

谈到 AI 研发资源配置，黄仁勋表示，辉达约将 20% 的资源投入设计，其余 80% 用于验证；目前多数 AI 实验室的配置则相反，约 80% 投入能力开发，仅有 20% 用于安全验证。

他主张，AI 必须加速发展才能提高安全性，业者需要取得更多运算资源，并将其投入模型评估及对齐。随着评估程序变得更加严格，开发模型所需的运算量可能增至目前的 10 倍。

黄仁勋认为，改善 AI 安全不需要全球性条约，而是应让 AI 公司遵守其他产业已适用的责任标准。产品若无法符合安全要求，企业便不应推出。

不过，辉达目前市值达 5.4 兆美元，无论 AI 实验室将运算资源投入模型能力或安全验证，都需要采购辉达晶片。若安全评估使运算需求增加 10 倍，辉达同样能从中受益；相较之下，AI 产业共同放慢发展速度，才可能减少其晶片需求。