在全球人工智慧（AI）三大巨头罕见联手呼吁「放缓AI研发」的同一个周末，Anthropic执行长Dario Amodei近日接受《CBS》节目《Sunday Morning》专访，谈及AI快速发展可能带来的风险。他表示，目前已有人尝试利用AI研发生物武器、提升病毒传播能力，这类威胁已成为他每天都必须面对的问题。

Amodei指出，Anthropic日前发布的一份威胁情报报告，便涉及有人滥用AI模型进行生物武器研发。

他坦言，自己当然不希望Anthropic的模型被用于造成伤害，因此公司在生物学相关能力上采取非常严格的安全防护措施。

他甚至提到，Anthropic的生物安全限制严格到经常遭到社群嘲讽，部分生物学学生也抱怨模型「没办法使用」。

不过，Amodei强调，与其因为安全措施受到嘲笑，他更不愿看到有人利用Claude造成大规模伤亡。

周末，Amodei发表的一篇部落格文章《我们必须为尖端AI踩刹车》（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、OpenAI执行长Sam Altman相继公开支持。

AI发展进入「变陡」阶段 Amodei：这是警告讯号

主持人Jo Ling Kent在访谈中直接问Amodei，AI是否真的可能在不久的将来导致人类灭亡。Amodei并未认为眼下需要陷入恐慌，但他认为目前确实出现值得重视的警讯。

他以指数成长曲线形容AI技术发展，从1、2、4、8、16、32一路上升，目前已进入曲线开始快速变陡的阶段。Amodei坦言，即使自己长期提醒外界AI进步速度可能非常快，真正面对如此快速的进展时，仍比预期更加震撼。

因此，他主张AI产业应该适度放慢尖端模型的发展速度，但这并不代表要关闭AI产业或停止技术研发。

Amodei认为，真正需要确保的是，AI的安全防护、理解能力与控制能力必须跟得上技术进步。如果模型能力持续快速提升，但人类对风险的理解及控制手段没有同步进步，便可能形成问题。

Amodei提三步方案 第三方评估员成关键

针对如何降低AI风险，Amodei进一步说明他提出的三阶段方案，其中最重要的一步，是引入嵌入式第三方评估机制。

他主张，可以由第三方非营利组织，甚至未来由政府机构派遣评估人员，观察AI模型从训练到运作的完整流程。他将这类人员比喻为食品安全检查员，但也承认，AI技术进步速度如此之快，第三方评估机制本身也必须考量能否跟上。

Amodei认为，评估员能够跟上的速度，本身就可能成为决定AI技术推进速度的因素之一。

第二步则是由多家AI业者共同建立安全标准，包括模型发布及技术推进的安全标准。不过，他认为若要真正落实，政府也必须参与其中。

第三步则是政府正式进入这场对话。Amodei表示，当讨论涉及AI产品应以多快速度发布、这样的速度是否安全时，政府必须在场。

「AI终止开关」未必有效 Amodei主张多层防线

对于国会议员Ted Leo提出的「AI终止开关」法案，Amodei表示自己尚未详细研究法案内容，但对「终止开关」概念本身抱持保留态度。

他认为，能够限制、停用或关闭AI模型固然是一种手段，却不能被视为唯一解方。若AI模型强大到一定程度，甚至可能具备规避人类关闭尝试的能力，而Anthropic在模拟环境中也曾观察到类似情况。

Amodei因此以「瑞士起司模型」说明他的安全理念：单一安全措施就像一片存在漏洞的瑞士起司，无法完全阻挡风险；但若建立多层防线，各层漏洞位置不同，风险便较难穿透整个体系。

他强调，没有任何单一措施能够完全防范AI风险，因此必须在整个AI开发与部署链条上维持警戒。

至于参议员Bernie Sanders与众议员Greg Casar提出、主张「禁止超级人工智慧法案」，Amodei则明确反对全面禁止AI的方向。

他认为，若完全禁止这类技术，人类也将无法获得AI可能带来的重大好处，包括医疗领域的突破，这是他无法接受的结果。

父亲死于丙肝、本人曾罹癌 Amodei谈AI带来的另一面

谈到AI可能影响人类未来的风险与责任时，Amodei也罕见分享自己的家庭与健康经历。

他表示，自己的父亲因丙型肝炎去世时，这种疾病的治愈率约为40%，父亲并未成为成功治愈的患者；但就在父亲过世几年后，一种新药问世，将治愈率提高至约95%。

Amodei也透露，自己曾罹患早期癌症。如果生活在1950年，他可能已经因此死亡。

正因如此，他深刻体会到推动AI发展、让科技带来医疗等领域突破的重要性，但另一方面，也同样感受到技术失控可能造成的风险。

他强调，这不应该成为自己或Anthropic单独承担的责任，而是涉及整个社会。他希望能找到一套机制，让所有人都能参与相关讨论，而不是让一般民众感到几家科技公司可以自行决定AI未来。

回应前员工批评 Amodei：我们面对的是同一个结构性问题

对于前Anthropic员工Jacob Coxin公开批评Anthropic与OpenAI没有负责任地行事、甚至是在拿人类生命冒险，Amodei则认为，外界引用相关言论时忽略了其中另一个部分。

他表示，Coxin同时认为Anthropic是主要AI业者中较为负责任的一家，而他所指出的核心问题，其实与Amodei目前提出的警告相同，也就是所有AI公司共同面临的结构性困境。

Amodei表示，他提出的三阶段方案正是希望处理这种结构性问题。

他并透露，Anthropic每天都与美国商务部、财政部及情报界官员沟通，并向政府部门分享公司掌握的资讯。

Amodei：AI产业对风险「说谎太久」

对于一般正在使用Claude、ChatGPT等AI工具的民众，Amodei表示，AI本身仍是一项具有大量正面用途的重大技术，目前每周都有数亿人利用相关技术完成各种事情，他也经常收到使用者来信，表示Claude协助发现医师未能诊断出的疾病。

不过，他强调自己不会对使用者隐瞒AI存在的风险。

Amodei认为，AI产业过去太长时间都以非常正面的方式呈现这项技术，对相关风险避重就轻。他主张，面对AI快速发展，第一步就是必须诚实告诉大众风险确实存在。

他最后表示，AI是人类历史上最重要的技术事件之一，因此不能只由少数科技公司决定其发展方向，而应该让所有人参与其中。