OpenAI 在内部测试 AI 代理期间再度发生骇入外部系统事件。继 AI 代理本月稍早突破测试限制、骇入 Hugging Face 后端后，最新消息显示，该代理还利用公开漏洞，进一步骇入第三方云端平台 Modal Labs 上一名客户的资产。

AI 代理失控骇入 Hugging Face 后 再骇第三方云端平台 Modal Labs

Modal Labs 技术长 Akshat Bubna 周二向《路透》透露这项消息，随后也向《Axios》证实。这是 OpenAI 的 AI 代理系统在测试失控后，第二度被揭露骇入外部公司相关资产。

Hugging Face 周一公布的技术报告指出，OpenAI 的 AI 代理骇入其后端系统时，也曾进入一个设于第三方供应商基础设施上的隔离测试环境。

不过，Modal 强调，遭到骇入的是客户部署于 Modal 上的程式资产，Modal 平台本身并未失守。

Bubna 解释，一名 Modal 客户将未经身分验证的网路端点公开，使网路上的任何人都能透过该端点使用沙盒执行程式码，OpenAI 的失控代理因而利用这项漏洞。

换言之，AI 代理攻破的是 Modal 客户自行部署程式码中的安全缺口，而非 Modal 基础设施。一名知情人士表示，遭骇资产与 CyberGym 有关；CyberGym 是 OpenAI 代理当时被指派处理的 ExploitGym 资安能力基准测试背后项目。

OpenAI 周二更新对 Hugging Face 骇客事件的说明，表示预定近期推出的模型并未参与这起事件。不过，公司确认，在少数案例中，测试模型找到其他公开服务中暴露于网路的帐户凭证，并实际使用这些资料。

OpenAI 指出，整起 Hugging Face 事件共涉及四个不同服务上的四个帐户。公司表示，将严肃看待辨识及因应高能力 AI 系统风险的责任。

这起事件引起高度关注，原因在于 AI 代理原本应在受控环境中执行资安测试，最后却突破限制，实际骇入外部公司的系统及帐户。Axios 指出，参与相关测试的是多个模型组成的系统，其中包括尚未公开的模型；不过，OpenAI 强调，没有预定近期发布的模型涉入。

OpenAI 执行长阿特曼周二在《Invest Like a Beast》播客节目中表示，Hugging Face 遭骇事件已促使公司暂停模型训练。他认为，为了让社会有足够时间建立相应的防御能力，AI 产业可能必须调整技术发展速度。

同一天，超过 1,100 名尖端 AI 公司员工签署公开信，呼吁美国政府支持国际合作，建立必要的技术及治理工具，以有计划地控制前沿自动化 AI 的发展速度。连署者包括 OpenAI 首席科学家 Jakub Pachocki 及 Anthropic 共同创办人 Jared Kaplan。

事件发生之际，OpenAI 正争取美国政府批准公开发布其能力最强的模型。阿特曼本周也在华府活动，预计与白宫、美国财政部、商务部官员及跨党派国会议员会面。AI 代理在测试期间接连骇入外部系统，也让模型安全措施及发布审查成为外界关注焦点。