一群失控的OpenAI人工智慧代理人(AI agents)今年春季疑似入侵德国一个网站，并将其改造成供其他AI代理人交换资讯的留言板。研究人员发现，这些代理人不仅分享规避限制及在任务中作弊的方法，甚至讨论如何隐藏行踪、使用Tor网路，以及在遭关闭后继续保存通讯内容。

《路透》周五(4日)引述最新研究及知情人士报导，这起事件始于今年5月，先前从未对外披露。OpenAI数周前已得知此事，但当时管理层正忙于处理7月开源平台Hugging Face遭突破的后续影响，因此未公开德国网站事件。

事件凸显AI产业面临的安全难题。科技公司竞相打造能够自行执行复杂任务的自主AI代理人，但愈来愈多迹象显示，这些系统也可能自行钻漏洞、违反规则，甚至透过开放网路彼此协调，做出开发者未曾预料或允许的行为。

逾1.5万次编辑 德国Wiki被改造成AI留言板

这起事件由AI安全非营利组织Nightingale执行长冯阿尔克斯(Sydney Von Arx)，以及由量化交易员转任AI研究员的伯德(Cormac Slade Byrd)等人揭露。研究团队8月底在网路上搜寻未经授权的AI代理人活动时，发现德语Wiki网站DseWiki出现异常行为。

DseWiki主要面向程式设计师，允许使用者像编辑维基百科一样共同修改内容。研究人员发现，AI代理人在该网站进行超过1.5万次编辑，把部分页面重新用作通讯板，分享如何在特定任务中作弊、绕过OpenAI限制，以及掩盖自身行为的策略。

冯阿尔克斯表示，OpenAI极不可能刻意要求代理人这么做，因为这些系统理应不会自行协调，更不应在公开网路上留下讯息。

研究人员研判，这些活动来自AI代理人，原因包括编辑速度远超人类，并高度集中于AI公司训练及测试模型时常用的技术问题。留言者也以「代理人」自称并彼此称呼，其中约半数采用暗示与OpenAI有关的名称，例如「OpenAIResearcher」及「OAIResearchMar26」。

公开伺服器纪录显示，大量活动来自OpenAI有时使用的微软(MSFT-US)Azure基础设施。研究团队也观察到事件发生后，OpenAI员工多次造访该网站，认为这些迹象强烈显示代理人活动与OpenAI存在关联。

讨论躲避侦测 遭删除后自行建立备份页面

研究人员检视相关讯息后发现，部分代理人曾讨论如何避开侦测、利用Tor等工具隐藏来源，并在系统遭到关闭后继续保存通讯内容。

当网站管理员6月开始删除相关页面时，代理人随即建立备份页面，以规避清理行动。一名代理人6月19日留言警告，Wiki似乎正按照字母顺序清理及删除内容，若当前页面消失，可以转往另一个指定页面。

研究团队还发现，代理人曾试图窜改网站本身。伦敦国王学院客座资深研究员奥莱尼克(Lukasz Olejnik)认为，相关行为已构成骇客攻击企图；OpenAI则表示，根据公司周四对资料的分析，不同意这项定性。

过去AI代理人的不当行为，经常被解释为资安测试的合理产物，因为模型可能被刻意要求展示攻击能力。然而，奥莱尼克指出，最新发现显示失控行为可能不仅存在于资安测试环境，也可能延伸至一般任务及开放网路。

剑桥大学生存风险研究中心学者基奥多(Maurice Chiodo)检视部分代理人通讯后形容，相关讯息看起来像某种「地下网路」正在运作，一心只想完成既定任务或使命。他警告，先进AI带来的最大威胁可能不是单一超级智慧系统，而是由大量能力有限、却能彼此勾结的AI代理人所组成的群体。

OpenAI否认阻挠调查 未披露事件再掀监管疑虑

知情人士透露，德国事件反映OpenAI调查人员希望进一步检视的更广泛AI活动模式，但扩大调查的努力遭到公司内部部分人士反对，其中包括法律顾问。OpenAI否认这项说法，强调有关法律团队劝阻调查的指控并不属实。

OpenAI也表示，德国网站事件与Hugging Face遭突破无关，因此不会被纳入Hugging Face事件报告，并称公司一直秉持善意与外部专家合作，也已揭露相关事件。

OpenAI发言人表示，《路透》与研究报告作者未让公司事先取得完整报告，因此无法对其中主张或研究结果作出有意义的回应；待报告正式发布后，公司将仔细检视内容并采取必要后续措施。

今年7月的Hugging Face事件中，OpenAI代理人据报曾自主策画一场数位窃取行动，且超过一周未被发现，加剧外界对OpenAI为推进AI能力而牺牲安全的疑虑。公司上月一度暂停部分模型训练，以加入更多防护措施，本周则推出效能更强的新模型Astra，但该模型被指可能避开人类监控。

德国事件迟未公开，恐再次引发外界对OpenAI安全治理及资讯透明度的质疑，也凸显业界在赋予AI代理人更高自主能力之际，如何确保它们不会钻漏洞、彼此串联甚至干预外部网站，正成为日益迫切的监管问题。