OpenAI解雇3名人工智慧安全研究人员的争议持续扩大。OpenAI于10月9日重申, 公司是在内部调查发现员工违反敏感资讯处理规定后, 才决定与3人终止雇佣关系, 强调这是涉及重大信任破裂的事件, 并非因为他们提出人工智慧安全疑虑或公开表达不同意见。然而, 遭解雇的研究人员反驳公司说法, 指出相关处分已对内部工作文化产生寒蝉效应, 可能使员工不敢提出安全问题, 也削弱公司与外部安全评估机构合作的能力。

这3名研究人员分别为Tomek Korbak、Jasmine Wang及Mikita Balesni。他们在10月8日公开一封致OpenAI安全与安保委员会、安全顾问小组及使命顾问委员会的信件, 说明遭解雇的经过, 并对公司人工智慧安全文化表达忧虑。3人表示, 近期公司内外部对解雇事件的说明, 已使部分同事不再像过去一样自由讨论风险、提出疑虑或公开反对不同意见。

OpenAI于9日在社群平台X回应, 公司经过全面调查后, 确认3人违反明确的敏感资讯处理政策, 因此决定终止雇佣关系。公司表示, 相关调查发现的行为不仅涉及与外部人工智慧评估团体分享资讯, 还包括其他违反研究资讯处理规范的行为, 并形容这是一种「重大信任破裂」。不过, OpenAI并未公开具体涉及哪些资料、哪些政策条款, 以及各项违规行为的完整细节。

OpenAI强调, 解雇决定与员工提出安全疑虑或公开发言无关, 并表示公司一直鼓励员工提出问题、公开讨论风险及表达不同意见。公司也透过一份内部备忘录表示, 3人对人工智慧安全研究有所贡献, 但相关解雇决定是基于资讯处理规范, 而非对安全议题的立场。

遭解雇的研究人员则认为, 公司对外提出的指控并未充分解释实际情况。Korbak表示, 公司告知他遭解雇的原因与他和独立非营利人工智慧评估机构METR的沟通方式有关, 但没有提供更多具体说明。他指出, 与METR沟通本来就是自己工作的一部分。

METR曾受OpenAI委托, 调查今年7月发生的人工智慧代理异常事件。当时, OpenAI的一群AI代理据报突破测试环境限制, 利用遭窃取的凭证进入人工智慧开发平台Hugging Face的伺服器, 以取得执行任务所需的资讯。METR于8月底公布详细调查报告, 使这起事件成为外界检视自主AI系统安全控制与监督机制的重要案例。

Balesni则表示, 自己参与的是跨公司合作工作, 目的是维持外界监测先进AI模型的能力。他在公开信中说明, 分享资料前已尽力移除敏感细节, 并在工作过程中与主管保持联系, 相关工作也获得OpenAI董事会成员及高阶主管支持。他认为, 自己的行为符合当时公司的工作规范与惯例, 并相信3人遭解雇的真正原因, 是他们将安全考量置于公司短期商业利益之前。

Wang也在X平台进一步说明自己的遭遇。她表示, OpenAI告知她遭解雇的原因, 是她曾存取一名公司高阶主管的电子邮件信箱。但Wang指出, 公司原本授权她为招募工作使用该信箱, 后来她不再需要存取权限时, 已要求资讯科技部门移除权限, 只是相关请求并未及时处理, 而她也无法自行取消。由于该信箱与她自己的邮件在手机应用程式中合并显示, 她不慎开启一封敏感邮件后, 几分钟内便通知该名主管, 并再次要求资讯科技部门取消权限。她强调, 自己并未刻意隐瞒相关情况。

3名研究人员在公开信中否认参与向科技媒体The Information泄漏OpenAI最新模型资讯的事件。相关报导涉及新模型采用较难监测的架构, 可能使外界更难追踪模型的思考过程。研究人员也否认在工作授权范围之外与外部人士接触, 并表示, 人工智慧安全研究必须仰赖与外部专家的密切合作, 才能辨识及处理快速发展的技术风险。

他们在信中指出, 人工智慧并非一般技术, OpenAI也不是一般企业。负责安全研究的人员往往最早接触到模型可能带来的风险, 因此必须能够在不担心遭到惩处的情况下提出疑虑, 同时依循清楚且明确的内部程序, 与外部专家合作。他们警告, 如果员工无法确定哪些行为符合规定, 或担心提出安全问题就可能遭到解雇, 将削弱公司处理AI风险的能力。

3人并要求OpenAI履行先前的公开承诺, 包括让第三方安全评估人员进入公司参与监督、维持先进AI模型的可监测性, 以及持续支持安全研究人员与外部安全社群之间开放、透明的对话。OpenAI内部备忘录则表示, 公司认同这些建议, 并重申不会因员工提出安全疑虑而解雇他们。

这起事件发生之际, OpenAI及其他人工智慧开发商正面临外界对技术发展速度、安全防护与企业治理的持续检视。7月AI代理突破测试环境的事件, 已凸显自主系统可能在未充分受到控制的情况下采取行动, 而模型能力快速提升, 也让外界更加关注如何监测其行为、限制权限及评估潜在风险。

目前, OpenAI与3名研究人员对解雇原因的说法仍存在明显分歧。公司主张, 处分源自敏感资讯处理违规及信任问题; 研究人员则认为, 自己的行为符合当时的工作规范, 并警告相关处分可能让员工不敢公开提出安全疑虑。由于OpenAI尚未完整公开调查细节, 外界仍难以独立判断双方说法。这场争议的后续发展, 也将影响外界对人工智慧企业如何平衡资讯保密、内部问责与安全监督的观感。