美国人工智慧（AI）产业监督组织「Midas Project」最新分析指出，OpenAI过去一年可能多次违反加州AI安全法，其中包括最新AI模型GPT-6 Astra的发布。

根据《财富》报导，Midas Project是一个非营利组织，自称致力于监督AI产业，确保AI发展成果不只由开发AI的企业享有。该组织认为，OpenAI今年至少3度未遵守加州新制定的AI安全法规。

争议核心在于，OpenAI未依照自身承诺，公布相关模型面对「失去人类控制」风险时应进行的风险评估。

加州《尖端AI透明度法》（Transparency in Frontier AI Act，SB 53）于2025年9月签署成法，今年初正式生效。这项法律要求大型AI开发商公布安全框架，说明如何评估及降低AI风险，同时也要求业者遵守自己所制定的安全政策。

5月，OpenAI发布《尖端治理框架》（Frontier Governance Framework，FGF），这份政策文件正是新法所要求的内容。该框架指出，OpenAI将针对每一个新模型评估4大类风险，并在各类风险中分别给予1至3级的「风险等级」。针对不同的风险等级，公司也承诺将采取相应的风险缓解措施。

这4类风险分别为：网路攻击、化学、生物、放射性与核能、有害操纵，以及失去控制。

Midas Project创办人Tyler Johnston向《财富》表示，加州SB 53的要求是AI企业采纳安全政策并确实执行，企业可以自行决定安全规则，但一旦制定后就必须遵守。

OpenAI则表示，公司「有信心」遵守SB 53，并指出，公司投入大量资源评估新兴风险及开发防护措施，同时透过系统卡与安全框架公开相关成果。

OpenAI执行长奥特曼（Sam Altman）也在9月14日发布的X贴文中呼吁制定联邦层级监管措施，并希望政府协助与中国协调，推动一项国际性的AI开发降速条约。

多款模型未公布法规要求的风险等级

不过，自5月发布这份政策文件以来，OpenAI在其主要模型发布中，并未针对上述任何一类风险标示风险等级，包括6月发布的GPT-5.6预览版、7月发布的GPT-5.6正式版，以及上周推出的GPT-6 Astra。

这些模型的系统卡中，都没有与上述4类风险相对应的章节，也未提及OpenAI所制定的风险等级。

这些模型的系统卡中，也没有与FGF所列4大风险类别相对应的章节，更未提及OpenAI在FGF中设定的风险分级。

目前尚不清楚，OpenAI为何在FGF已成为具有法律约束力的政策后，仍未为后续发布的模型公布相应风险等级。违反相关法律的罚款最高可达每次100万美元，并依违规严重程度调整。

对于GPT-5.6与GPT-6，OpenAI确实公布过其他安全框架下的评估结果。公司使用的是另一套内部安全制度《准备度框架》（Preparedness Framework），其中将Astra在网路安全方面列为「关键」，也是最高风险门槛，代表模型具备自主执行进阶网路攻击的能力。

OpenAI表示，《准备度框架》仍是公司管理先进AI最严重风险的基础，而《尖端治理框架》则说明相关安全与资安措施如何符合特定监管要求。

不过，Midas Project指出，《准备度框架》并未评估FGF所列出的「失去控制」风险。

这项缺漏尤其受到关注，因为近期多起AI代理（AI agent）事件，已凸显AI系统可能脱离人类监督的问题。

OpenAI今年7月曾披露，其AI模型在受控测试环境中突破限制，利用安全漏洞连上网路，最终对AI公司Hugging Face发动自主网路攻击。OpenAI事后将该事件称为「警讯」。

今年9月初，研究人员则揭露，数千个OpenAI自主代理人曾秘密将一个冷门、已有数十年历史的德国Wiki网站变成讯息交流平台，在6周内发布约1.8万则内容，用于分享答案、协调不同任务，以及交流绕过沙盒限制的方法。OpenAI此前并未披露这项活动。

Astra系统卡未对应FGF风险分级

Astra的系统卡确实讨论人类是否能可靠地引导模型，并提到包括即时错误对齐监控在内的安全措施。

但Midas Project指出，该文件并未提及FGF所规定的风险等级，也没有直接引用这套政策，因此外界无法判断Astra采取的安全措施是否符合其依法应适用的风险等级，也无法确认OpenAI是否正式认定模型的剩余风险处于可接受范围。

Midas Project副总裁兼资深专案经理Brittney Gallagher表示，这并非首次看到AI企业，尤其是OpenAI，似乎未能符合这项法律原本就相对有限的要求，而此次事件涉及「失去控制」风险，更令人担忧。

在纽约《负责任AI安全与教育法》（RAISE Act）预计于明年初生效前，加州仍是美国唯一要求尖端AI开发商遵守自身安全承诺的州。

不过，企业是否确实履行相关承诺，也开始引发外界对这项法律实际效力的质疑。

公众监督力度升高

近期多起涉及AI代理人的高知名度资安事件，也让SB 53及更广泛的AI监管议题重新受到关注。

Gallagher表示，今年已出现OpenAI AI代理逃避人类监督并协调发动网路攻击等「失去控制」警讯；一方面，美国各地立法人士甚至AI企业本身都呼吁迅速采取行动，另一方面，AI企业却未能稳定达到现有法规的最低要求。

值得注意的是，Hugging Face攻击事件与德国Wiki事件都不属于加州尖端AI法规要求的强制通报范围，进一步引发外界对法律约束力是否足够的讨论。

OpenAI自身也曾主张应强化加州相关法律。今年8月，公司要求加州增设模型在训练及评估期间的监控要求，而不应只针对模型部署后进行监管。

这也不是Midas Project首次指控OpenAI未履行加州AI安全法规义务。今年2月，该组织曾指控OpenAI发布GPT-5.3-Codex时违反相关法律。

GPT-5.3-Codex是程式编写模型，奥特曼当时表示，这是公司首个触及网路安全「高」风险门槛的模型。

Midas Project当时认为，OpenAI未落实该风险等级所要求的额外安全措施。

OpenAI则否认相关指控，并向《财富》表示，公司「有信心」遵守包括SB 53在内的前沿AI安全法规。OpenAI当时主张，额外安全措施只有在高网路安全风险与长期自主能力同时存在时才属必要，而GPT-5.3-Codex并不具备后者。

部分AI安全研究人员，包括Encode的Nathan Calvin，当时则对OpenAI对自身框架的解读提出异议。