美国联邦第8巡回上诉法院周五(2日)暂时阻止明尼苏达州执行全美首个针对AI「裸化」(nudification)技术的禁令,使马斯克旗下xAI与明尼苏达州之间的宪法诉讼出现重大进展。法院裁定在xAI提出的法律挑战持续期间,暂缓执行这项8月1日生效的法律。

这项法律禁止网站营运商、软体开发商及其他服务提供者允许使用者利用AI,将可辨识个人的原始照片修改或生成为逼真的裸露或性化影像,包括让原本没有呈现的私密身体部位出现在影像中。明尼苏达州议会今年通过相关法案后,该州成为全美第一个直接禁止这类AI「裸化」服务的州。

xAI在诉讼中主张,这项法律违反美国宪法第一修正案所保障的言论自由,并认为法律涵盖范围过广,可能限制部分受宪法保护的AI生成内容。xAI表示,旗下Grok Imagine已设置防护措施,禁止生成未经同意的真人裸露或性化影像,公司也已对涉嫌绕过相关限制的使用者采取法律行动。

明尼苏达州则主张,立法目的是遏止利用AI制造及散播非自愿性色情影像,尤其是涉及儿童的性虐待材料。州政府认为,AI裸化工具让使用者能够以极低技术门槛制造逼真的虚假色情影像,传统上针对影像散播者的法律已不足以处理这项新技术所带来的风险。

第8巡回上诉法院此次裁定,接受xAI提出的禁制令请求,暂时停止明尼苏达州执行相关法律。不过,这并非对该法律是否违宪作出最终判决,xAI针对法律提出的宪法挑战仍将继续审理。

这起案件的关键法律争议之一,在于明尼苏达州法律对「裸化」的定义。法规将其界定为修改或生成影像或影片,使可辨识个人的私密部位出现在原始未修改内容中不存在的状态,而且生成结果必须逼真到合理人士会相信该私密部位属于该名可辨识个人。

法律同时禁止网站、应用程式、软体、程式或其他服务让使用者存取、下载或使用相关服务进行裸化,或代表使用者直接进行裸化。不过,若完成相关影像处理需要使用者本身具备技术能力,法律则设有例外。

若违反这项法律,明尼苏达州检察长可提出民事执法行动,每一项违规最高可处50万美元民事罚款,并可要求法院核发禁制令及其他救济措施。

这次上诉法院的裁定也推翻了xAI在下级法院遭遇的暂时性挫折。明尼苏达州联邦地区法院法官Donovan Frank在9月4日拒绝xAI提出的初步禁制令申请,认为xAI没有证明若法律持续执行将遭受不可弥补的损害,并指出xAI在法律通过后一段时间才提出紧急救济请求。

Frank当时也认为,xAI所主张的500,000美元单次违规罚款属于金钱损失,即使未来遭到处罚,若法律最终被判违宪,相关损失仍可能透过法律程序追回,因此不足以构成不可弥补的损害。由于xAI已在明尼苏达州停用相关裸化功能,地区法院也认为实际遭到罚款的风险受到限制。

地区法院同时指出,案件涉及的第一修正案问题相当复杂,尤其AI生成技术仍在快速发展,法院需要进一步审理相关宪法问题。当时法院并未就xAI最终是否胜诉作出判断,而是以xAI未能证明不可弥补损害以及其他禁制令要件未获满足为由,拒绝暂停法律执行。

xAI之后向第8巡回上诉法院提出上诉,并反驳地区法院认为公司延误提出救济的判断。xAI也再次强调,Grok Imagine已设有严格防护机制,目的在阻止使用者利用服务生成真人裸露或性化影像。

这起案件的背景与生成式AI影像工具快速普及有关。明尼苏达州议会在立法过程中曾引用相关研究,指出AI裸化工具已被广泛使用。根据法院先前引用的资料,RAINN提供的一项研究发现,某社群网站推出AI影像编辑工具后的前11天,使用者生成约300万张写实性化影像,约占同期生成照片的65%,平均每分钟约190张。

法院文件也指出,Internet Watch Foundation曾通报大量利用生成式AI制造儿童性虐待材料的案例。该组织资料显示,2024年上半年曾收到约6,800起涉及生成式AI儿童色情内容的通报,截至2025年6月,相关通报数已超过40万起。不过,这些数据是法院在审理下级法院禁制令时引用的资料,并非本次上诉法院对相关规模作出的独立认定。

Grok Imagine是xAI旗下影像生成及编辑工具,可透过文字或语音指令生成影像与影片。xAI表示,Grok Imagine的使用范围包括艺术、动画家庭照片、迷因、产品模型、政治讽刺及宗教影像等,同时公司的使用政策禁止非法、有害或滥用行为,包括对真人影像进行裸化、将真人影像改为性化情境以及性化或剥削儿童。

xAI近来也开始对涉嫌规避Grok防护措施的使用者提起诉讼,指控这些使用者试图生成未经当事人同意的性化影像。公司因此主张,平台已透过技术防护及使用规范处理相关风险,而明尼苏达州法律仍将责任直接施加在提供AI工具的业者身上。

明尼苏达州则认为,仅依靠平台事后封锁违规内容或追究使用者责任不足以应对AI裸化技术的快速扩散。州政府主张,法律直接限制提供相关生成能力的服务,是针对AI技术所造成特殊风险所采取的监管方式。

目前第8巡回上诉法院的暂缓执行命令仅影响法律的执行,并未结束xAI与明尼苏达州之间的诉讼。案件后续仍将围绕第一修正案适用范围、州政府监管AI生成内容的权限,以及平台业者是否能因使用者生成的内容承担法律责任等问题展开。

随着美国各州陆续寻求规范AI生成色情影像、深伪影像及未经同意的性化内容,这起案件可能成为法院界定AI生成内容监管与宪法言论自由界线的重要案例。最终判决是否支持明尼苏达州法律,以及其他州能否采取类似监管措施,仍有待后续司法程序决定。