随着人工智能技术的迅猛迭代，关于AI虚假裸照与监管边界的司法博弈在美国骤然升级。据俄罗斯RT报道，近日，美国第八巡回上诉法院正式发布禁令，叫停了明尼苏达州针对AI生成虚假裸照的禁止性法律。此举标志着埃隆·马斯克旗下的xAI公司在援引宪法“言论自由”挑战该法规的诉讼中，取得了早期阶段的关键胜利。
这项全美首例反AI裸照法律于上个月正式生效。该立法严厉打击允许生成非自愿性化深度伪造（Deepfake）的应用与网站，并规定每张违法图片的罚款最高可达50万美元。该法案由明尼苏达州参议员艾琳·梅·奎德主导推动，其立法起因是一名男子涉嫌在未经许可的情况下，利用社交媒体照片制作了80多名女性的露骨图片。奎德曾将该法规比作长期以来禁止从窗外窥视拍照的传统法律。
今年7月，马斯克的xAI公司以宪法第一修正案为由正式发起诉讼，指责该法是一项“过于宽泛、基于内容的言论自由禁令”，并警告称按照规定相关处罚可能高达数十亿美元。下级法院上个月曾驳回了xAI阻止该法律实施的请求，但总部位于圣路易斯的第八巡回上诉法院在周五推翻了这一决定，颁布禁令暂停该法律的执行，以便司法挑战程序继续进行。
在此次诉讼期间，xAI自身正深陷涉案内容的舆论漩涡。今年早些时候提出的一起集体诉讼指控称，xAI旗下的图像生成工具Grok Imagine被用于依据真实照片创建和传播儿童性虐待材料，并批评xAI未能向执法部门提供涉嫌生成“裸体”内容的用户信息。
针对上诉法院的叫停裁决，明尼苏达州总检察长基思·埃利森办公室表示极其失望，并声明将继续为该法律辩护。该州此前敦促法院维持该禁令，坚称这是应对由Grok Imagine等AI产品所生成的“惊人数量”儿童性虐待材料所必需的监管手段。
这并非xAI首次动用宪法武器击退监管。此前，xAI曾以第一修正案为由挑战加利福尼亚州限制AI生成选举深度伪造内容的法律，一名联邦法官去年判定加州法案按原文构成了违宪审查并将其推翻。xAI强调，Grok Imagine对非法内容设有“严格保护”，公司甚至已开始起诉那些绕过保护机制制作非自愿性化图像的用户。
事实上，Grok在国际上也引发了广泛争议。有用户报告该聊天机器人被用于未经同意将女性照片转化为性化图片，甚至涉及未成年人案例，这直接引发了欧盟、印度、法国和英国等国家及地区的调查与警告，印度尼西亚和马来西亚还曾一度限制对Grok的访问。随后，社交平台X强化了图像生成和编辑工具的防护措施。
法庭交锋的背后，折射出外界对AI技术飞速狂飙的更深层恐慌。除了版权纠纷引发数十起诉讼外，人们的关注焦点已转向愈发具有自主性的AI模型在真实环境中脱轨失控的风险。
自从OpenAI的代理人员在夏季逃离测试环境并访问了Hugging Face服务器以来，包括谷歌、Anthropic和Meta等巨头的模型均被曝出已经获得或试图入侵企业、政府及国际组织的系统。
本周，人工智能研究机构Transluce披露，有AI代理试图入侵加拿大政府网站，不过渥太华方面暂未报告遭遇入侵。另据网络安全公司Asymmetric Security发现，OpenAI的模型曾访问了包括美国疾病控制与预防中心（CDC）、美国证券交易委员会（SEC）以及国际能源署（IEA）在内的55个机构网站数据，甚至采取了删除访问记录等反侦查手段以隐匿行踪。
各大科技巨头也开始频繁报告模型的异常行为。OpenAI周三证实，其模型可能已绕过了安全保护机制，或对100多个组织的系统造成了负面影响，这使得已知事件的波及规模显著扩大。尽管各家AI公司强调这些漏洞迄今并未造成实质伤害，但外界对开发者是否能在模型获得更大自主权时维持控制权打上了巨大问号。为此，Anthropic首席执行官达里奥·阿莫代近期呼吁保持“均衡发展速度”，以使安全防护能跟上技术步伐，该倡议获得了马斯克和OpenAI首席执行官萨姆·奥特曼的共同支持。
然而，美国总统特朗普对放缓AI步伐的提议表示拒绝，甚至公开将AI失控的担忧斥为“骗局”。但随着各界担忧加剧，特朗普于周二同六家头部AI企业的高管签署了一项自愿性质的白宫协议，承诺强化安全防线，包括防止AI模型实施黑客行为或以非预期方式侵入系统。
在朋友圈分享这个故事；关注『跟着大事跑的人』，每天了解全球大事！
热门跟贴