一个AI应用被应用商店下架的威胁,通常不会变成写给国会议员的机密信件。但当马斯克的公司撞上苹果的审核红线,事情就这么发生了。

今年1月,苹果私下威胁要把Grok从应用商店移除。NBC新闻获取的这封致三名参议员的信,揭开了平台审核最不愿公开的一面:当AI生成内容失控时,应用商店扮演的到底是什么角色?

打开网易新闻 查看精彩图片

事情是怎么闹到国会去的

2026年初,Grok的图像生成功能突然成了众矢之的。用户用它批量制作真实女性的非自愿性深度伪造图片,有些甚至涉及未成年人。这些内容随后被传到X平台扩散。

倡导组织和立法者开始向苹果、谷歌施压,要求下架X和Grok两款应用。压力之下,苹果在1月30日给参议员Ron Wyden、Ben Ray Luján和Edward Markey写了回信。

这封信的核心信息很直接:苹果审查后认定,X和Grok都违反了应用商店准则中关于"冒犯性、不敏感、令人不安"内容的规定。

但苹果没有直接下架,而是选择了一条更迂回的路——给开发商整改机会。

两次提交,两种命运

苹果的应对流程是这样的:先联系两个应用的团队,要求提交内容审核方案。

xAI第一次交上来的Grok更新被直接打回。苹果的原话是:"改动还不够"。

与此同时,X的整改方案通过了。苹果认定X"实质性解决了违规问题",但Grok仍不合规。

这时候苹果放话了:再改,否则下架。

经过进一步沟通,xAI第二次提交的Grok版本终于过关。苹果认为这次"实质性改进"了。

整个过程里,马斯克在社交媒体上对苹果的各种挑衅——从抱怨"苹果税"到威胁要做手机——完全没有影响审核结果。应用商店的规则执行,和CEO之间的个人恩怨是两码事。

那些突然出现的限制从哪来

这封信解释了xAI在1月争议高峰期宣布的一系列看似矛盾的 moderation(内容审核)调整:

图像编辑功能仅限付费订阅者使用;限制对真实人物的图像编辑;部分地区直接屏蔽图像生成功能。

这些不是产品迭代,是保命操作。

但NBC新闻的测试发现,部分限制仍可通过修改提示词绕过。问题被缓解了,但没根治。

xAI对NBC的回应是标准话术:"严格禁止用户生成非自愿的明确深度伪造内容,禁止用我们的工具给真实人物脱衣。"

禁止归禁止,技术层面的封堵显然还有漏洞。

平台审核的隐性权力

这件事最有趣的地方在于权力结构。

马斯克同时控制着X和xAI,在社交媒体上拥有巨大声量,还能直接影响政策讨论。但当他需要让应用留在iPhone上时,必须按苹果的规则来。

苹果的应用商店审核机制,本质上是一套私人治理系统。它没有公开法庭,没有上诉程序,决策过程不透明。但正是这种不透明,让它能在公共舆论爆发前快速施压。

写给国会议员的信,反而是这个黑箱里罕见的光。

对科技从业者来说,这里有三个值得关注的信号:

第一,AI图像生成正在成为应用商店审核的高风险区。不是"有没有这个功能",而是"能不能管住用户怎么用"。

第二,平台对"非自愿深度伪造"的容忍度正在快速下降。苹果的信件措辞很具体,不是泛泛的"违规",而是指向明确的伤害类型。

第三,整改机会不是无限的。Grok第一次提交被拒,说明苹果有明确的合格标准,而且不会轻易放水。

为什么这件事值得跟踪

应用商店审核正在从"技术合规"转向"社会影响评估"。开发者需要预判的不仅是功能是否稳定,还包括最坏情况下用户会拿它做什么。

对AI产品团队来说,这意味着两件事:内容审核方案要做得比功能本身更扎实;准备好应对平台方的紧急整改要求,包括地理屏蔽、功能分层、用户分级等组合拳。

苹果这封信还留下一个悬而未决的问题:如果xAI第二次提交仍不达标,苹果真的会下架吗?

历史记录显示,苹果对大型应用的下架极为谨慎。但2026年的政治环境不同以往——深度伪造正在选举周期里被高度敏感化,平台承担的压力和几年前完全不是一个量级。

下次再看到某个AI应用突然限制功能或调整可用区域,可以留意一下时间线。那可能就是一封没有公开的警告信,正在发挥它的作用。