一款App在审核人员手里是张人畜无害的图片编辑器,拿到通过通知之后,它才露出真正的功能。这种"审核时一套、上线后一套"的玩法,苹果这次点名要治。

打开网易新闻 查看精彩图片

10月16日晚间,苹果开发者网站发布消息,宣布对App Review Guidelines(应用审核指南)再做一次更新。这次改动的靶子有两个:未经同意生成的私密影像,以及用诱饵调包手法混过审核的应用。

苹果在更新说明里写得很直接:应用如果在审核阶段谎报用途,只在获批之后才放出有害功能,这类带隐藏或未记录功能的应用同样不允许上架。

被点名的"脱衣"应用

色情内容在App Store一直是被禁止的,生成露骨图像的应用也在禁令之内。这次被专门拎出来的,是所谓的"nudification"应用——用户上传一张真人照片,应用就能生成这个人的露骨图像,而照片里的当事人并不知情、也未同意。

这类应用并不是纸面上的假设。今年7月,旧金山市要求苹果从App Store下架八款此类iPhone应用。

苹果此次修改的1.2条款,把内容审核的要求写得更明确:应用应当主动预防或移除未经同意生成的私密影像,其中就包括用AI生成工具做出来的那些。

调包手法早有前科

用一套面孔过审、上线后换成另一套的做法,在App Store里不算新鲜事。诈骗应用、恶意应用都用过这招,甚至还有俄罗斯的银行这么干过。

苹果的审核流程和配套指南本身不算薄弱,但通过审核的东西,并不都是靠正当方式进来的。开发者用欺骗性手段把应用的真实性质藏起来,规则禁止的功能就这样跟着应用一起进了商店。

新规里,2.5.19条款专门澄清了苹果对这类影响审核流程的调包行为的立场。换句话说,审核阶段藏功能这件事,从此有了明确的条款对应。

用户内容与分发渠道一起收紧

带用户生成内容的应用,本来就有过滤不良材料的要求,包括让用户举报这类内容、让用户拉黑账号。这次更新把"未经同意的私密影像"明确纳入了应当主动预防和移除的范围。

另一处变化在5条款。苹果此前长期禁止助长人口贩运或剥削儿童的应用,这次把态度写得更清楚:被发现助长这些行为,应用会从App Store移除,并且被挡在"alternative distribution"(替代分发)之外。

对开发者来说,这次更新的信号不复杂:审核不是一次性的通关考试,过审之后露出的东西,照样会被追责。