苹果和谷歌正面临越来越大的法律压力，要求它们立即整顿各自的移动应用商店。旧金山市检察官邱信福向这两家科技巨头发出了正式的停止令函，要求从苹果App Store和谷歌Play Store中下架13款流行的AI“一键脱衣”应用，这些应用能够在未经当事人同意的情况下生成露骨图像。
据《连线》杂志首先报道，这些法律通知针对的是苹果App Store上的八款应用和谷歌Play Store上的五款应用。这些应用通常打着看似无害的“换脸”或编辑工具的旗号进行推广。然而，用户经常用它们来修改真实人物的照片，包括未成年人，而当事人对此毫不知情，也从未同意。
提供便利的代价
这轮法律攻势追究的对象不仅仅是编写软件的开发者。它直接挑战了现代应用商店的分发模式本身。邱的办公室主张，由于苹果和谷歌托管这些应用程序并处理其交易，它们实质上是在为有害深度伪造内容的泛滥提供便利。
此外，市府律师指出，这两家公司很可能已经从与这些平台直接相关的交易费用和订阅中获利数百万美元。加州法律禁止为生成未经当事人同意的深度伪造内容提供服务支持。邱认为，制作这些图像的行为是完全不可接受的。他强调，科技平台方有明确的责任保护其平台系统。
企业政策与回应
两家科技公司都已设有严格准则，禁止色情内容和深度伪造工具。然而，落实起来仍然是个老问题。谷歌迅速对该报告作出了回应，确认已对此事进行了调查，并已下架法律通知中提到的那五款应用。一位发言人表示，该公司定期删除数百款违反其色情内容政策的应用程序。
苹果尚未就最新的停止函发表官方评论。不过，该公司此前曾表示，“裸体化”应用绝对不该出现在它的应用商店里。过去，苹果曾屏蔽与这些服务相关的特定搜索词，并更新了其开发者指南，让创作者对成人内容承担更严格的责任。然而，目前的审查流程往往先假设开发者没有问题，在完全下架之前先发出警告——批评者认为这种做法太过宽松。
热门跟贴