苹果 App Store 新规落地，AI 深度伪造迎来最严审核
苹果公司在昨日（10月16日）更新了《App审核指南》，其中对1.2条款进行了最新修订，加强了对AI内容创作类应用的管理，明确将AI生成的、未获当事人同意的私密图像列入禁止范畴。
以下是修订内容的详细说明：
1.2 用户生成内容
涉及用户生成内容的App，会面临一系列特定挑战，例如知识产权侵权、未经许可传播私密图像、匿名网络欺凌等。为防止滥用，包含用户生成内容或社交网络服务的App必须符合以下条件：
- 采用相应手段过滤令人反感的内容，防止其在App内发布
- 建立举报机制，以便对攻击性内容进行投诉并迅速响应
- 对发布攻击性内容的用户，可取消其服务使用资格
- 公开联系信息，方便用户联系开发者
科技媒体9to5Mac指出，此次修改的直接动因是近一年来App Store相关的一系列争议。科技透明度项目曾发现数十款AI“裸体化”应用，并指出App Store的搜索建议和广告也可能将用户引导至这类应用；随后，旧金山官员要求苹果下架8款能够生成未经同意私密图像的应用。
另外，有用户投诉xAI的Grok聊天机器人被用于制作裸体或性化深度伪造图像；今年早些时候，苹果曾向xAI发出警告，如果继续放任此类内容，将把Grok从App Store下架。xAI随后增加了防护措施，更新版本才获得批准。
苹果还新增了2.5.19条准则，禁止应用在审核时隐瞒实际功能，通过审核后再加入“裸露化”等有害能力。这种“先过审、后解锁”的做法被称作“诱饵式营销”，今后可能导致应用被下架，开发者也可能被终止Apple Developer Program资格。
此外，苹果将禁止助长人口贩卖或剥削儿童的应用的范围，扩展至替代应用分发渠道，并明确表示对违规应用和开发者“不会犹豫”采取下架或终止合作等措施。