2025年，生成式AI技术重塑广告产业格局，在提升效率的同时也带来违背公序良俗、侵权抄袭、虚假宣传、身份伪造等新型风险。近日，抖音集团旗下综合数字化营销服务平台——巨量引擎发布《2025商业信任与安全治理报告》，介绍平台以“AI治理AI”为核心策略，通过规则升级、技术攻坚与生态协同，构建全链路安全防护体系，构建让用户放心点击、安心消费的“可信环境”的举措及成效。
平台治理
“AI治AI”理念落地
在数字化浪潮中，广告领域人工智能的应用覆盖广泛、成效显著，推动行业进入更为精准和技术化的“智能营销”新时代。
一些黑灰产甚至也实现了“AI工业化”升级，其攻击范式从机械的脚本执行，进化为具备规划与推理能力的“AI 智能体”，利用多模态大模型批量炮制高拟真的商品效果图，通过深度伪造等技术克隆权威人士的形象与声音进行背书，甚至能够模拟人类交互行为，绕过传统的安全验证。
据巨量引擎商业安全治理策略负责人介绍，平台以“ AI 治理AI”为核心策略，把自研的多模态大模型打造为应对新型风险的有效武器。大模型能够穿透复杂的内容伪装，理解视频、音频、文本间的隐含关联，精准识别用传统方法难以发现的合成与作弊痕迹。同时，平台打造智能风控体系构筑高压防线，依托大模型的深度推理能力，将特定风险识别能力的建设周期从传统的数周缩短至小时级，实现对黑灰产的“降维打击”。
2025年，平台单日处置黑产账户数量最高突破20万个，实现了对规模化攻击的有效遏制；智能风控体系前置拦截违规素材累计百亿条，关停违规账户超400万个，牢牢守住了平台的内容安全与履约安全底线。
在隐私保护层面，平台将“隐私号”服务从核心场景拓展至医疗、法律、教育等行业，并覆盖私信等新场景，实现“隐私保护+商家转化+用户体验”三方共赢，填补后链路治理空白。
隐私号是一项核心的隐私保护技术。其原理是在用户与商家销售之间设立一个临时的虚拟号码作为通信中介，商家销售仅能联系此虚拟号，从而确保用户的真实手机号全程不泄露。
据内部专项调研数据显示，经过一年的隐私号专项治理，平台用户隐私保护相关指标同比显著提升，尤其是广告场景下个人信息违规收集问题得到有效遏制进一步强化了用户对平台服务的信任度。
用户服务
首创消费者抱怨指数
在平台用户体验管理中，显性的投诉仅是冰山一角，更大量的用户不满隐藏在评论、广告评价等行为数据中。为了系统性地捕捉这些“静默的抱怨”，巨量引擎在广告领域首创并持续迭代消费者抱怨指数（CCR，Customer Complaint Rate）体系。
“CCR指标的设计初衷，就是把用户的每一条评论、每一次举报都转化为可落地的治理依据。”据巨量引擎商业安全治理策略负责人介绍，CCR 如同一个精密的“声纳系统”，它深度聚合用户评论、举报、投诉、广告评价等多维信号，并将其量化为可分析、可归因、可行动的数据指标。
据统计，2025年，平台内容 CCR同比下降56.2%；履约 CCR同比下降67.1%。这一成绩的背后，是基于 CCR 洞察构建的“分级精准治理”模型：
对危害极大的金融“债务优化”、非法“特供酒”等，坚决执行禁投，从源头掐断风险；
对短剧夸大收益、招聘虚假高薪等“变种”违规，利用 AI 模型的快速迭代能力，实现“场景化精准打击”；
对于非故意违规且有改善意愿的客户，则提供教育指导，结合具体违规情况帮助、引导商家调优广告投放，平衡商业体验。
值得关注的是，广告后链路履约环节虽已脱离平台管控，但其服务质量直接影响用户对广告生态的信任，尤其是老年人、未成年人等群体，在维权操作、风险识别上更易遇到障碍。
为解决这一痛点，2025年7月底，平台全面升级服务系统，重磅推出 “一老一少”广告服务保障升级计划：
对于老年用户，平台不仅针对部分情况提供简化至“零门槛”的举证流程、7×13小时的超长人工服务时段，更提供“手把手”的视频或图文指引，极大降低了数字鸿沟带来的维权障碍；
对于未成年人相关的消费问题，平台则为家长提供标准化的举证模板，并建立快速响应通道，部分案例可实现当天解决。
专项上线4个月，即为超过5800名老年与未成年用户解决了实际困难，问题解决率达91% 。
商家扶持
从“管控”到“赋能”
过去，广告素材被平台拒审，就像收到一份打了红叉却没有任何解析和参考答案的考卷，令广告主困惑且无助。如今，当一条素材被拦截，广告主收到的将是一份详尽的“诊断报告”：系统不仅高亮标出违规的具体画面帧和文本，更能由AI推理出“为何违规”，并给出“如何修改”的明确建议，甚至提供合规范例参考。
这是巨量引擎通过深度应用自研大模型，将审核拒接的交互体验进行了颠覆性变革的效果：广告主关于拒审理由不清的负向反馈在平台各产品线均有下降，最高降幅达18%。
“最好的治理不是让违规不易发生，而是让优质内容的创作更加容易。”据巨量引擎商业安全治理策略负责人介绍，平台致力于将最前沿的 AI 技术，转化为广告主工具箱中触手可及的生产力组件。如，对存在敏感或违规内容的视频，AI识别后可自动分析具体违规情形，根据商家已有文案、平台规则、合规数据库提供修复后的合规建议供商家选用，将商家从数天反复修改的困境中解放出来。此外，通过流量激励，旗帜鲜明地奖励那些兼具创意、审美与正向社会价值的优质广告，引导生态向高质量内容进化。
治理角色从“裁判”向“教练”转变，从“管控封禁”转向“帮助商家成长”，实现商业效率和合规性的平衡，巨量引擎构建了一套立体化的广告主成长赋能体系，为行业提供了“治理+赋能”双轨运营模式的实践范例。
2025年，平台运营的“规则中心”已成为广告主的合规百科，全年页面浏览量（PV）环比增长194%；定期举办直播课程、发布行业风险白皮书，将高频违规点和新型风险案例主动推送给相关行业广告主，全年累计覆盖人次超300万。此外，平台还试点“以考代罚”机制：对于部分轻微违规行为，不是直接进行处罚，而是为广告主推送相关的规则学习资料与在线考试，通过考试即可解除提醒。这一人性化举措获得了广告主的广泛欢迎，参与考试的广告主点击率高达54%。
共建共治
从平台实践到行业共识
不久前，在中国广告协会与IAB中国（国际互联网广告行业组织“互动广告局”中国分支机构）联合主办的 “创享汇年度大赏” 上，巨量引擎 “基于CCR指标驱动的广告全链路生态治理”项目经行业专家团队严格评审，成功获评2025年度优秀案例。此前，该项目还曾入选北京市市场监管局、中国广告协会、北京广告协会联合评定的 “数字广告业高质量发展创新案例”。这标志着巨量引擎的平台治理思路正从平台实践走向行业共识，为破解广告体验的“黑箱”评价难题提供了可复制的路径。
“平台的安全治理能力不应只服务于商业生态，更应转化为服务社会的正能量。”据巨量引擎商业安全治理策略负责人介绍，2025年，平台开展了一系列社会共治项目：
在文化倡行方面，联合北京市公安局反诈中心、国家大剧院，策划制作了北京首部校园反诈主题微电影《心防—重生之我在大学干反诈》，助力“无诈校园”建设；
在公益践行方面，联合字节跳动员工公益团队走进养老院与乡村小学，至今已开展6期“AI+ 反诈”公益课；
在法治同行方面，利用数据和技术能力，积极配合公安机关打击利用广告引流进行的违法犯罪活动。
中国政法大学传播法研究中心副主任朱巍分析认为，鉴于AI技术的复杂性和应用的广泛性，电商平台AI治理需要实现跨领域的协同，包括需要监管持续加码，需要平台强化责任，更需要网民切身参与。“面对AI换脸宣传、深度合成侵权等新型风险，巨量引擎的实践为行业提供了‘技术治违’范本。”朱巍说。
❗❗❗版权提示：文中图片未经授权不可转载。
中国消费者报新媒体编辑部出品
来源/中国消费者报·中国消费网
记者/裴莹
编辑/李晓雨
监制/何永鹏 任震宇
互联网新闻信息服务许可证：10120170022
违法和不良信息举报电话：010 - 88315476
热门跟贴