前言

本文为「不二求职」群成员针对话题 #如果你是今日头条审核板块的产品经理，你会从哪些维度来考虑审核？审核时是人工重要还是AI技术机器审核重要？#的完整复盘。其中内容仅供参考，欢迎大家留言批评指正。

话题复盘

Q：如果你是今日头条审核板块的产品经理，你会从哪些维度来考虑审核？审核时是人工重要还是AI技术机器审核重要？
A：1、可以分为以下五个维度去考虑:原创度:主要是机审，通过数据匹配和关键词过滤筛选标题、开头结尾、正文等部分。专业度:机审+人工，主要正对题文不符、水文、广告文等内容。活跃度:机审，根据发文的活跃情况调整平台分发资源。互动度:机审+人工，主要监控互动的频次和内容等。健康度:机审+人工，防止出现黄赌毒负能量等等。2、从长期的视角来看，AI机器审核要更为重要。现在的审核多为先机审，有问题的再人工审，机审可能会过滤掉大多数的内容，而且随着算法的不断升级和对人工审核的神经学习，机甫会变的越来越智能。况且计算机的处理速度和知识储备都远在审核人员之上，即使是当下的视角，机器审核也拥有着不可或缺的地位。

精选讨论

@ 路伯言-2022-南大审核方式：以人工+AI技术机器结合为审核方式；以先审核后发布为审核流程；从发布内容、发布形式、与社区的匹配度（是否错投社区）、发布者信息等维度进行审查；发布内容：①政策层面（黄毒赌、诈骗、反动、造谣、低俗等）②是否原创/抄袭/洗稿等，注重对社区原创内容的产权保护；③是否泄漏他人隐私，存在人身攻击等；④是否存在不良的诱导行为（链接跳转或其它方式）发布形式：标题党、视频/图片/音频应拆解审核（图片识别、语音转文字审核）社区匹配度：主要审查是否存在错投分区的情况（如科技内容投到了时事区等）发布者信息：对其过往发布内容进行审核、对其在平台的信誉积分、实名等（如果有）审核，检查其过往是否有黑历史。审核：AI先严格初审，确保第一轮审查可以通过的无需再人工审核；无法通过初审的采用人工复审，审核过程中可发现优质内容【根据平台策略可进行推荐等】。
@ 叔叔-21-武大维度：信息内容（政治立场、谣言、暴力涉黄、价值判断等）信息模式（文字、图片、视频）用户等级（高信用用户、普通用户、危险用户等）重要性：人工审核与AI审核两者相辅相成，AI审核减轻人工审核的工作量，人工审核弥补AI审核的准确性。AI用于文字、视频等数据庞量的初步审核，人工用于风险系数较高的复核。
@ 庄莹-2021产品-武大审核维度:1.内容合法性:是否涉黄，诈骗，违法，反动；2.内容优质性:是否广告，标题党，低俗，恶心，抄袭，低质账号发布内容3.社区氛围: 对用户头像，昵称，评论等的审核，避免谩骂人工还是AI重要:都挺重要。AI优点是快速识别，提高效率，缺点是准召不高，容易误伤或漏过。人工优点是判断准确率高，缺点是费时费力，人力成本高。建议是多轮审查机制，小池子里推的时候先AI初筛，判断违规内容的算法可以倾向高召回低准确，以避免漏网；初筛内容进行人工复审+抽查，减少漏网/误伤，同时兜底策略允许用户申诉。内容得到高曝光后，每次从小池子进更大池子时，再进行一轮更高标准的AI+人工审查，以保证更多的人看到的是优质内容。