国家法律法规的完善的同时,企业所面临的风险也在增加。百度、头条、腾讯等各大知名互联网企业,都有过被国家相关部门屡次约谈的经历。对于不少普通企业而言,可能有过被相关部门要求删除某条链接、对内容进行整改自查,甚至是约谈的经历。

网站内容安全,不容小觑。

内容风险有多大?

包括互联网大型企业,也曾低估内容带来的风险。

2018年,新浪、爱奇艺、UC等平台,因为存在宣扬赌博内容,被文化和旅游部罚款。

2019年,今日头条APP搜索结果中,出现诋毁革命英烈方志敏通知的不良信心,被北京市互联网信息办公室约谈。

2020年初,百度APP“推荐”、“图片”、“视频”等部分频道内容消失不见,只显示“认真整改本频道 努力提供更好服务”的公告。

因内容问题,被处罚最严重的是“内涵段子”APP,其因内容价值导向偏离、色情低俗等问题,被国家广播电视总局责令永久关停。内涵段子用户量曾一度月活超过2000万。

从0到2000万,内涵段子用了5年,从2000万到0,内涵段子用了不到一天的时间。

内容风险,大到足以让整个项目停滞关闭的地步。那么作为企业,应该如何防范规避这类风险呢?

内容把控难题

企业有意自查,对内容进行把控,却处处是难题。

违规内容五花八门

互联网内容形式多样,给黑灰产提供了广阔的施展空间。他们既可以通过文本、图片、视频,传播色情、赌博、暴恐、涉政等内容,也可以通过文字变体、谐音变体、视频镜像、放大缩小、变声等手段,传播非法内容。

非法内容传播者,很容易寄生于新兴内容传播方式。例如斗鱼、虎牙等直播平台,经常会出现推广色情网站的弹幕。如果没有提前准备好检测和防范策略,非法内容一次传播,不仅会使企业面临风险,而且严重损害品牌形象,使品牌与低俗色情等非法内容挂钩,造成不可挽回的后果。

技术难以防范

与其他网络安全事件一样,内容安全攻防同样存在严重的攻防不对等。防御方必须对所有可能违规的内容,进行检测和处理,而攻击方只需要找到一处漏洞,就能对网站的内容安全造成威胁。

因此,我们常常看到这种现象,技术人员发现网站大量色情低俗、涉暴涉恐等非法内容后,修改网站检测规则,阻止攻击者以此类方式提交内容。但不久过后,攻击者再次找到规则漏洞,又提交了大量违法违规内容。

违规内容检测

基于企业这些内容防范难题,许多云服务提供商,纷纷推出了相应的产品。例如蔚可云的内容安全产品。

它可以通过业界领先的深度识别引擎,构建和完善用户画像、语义分析、行为分析等,精准识别文本、图片、视频中低俗色情、涉恐涉暴、欺诈广告等违规内容。

蔚可云内容安全产品拥有百万敏感词库、海量图片分析样本,支持秒级返回结果,最高达99%的准确率,且接入方式非常灵活,即可与其他产品如CDN无缝对接,又可以通过API调用进行检测。

通过云服务提供商所提供的内容安全产品,可大幅降低人工审核成本,让企业专注于拓展业务。内容安全无小事,不管是大型互联网企业,还是中小型企业,都应该重视起来。