审核的逻辑

国家互联网信息办公室25日公布《互联网跟帖评论服务管理规定》提出,网站要建立跟帖评论审核管理、实时巡查、应急处置等信息安全管理制度,及时发现和处置违法信息。

即便是发布这样「管理规定」之前,内容平台的审核也是一直存在,是最基础的公司风险管控方式。单纯地抱怨审核速度慢、规定多、不同人情是没有意义,不如真正地理解审核的逻辑,从源头就开始避免各种麻烦。

底线原则
不仅仅是对内容平台公司的要求,更是对中国所有公司的要求。是人家一家互联网公司都不要碰触的底线,更不要在其边缘徘徊。

当然这也是最容易规避和识别的内容,不管是图文还是视频,碰触底线直接会被删除,严重的甚至会被封禁账号,追查真实信息移交网安。

具体内容不细说。

黄暴内容
相对于底线,黄暴力内容也是内容质量安全的重要处理对象。平台会容忍色情内容的泛滥,即便是汤不热最终也选择了清除成人内容。在中文互联网世界,消除黄暴内容也是内容平台标配。

此处的难点在于「如何鉴定一个在边界线徘徊的内容是不是需要删除呢?」

审核系统需要考虑下面的原则

平台调性和引导风向原则
这部分的审核标准就变得没有那么明显和易于区分。

快手化的内容在抖音基本会被干掉,最大的原因是担心会引发模仿直接影响其他投稿。引导风向原则则是更多具体情况的讨论。

社会不鼓励吸烟,自然吸烟的镜头会被自见;社会不鼓励饮酒,豪饮的就会被自见;大家不喜欢暴力,自然车祸类的视频也很少活的长久。

「引导性不好」就是众多边缘内容被毙掉的原因。哪为什么有的视频引导性不好就发了出来而且还是爆款呢?
这是因为审核需要动态变化标准

在底线和黄反的基础之上,内容平台的审核标准是动态变化的,动态的意义有两种:

  • 前段时间内容成功发布,过了一段时间其他人发布类似的内容失败
  • 成功发布的内容在一段时间后被停掉

这样的动态变化原因可能有几种:

  • 「随时接收网安通知」
  • 内容平台根据平台热点的自我调节
  • 因为评论和讨论引发的话题转变

第一种很好理解,简单粗暴,不容拒绝;第二种和第三种比较复杂,需要随时监控和复查。

举例来说,李咏过世时,悼念的内容必然会成为风潮,但是大量的单调模仿会让投稿类型在短期内过于单调,所以会有大量悼念内容得不到推荐甚至不会过审。

还是本例,有悼念也会有讨论其「转移财产到美国治病」的话题,这样的讨论危险程度被限制实属自然。

所以为了应对后面的两种情况,审核系统会有两种应对原则。

消重原则
大量重复、模仿的内容会被机器直接拦截。

复审/三审机制
复审甚至三审不单单是为了检查漏网之鱼,更多的时候是监测高热内容有没有出现讨论话题的变化。

敏感时间、敏感人物、敏感话题
随时都在变化的一类内容

那除了这些,为什么还有账号可以经常性、成功发布「引导不好」「不和调性」的内容?

因为审核也会有特殊对待原则

恶搞赵本山的音乐普通人不能用,为什么王绎龙就可以用;为什么性感舞蹈普通人不能发,瞿颖就可以。

因为他们是需要特殊对待的账号,类似的还有媒体号、商业号、政务号。

ok,我的内容避开了所有的问题,又正又红,为什么也被下架了。

那是因为审核容错率的问题。

审核员工是人,自然就会犯错,就会有错审漏审,为了冲量乱禁。

可见,审核并不是一件简单是事情。