国家互联网信息办公室25日公布《互联网跟帖评论服务管理规定》提出,网站要建立跟帖评论审核管理、实时巡查、应急处置等信息安全管理制度,及时发现和处置违法信息。
即便是发布这样「管理规定」之前,内容平台的审核也是一直存在,是最基础的公司风险管控方式。单纯地抱怨审核速度慢、规定多、不同人情是没有意义,不如真正地理解审核的逻辑,从源头就开始避免各种麻烦。
底线原则
不仅仅是对内容平台公司的要求,更是对中国所有公司的要求。是人家一家互联网公司都不要碰触的底线,更不要在其边缘徘徊。
当然这也是最容易规避和识别的内容,不管是图文还是视频,碰触底线直接会被删除,严重的甚至会被封禁账号,追查真实信息移交网安。
具体内容不细说。
黄暴内容
相对于底线,黄暴力内容也是内容质量安全的重要处理对象。平台会容忍色情内容的泛滥,即便是汤不热最终也选择了清除成人内容。在中文互联网世界,消除黄暴内容也是内容平台标配。
此处的难点在于「如何鉴定一个在边界线徘徊的内容是不是需要删除呢?」
审核系统需要考虑下面的原则
平台调性和引导风向原则
这部分的审核标准就变得没有那么明显和易于区分。
快手化的内容在抖音基本会被干掉,最大的原因是担心会引发模仿直接影响其他投稿。引导风向原则则是更多具体情况的讨论。
社会不鼓励吸烟,自然吸烟的镜头会被自见;社会不鼓励饮酒,豪饮的就会被自见;大家不喜欢暴力,自然车祸类的视频也很少活的长久。
「引导性不好」就是众多边缘内容被毙掉的原因。哪为什么有的视频引导性不好就发了出来而且还是爆款呢?
这是因为审核需要动态变化标准
在底线和黄反的基础之上,内容平台的审核标准是动态变化的,动态的意义有两种:
- 前段时间内容成功发布,过了一段时间其他人发布类似的内容失败
- 成功发布的内容在一段时间后被停掉
这样的动态变化原因可能有几种:
- 「随时接收网安通知」
- 内容平台根据平台热点的自我调节
- 因为评论和讨论引发的话题转变
第一种很好理解,简单粗暴,不容拒绝;第二种和第三种比较复杂,需要随时监控和复查。
举例来说,李咏过世时,悼念的内容必然会成为风潮,但是大量的单调模仿会让投稿类型在短期内过于单调,所以会有大量悼念内容得不到推荐甚至不会过审。
还是本例,有悼念也会有讨论其「转移财产到美国治病」的话题,这样的讨论危险程度被限制实属自然。
所以为了应对后面的两种情况,审核系统会有两种应对原则。
消重原则
大量重复、模仿的内容会被机器直接拦截。
复审/三审机制
复审甚至三审不单单是为了检查漏网之鱼,更多的时候是监测高热内容有没有出现讨论话题的变化。
敏感时间、敏感人物、敏感话题
随时都在变化的一类内容
那除了这些,为什么还有账号可以经常性、成功发布「引导不好」「不和调性」的内容?
因为审核也会有特殊对待原则。
恶搞赵本山的音乐普通人不能用,为什么王绎龙就可以用;为什么性感舞蹈普通人不能发,瞿颖就可以。
因为他们是需要特殊对待的账号,类似的还有媒体号、商业号、政务号。
ok,我的内容避开了所有的问题,又正又红,为什么也被下架了。
那是因为审核容错率的问题。
审核员工是人,自然就会犯错,就会有错审漏审,为了冲量乱禁。
可见,审核并不是一件简单是事情。