内容审核系统设计思路

从系统的角度来说，我认为审核系统是各类系统（比如交易系统、贷款还贷系统等）中，最容易实现的系统了。因为需求明确，该做的事情也比较清晰，所以只要考虑性能和操作性、易用性的问题就可以了。当然了，这里我也有个疑问，国外有没有审核系统？这个我比较好奇。毕竟，黄赌毒这类在国内是禁止的，在国外的一些国家和地区并不是禁止。可能对于某些国家来说，黄赌毒都只是给内容打个标签，或者分类。不像国内，一经发现，立刻人道毁灭。这种问题我就不过多的讨论了。

但是这里会涉及到两个层面的事情了，就是审核系统是分为一个系统还是两个系统，如果没有政审这个审核的话，可能在一些开放的国家，内容审核系统准确的应该称之为内容系统。如下图一所显示的业务逻辑。（当然，国外的网站我还没研究，不敢保证）但是在国内，我们的政治审核很严格的，肯定是两套体系。如下图二。

国外的审核流程

国内的审核流程

今天简单的讲一下如何搭建这两套系统，从需求的层面，内容审核系统是政治审核系统。需要符合国家的相关法律法规的规定。这套系统针对的内容有好多，比如：图片审核，音视频审核，图书审核。只要做过这类工作的人都知道，这套系统都是必须的。因此，鉴黄师什么的职业都是应运而生。

内容审核系统基本上就是根据国家法律法规，外加地方网监法律法规，文化部和公安部的政策规定，进行审核的。（这里普及一个知识：法律法规是已经成文的，就是不能触犯的信息。犯了就是犯罪，必须有行政处罚的。而政策规定只能算是规矩，触犯了根据情节严重，还有中国惯有国情的关系，可以有伸缩的。）

所以这套审核体系最终的目的是区分内容的本质，可传播不可传播。这个是一个黑和白的关系。在做这套系统的时候，只要根据内容属性不同，比如图片，你可以搞个图片墙。然后提供一个审核按钮，确定审核通过不同过即可。对于文字，可能需要编辑每篇去看，看完之后，一个审核功能，标注审核通过不通过即可。

当然，这里有两个好处，现在图片可能有技术实现鉴黄了，可以调用服务商接口，基本上就可以判断当前图片是否涉黄。但是对于暴力、血腥这些，还是需要人工审核的。第二个，就是一个并发量的问题，在上传量比较大的情况下，一个审核肯定是来不及的，所以多人共同审核，在内容分发的时候，可以根据签到签退这类东西，设计一个内容分发机制。或者领任务的形式，设计一套内容分发机制。这些就基本上满足审核需求了。

接下来就是内容系统了，这里其实涉及到很专业的问题。从内容上来说，内容应该分为三种，文字，图形，语言。在文字上来说，国内图书有中图法，国外有亚马逊分类法，高斯分类等。所以设计分类的时候，可以根据这些分类方法，给文字内容进行分类。有时候，因为文字与人相关，所以一般也会打一些个性化的标签。文字一般采用分类加标签的模式进行分类。

图片，这个没有什么专门的分类，目前大家都是给打标签。而且毕竟扁平化，都是一级标签加多个标签就可以了。

语音就涉及两种了，音频和视频。不过语音一般也是采用一个层级的分类模式。遵循的原则一般都是：什么人在什么地方做了什么事情。其实这句话基本上概括出来内容的本质，就是表达什么人在什么地方做了什么事情的。这才称之为内容。在视频上，根据内容不同，可能会有大的分类。比如：电视剧，电影，综艺。每个分类的格式不同。同时，也有可能是产生垂直分类，比如：音乐，歌舞，脱口秀等。这些是根据内容的不同，产生的不同分类。但是本质上吧，语音和图片相同，没有标准的 格式，基本上就是一个分类+一个标签系统。来对于内容进行分类，之后进而进行分发。目前一点资讯、今日头条什么的，也都是这么一个套路吧。

在这里设计系统的时候，需要注意的是：分类的不同，在使用上注意用户使用的易用性。不要搞一个系统出来，满足功能了，难用 的要死。这些也是不合理的。其他方面，可能内容因为有专业不专业之分，可能也需要有分发机制。这个就比较不同了，根据资源的不同，人员配置的不同，设计一套合理的分发机制就可以了。

其实如果真的 设计的一个内容审核系统，我觉得我那两张图就差不多了。

蜗牛道长

2017-04-17

关键字：产品经理, 产品设计, 审核

本文来自互联网用户投稿，文章观点仅代表作者本人，不代表本站立场，不承担相关法律责任。如若转载，请注明出处。 如若内容造成侵权/违法违规/事实不符，请点击【内容举报】进行投诉反馈！