第三方内容审核平台,第三方内容审核平台功能简介?( 二 )


账号角色配置:针对系统的操作人员 , 配置不同的角色范围和业务范围 。比如某审核员只能审核业务ABC对应的内容 , 此处可以进行配置 。
参数配置:系统产品规则的一些灵活配置项 。
②内容模块
设计的时候是按照漏斗设计了两个池子 , 一个是机审池 , 另一个是机审完如果需要人审进入人审的池子 。尽管两个数据池内容有所差异 , 但具体的展示并无明显差异 。都包括:
(2)数据报表
数据报表部分主要是对审核内容进行统计 , 可以进行后续的算法优化或者人员审核效率的考量标准 。
以上就是基于第三方服务 , 公司内部的审核中台搭建的具体实例 。
三、业务如何对接审核拿做过的评论审核进行举例 。
我们公司的审核之前是没有接入内容审核的 , 都是审核员全部过一遍 。后来由于量逐渐起来以后 , 业务方要求接入内容审核 。
于是我在思考如何基于现有业务和内容审核系统进行融合 , 使现在的系统变化最小 , 同时完成业务方的审核要求 。举个简单的审核流程图为例:

第三方内容审核平台,第三方内容审核平台功能简介?

文章插图
图3:评论审核流程图
总的来说 , 就是要:
确定这个业务 , 是先发后审 , 还是先审后发 。考虑到用户评论是个实时操作 , 所以做的是先发后审 。
是否需要进行机审或者人审 , 审核策略是什么样的 。因业务团队要求 , 我们的评论机审过后 , 还需要进入人审 。如果 N分钟没有拿到机审结果 , 评论按照机审通过进行处理 , 后续进行人审复审 。
当拿到机审结果后 , 业务系统就可以对评论进行操作了 , 比如说评论回复等 。此处不再赘述业务系统对评论本身的操作功能 。
业务系统是否反复接收审核处理 。比如说评论 , 会对机审和人审同时响应并修改评论状态 , 业务系统也必须在拿到机审结果以后再对评论进行后续操作 。诸如此类也都是业务系统接入内容审核系统时需要说明的 。
好了 , 这篇文章的内容蜀川号就和大家分享到这里!