已有风控策略的质量指标

召回率

准确率

最终得出的结论：

1. 风险较低，或收益显著大于风险，暂时不需要治理，并保持观察
2. 风险较高，原来不打，现在需要打，或原来打得松，现在需要严打

决定要打以后，就可以开始进行内容生态策略设计了 。
2. 治理策略三步走第1步
定义治理对象，基于用户特征、内容场景特征等，给出治理对象的具体定义和机器/人工可执行的规则 。
当我们得出初步的治理方向后，落地执行的第一步就是基于社区内容现状的分析，定义及刻画治理的对象 。比如要对社区“侮辱谩骂”评论进行治理，分析步骤如下：

1. 取出社区内过去n天，可能存在侮辱谩骂内容的评论内容、用户id、评论点赞次数、评论曝光次数 。
2. 从总体n条数据中简单随机抽样，使每个可能的样本被抽中的概率相等 。
3. 对每条样本标注特征标签、有害程度 。标记前，需要制定标注规则，确保判断维度一致，如果对内容比较陌生，标记时尽可能用细致的标签，标记完成后可以进行同类项合并 。
4. 汇总标注结果并得出结论 。将各类标签照合理的逻辑框架整理汇总，综合影响面、风险情况确定优先级，作为接下来的策略依据 。对于侮辱谩骂来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预 。

第2步
针对不同程度的内容，制定干预规则，内容对社区伤害的程度（也就是风险）决定干预规则 。
有了干预规则，就可以结合平台已有的策略手段设计实现方式了 。

1. 在线策略：事前识别内容及用户，实时召回进行干预，比如对内容进行发布干预，命中某些特征直接禁发，或进行流量干预，比如调整推荐策略、对内容限制分发或删除自见，还可以对用户权限进行干预，某些喜欢发布这些内容的用户直接限流或禁止发布新内容
2. 离线策略：事后结合历史数据进行干预，比如内容被干预n次后，升级为用户权限 。

对于侮辱谩骂内容来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预 。在实际情况中，需要根据社区的生态特征穷举可能出现内容类型和特征，下表仅作为简单示例：

文章插图
百度贴吧还曾对“傻逼”进行过精细地治理，一开始“傻逼”被设成禁发词，后来很多人都爱用 “伞兵”指代“傻逼”，官媒发文说了请不要污名化伞兵 。为了避免网友又演化出其他词替代，带来不可预估的风险，百度不再简单粗暴地对“伞兵”进行屏蔽，而是把“傻逼”两个字放开，输入傻逼可以直接发布，但是发送后会自动被这张图代替，也算是业界清流了 。

文章插图
第3步
上线后复盘效果，验证治理策略是否解决问题，如果有解决，有没有进一步优化空间、有没有引入新的问题，优化/解决手段是什么，如果没有解决，分析为什么，以及如果要达到目标，接下来要做什么 。
确定问题及后续做法时，同样也从第一步走进行，如果某类内容特征出现演变、或者曝光量、风险出现变化，则需要调整对应的策略 。
下一篇文章，我会用具体的案例来讲解这三步走的实际运用，比如小红书“照骗”如何治理、非原创视频如何治理等 。欢迎同行留言一起讨论～

• 如何改善儿童视力 发现孩子近视后怎么办
• 小儿发烧的物理降温方法 如何处理宝宝发烧
• 运营人如何快速打造高转化能力团队？
• 三店一体，如何撬动餐饮店私域增长？
• 私域复购38%，每日黑巧是如何在巨头的垄断下做到全网第1的？
• 平台如何通过“场景导购”实现货找人，实现精益增长？
• 怀孕第一个月会有什么症状 如何才能得知自己怀孕了呢
• 2021微信私域生态，是否还能进场布局？
• 新团队该如何入局私域电商？
• 如何做好一个活动策划？