编辑导读：做社区产品的，避免不了要对社区内的生态进行管理，对社区不良内容进行干预。那么，如何治理内容生态呢？本文作者对此进行了分析，希望对你有帮助。
一、内容生态治理是什么
内容生态治理一般是指对社区不良内容进行干预。
国家互联网信息办公室于2019年12月15日发布将“网络信息内容生态治理”定义为，政府、企业、社会、网民等主体，以培育和践行社会主义核心价值观为根本，以网络信息内容为主要治理对象，以建立健全网络综合治理体系、营造清朗的网络空间、建设良好的网络生态为目标，开展的弘扬正能量、处置违法和不良信息等相关活动。并要求网络信息内容生产者应当采取措施，防范和抵制各类不良信息，营造良好网络生态。
内容生态治理源于内容演变速度与社区管控能力存在的冲突。如果社区内容是稳定不变的，那么只需要一套固定的管控能力，不需要长期地治理。这也就是为啥随着社区内容的丰富，各家企业开始重视生态治理、内容风控业务，大量招人的原因。
内容生态治理负责平衡内容质量与业务规模存在冲突。社区需要优质内容和优质用户，而优质内容和优质用户是稀缺的，且很难被大众理解的。为了迎合不那么优质的，但能给社区带来大量dua、gmv的用户，社区原本定义的优质内容也会变成不良内容，比如知乎一开始只是针对特定有影响力的作者开放，后来开始削弱大V点赞订阅不再推送给所有粉丝，某些有理有据的文章会出现“争议较大的观点”提示，比如小红书最近的“照骗”事件，博主上传精心拍摄、后期的优质内容原本是一件双赢的事，博主收获了粉丝和变现，平台也收获了用户和广告分成，但依然会有用户觉得被骗了，小红书肯定马上会对“照骗”内容进行一波生态治理。
二、具体怎么做
1. 判断内容是否要治理
生态治理有2大来源，一种是外部倒逼的，一种是内部自发的。不同的来源的紧急程度、判断方式不同。
外部倒逼的治理：指令、舆情
1）指令
指令有两种，第一种是国家部门公开发布的清查、政治指令。这类指令一般描述得较为抽象和宽泛，需要专业的政府关系部门和风控部门共同进行研判解读后，基于平台定位制定具体的执行范围和方向。
比如：6月15日，中央网信办宣布在全国范围内开展“清朗·‘饭圈’乱象整治”专项行动。豆瓣开始对违规账号、问题小组等进行删除和解散，爱奇艺对集资、打榜彻底“自查自纠”。
另一种是国家部门直接给企业下达的查杀的指令，比如互联网举报中心收到xx举报，命令平台处理，这类指令必须执行。
2）舆情
舆情一般指用户或媒体在站外对平台出现的内容进行负面评价，并达到一定传播量，如果不及时处理，可能对平台品牌形象、声誉有恶劣影响。官媒发出的负面评价，严肃程度不亚于指令。
比如：9月末，《新京报》和《央视网》等多家媒体报道了社交媒体的“佛媛”现象，一时间上了热搜。各个社区在第一时间进行了清查，抖音共处罚利用“佛媛”形象营造人设开展虚假营销行为相关帐号48个，其中永久封禁帐号7个，同时，清理违规视频148条。小红书第一时间已启动专项检查，清理违规笔记70篇，封禁账号3个。
10月，很多人假期出游后，在社交网络上吐槽小红书“滤镜景点”，一时冲上了热搜，之后小红书进行了公开道歉。
对于外部倒逼的指令、舆情，一般由企业内专业的公关部门，政府关系部门进行快速交涉和判断，给出应对措施到各个部门执行落地，进行生态治理是其中必备的措施之一。
内部自发的治理：监测到平台内容风险上升
日常观察社区整体内容风险的监控数据，以及定期对社区内容的抽样摸底，及时发现风险的变化。风险上升主要体现为：
- 用户负反馈上涨，某类内容被集中举报投诉或不感兴趣，有演化成外部舆情的趋势。
- 内容特征升级，需要在原有治理策略的基础上进行迭代，比如一开始大家喜欢在简介里导流微信，发现容易被平台和谐，后来大家发现还可以通过多个视频封面连在一起导流微信。
- 内容影响变大，之前只有个别人喜欢这么玩，突然很多人这么玩，比如剧本卖货一开始是头部主播在玩，大家还觉得新鲜，但后来模仿者越来越多，影响了业务指标（比如观众浏览直播的时长变低、退货率变高等），于是平台开始进行干涉。
比起外部舆情指令，这类内部监测到的风险变动，有更充足的时间来进行判断分析，所以需要进一步通过数据分析该内容的实际风险情况来做决策。一般使用以下指标：
风险衡量指标：
- 该内容在整个社区的浏览（vv）占比
- 该内容引发的举报投诉、舆情等
收益衡量指标：
- 该内容为平台带来的营收（广告营收、gmv营收、打赏营收）、对应作者的粉丝量等
- 已有风控策略的质量指标
- 召回率
- 准确率
最终得出的结论：
- 风险较低，或收益显著大于风险，暂时不需要治理，并保持观察
- 风险较高，原来不打，现在需要打，或原来打得松，现在需要严打
决定要打以后，就可以开始进行内容生态策略设计了。
2. 治理策略三步走
第1步
定义治理对象，基于用户特征、内容场景特征等，给出治理对象的具体定义和机器/人工可执行的规则。
当我们得出初步的治理方向后，落地执行的第一步就是基于社区内容现状的分析，定义及刻画治理的对象。比如要对社区“侮辱谩骂”评论进行治理，分析步骤如下：
- 取出社区内过去n天，可能存在侮辱谩骂内容的评论内容、用户id、评论点赞次数、评论曝光次数。
- 从总体n条数据中简单随机抽样，使每个可能的样本被抽中的概率相等。
- 对每条样本标注特征标签、有害程度。标记前，需要制定标注规则，确保判断维度一致，如果对内容比较陌生，标记时尽可能用细致的标签，标记完成后可以进行同类项合并。
- 汇总标注结果并得出结论。将各类标签照合理的逻辑框架整理汇总，综合影响面、风险情况确定优先级，作为接下来的策略依据。对于侮辱谩骂来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预。
第2步
针对不同程度的内容，制定干预规则，内容对社区伤害的程度（也就是风险）决定干预规则。
有了干预规则，就可以结合平台已有的策略手段设计实现方式了。
- 在线策略：事前识别内容及用户，实时召回进行干预，比如对内容进行发布干预，命中某些特征直接禁发，或进行流量干预，比如调整推荐策略、对内容限制分发或删除自见，还可以对用户权限进行干预，某些喜欢发布这些内容的用户直接限流或禁止发布新内容
- 离线策略：事后结合历史数据进行干预，比如内容被干预n次后，升级为用户权限。
对于侮辱谩骂内容来说，明确对他人进行人身攻击、引战的评论风险最高，需要进行治理，而脏话口头禅类风险较低，只需要保持观察或轻度干预。在实际情况中，需要根据社区的生态特征穷举可能出现内容类型和特征，下表仅作为简单示例：
百度贴吧还曾对“傻逼”进行过精细地治理，一开始“傻逼”被设成禁发词，后来很多人都爱用 “伞兵”指代“傻逼”，官媒发文说了请不要污名化伞兵。为了避免网友又演化出其他词替代，带来不可预估的风险，百度不再简单粗暴地对“伞兵”进行屏蔽，而是把“傻逼”两个字放开，输入傻逼可以直接发布，但是发送后会自动被这张图代替，也算是业界清流了。
第3步
上线后复盘效果，验证治理策略是否解决问题，如果有解决，有没有进一步优化空间、有没有引入新的问题，优化/解决手段是什么，如果没有解决，分析为什么，以及如果要达到目标，接下来要做什么。
确定问题及后续做法时，同样也从第一步走进行，如果某类内容特征出现演变、或者曝光量、风险出现变化，则需要调整对应的策略。
下一篇文章，我会用具体的案例来讲解这三步走的实际运用，比如小红书“照骗”如何治理、非原创视频如何治理等。欢迎同行留言一起讨论～