中文脏话识别的解决方案

本文来自网易云社区


要识别,先定义脏话的概念。谩骂、人身攻击等粗俗语言均可定义为脏话。这类内容如果频繁出现在社区、产品评论中,对产品氛围的维护有相当大的负面影响。


网易云安全(易盾)将这类内容统称为“谩骂”,也是垃圾内容的一个类别。识别方案包含以下几种:

1)关键词识别:中文谩骂内容常出现的类目,易盾已覆盖了绝大部分,积累了大量的垃圾样本,涵盖了目前常出现的垃圾内容,可以准确识别;

2)模型识别:将谩骂样本加入训练库,提取相同特征,由模型对文本进行识别。模型也将随模型的训练提高精度。语义识别算法可以精确识别语义,可以根据上下文内容进行语义识别,防止仅依靠关键词而造成的的误判漏判。


网易云安全(易盾)是网易云旗下一站式云安全服务,有此需要者可点击免费试用


相关文章:
【推荐】 一个只有十行的精简MVVM框架

posted @ 2018-09-13 14:51  tianshidan1998  阅读(827)  评论(0编辑  收藏  举报