关于jieba用户自定义字典的一点使用说明

jieba的用户自定义分词字典能够有效提升任务性能,必不可少。

在此之前,一直使用"user_dict.txt"为“txt”后缀的加载方式:

jieba.load_userdict("./user_dict.txt")

但是当前为了保存加密需求,必须要对txt数据做序列化操作,起到一定的加密作用。通过源码观察,jieba使用的是“wb”读取二进制流,所以解救能够直接读取以pickle封装的“user_dict.pkl”数据

jieba.load_userdict("./user_dict.pkl")

经过本人实验发现,以上结果都能够达到同样的分词效果

posted @ 2020-04-26 15:11  今夜无风  阅读(2980)  评论(0编辑  收藏  举报