2021年1月20日
搜索笔记整理
摘要： 预训练&搜索 背景 传统的Term字面匹配无法处理语义相关性，例如“英语辅导”、“新东方” 发展 2013 word2vec 优点：通过无监督学习获得词向量 缺点：无法处理多义词，上下文无关 2018 ELMo 结构：双层双向RNN 优点：上下文相关，动态生成词向量 2017 transformer 阅读全文
posted @ 2021-01-20 10:13 致林 阅读(267) 评论(0) 推荐(0) 编辑