摘要： 简述 在文本语义相似度等句子对的回归任务上，BERT , RoBERTa 拿到sota。 但是，它要求两个句子都被输入到网络中，从而导致巨大开销：从10000个句子集合中找到最相似的sentence-pair需要进行大约5000万个推理计算（约65小时）。 BERT不适合语义相似度搜索，也不适合非监 阅读全文

摘要： 1. 自然地使用[CLS] 2. cosine similairity 3. 长短文本的区别 4. sentence/word embedding 5. siamese network 方式 1. 自然地使用[CLS] BERT可以很好的解决sentence-level的建模问题，它包含叫做Next 阅读全文

摘要： 更新中 更新时间：2019-12-06 17:43:27 实验需要，在自己学习的过程中做如下笔记，欢迎指正，欢迎交流。 1. ERNIE简述 ERNIE和BERT一样，也是基于transformer来做，但最重要的不同点是：bert对word做mask，而ernie对命名实体和短语做mask，捕捉更 阅读全文

摘要： 值得看： 刘铁岩老师的《Learning to Rank for Information Retrieval》和李航老师的《Learning to rank for information retrieval and natural language processing》 https://blog 阅读全文

摘要： argparse用法总结 https://blog.csdn.net/qq_24551305/article/details/90155858 args = parse.parse_args()parse.add_argument('-a', '--abc', help='a sourcedir', 阅读全文

摘要： 第一种方案（90%情况下，大部分帖子都是这个）一般报错到代码都是自己写到代码，代码上添加 import sysreload(sys)sys.setdefaultencoding('utf-8') 第二种方案，引用到包出现错误在python的lib\site-packages文件夹下新建一个sitec 阅读全文

摘要： 更新中 更新时间： 2019-12-03 18:29:52 写在前面： 本人是喜欢这个方向的学生一枚，写文的目的意在记录自己所学，梳理自己的思路，同时share给在这个方向上一起努力的同学。写得不够专业的地方望批评指正，欢迎感兴趣的同学一起交流进步。 （参考文献在第四部分，侵删） 一、背景 二、基本 阅读全文

摘要： 给python程序传递参数 运行python脚本时有时需要执行实传递参数 在linux下： [root@Test ~]# cat /opt/python.py #!/usr/local/bin/python # -*- coding:utf-8 -*- import sys print(sys.ar 阅读全文

摘要： 最近在实现python接口中遇到了一些小问题，解决后总结如下。 目的：在设计接口时，只暴露某个文件的特定方法。 例如： t.py import os import sys def a(): pass def b(): pass def c(): pass 假设我们要开发的插件名为Shona，如果我们 阅读全文

摘要： 1. 定义对话系统 2. 富集数据资源 3. 搭建系统、训练、评估和调优 代码工程实现 第三方工具实现 4. 系统接入：全渠道API接入 切换人工的过渡；通过用户的评价进一步优化系统。 5. 运营迭代 总结： 介绍一下百度的UNIT。 阅读全文