认真积累每一天

摘要： 实际场景： 网站的用户发了一些帖子S1, S2,...，网站就要审核一下这些帖子里有没有敏感词。 1. 如果网站想查一下帖子里有没有一个敏感词P，这个文本匹配要怎么做更快？ 2. 如果网站想查一下帖子里有没有敏感词P1, P2,...，这个文本匹配要怎么做更快？ 单模匹配与多模匹配 从以上的实际场景 阅读全文

摘要： 1. 暴力求解 如下图所示。蓝色的小三角表示和sequence比较时的开始字符，绿色小三角表示失败后模式串比对的开始字符，红色框表示当前比较的字符对。 当和模式串发生不匹配时，蓝色小三角后移一位，绿色小三角移到模式串的第0位。 如果sequence长度为m, pattern长度为n，暴力求解的时间复 阅读全文

摘要： 1. shell 的派生 用户登录到Linux系统后，系统将启动一个用户shell。在这个shell中，可以使用shell命令, 或声明变量，也可以创建并运行shell脚本程序。运行shell脚本程序时，系统将创建一个子shell。 此时，系统中将有两个shell，一个是登录时系统启动的shell， 阅读全文

摘要： 1. Overview Adaptive softmax算法在链接1中的论文中提出，该算法目的是为了提高softmax函数的运算效率，适用于一些具有非常大词汇量的神经网络。 在NLP的大部分任务中，都会用到softmax,但是对于词汇量非常大的任务，每次进行完全的softmax会有非常大的计算量，很 阅读全文

摘要： 有近2个月没有更新博客，主要精力放在了投递会议论文和秋招找工作方面。这里简单总结一下秋招面试的几点建议和感受。 投递的主要是NLP算法工程师岗位，主要参加过面试的公司有腾讯(春招)，蚂蚁金服(春招)，追一科技，猿辅导，作业帮，依图科技，京东、拼多多、星图科技、明略科技、还有工商银行(校内宣讲面试，银 阅读全文

摘要： 1. 非递归遍历二叉树算法 (使用stack) 以非递归方式对二叉树进行遍历的算法需要借助一个栈来存放访问过得节点。 (1) 前序遍历 从整棵树的根节点开始，对于任意节点V，访问节点V并将节点V入栈，并判断节点V的左子节点L是否为空。若L不为空，则将L置为当前节点V；若L为空，则取出栈顶节点，并将栈 阅读全文

摘要： 1. Motivation 在Transformer-XL中，由于设计了segments，如果仍采用transformer模型中的绝对位置编码的话，将不能区分处不同segments内同样相对位置的词的先后顺序。 比如对于$segment_i$的第k个token，和$segment_j$的第k个tok 阅读全文

摘要： 简介 之前参与过114对话系统的项目，中间搁置很久，现在把之前做过的内容整理一下，一是为自己回顾，二是也希望分享自己看的内容，中间也遇到一些问题，如果您可以提一些建议将不胜感激. 114查询主要分为4个任务，该对话系统希望通过构建神经网络学习模型，以实现将传统的需要接线员回复用户问题的方式，转换为可 阅读全文

摘要： 1. Overview 本文将CNN用于句子分类任务 (1) 使用静态vector + CNN即可取得很好的效果；=> 这表明预训练的vector是universal的特征提取器，可以被用于多种分类任务中。 (2) 根据特定任务进行fine-tuning 的vector + CNN 取得了更好的效果 阅读全文

摘要： PyTorch Hook¶ 为什么要引入hook? -> hook可以做什么？ 都有哪些hook? 如何使用hook? 1. 为什么引入hook?¶ 参考：Pytorch中autograd以及hook函数详解 在pytorch中的自动求梯度机制(Autograd mechanics)中，如果将ten 阅读全文