cup_leo

摘要： Transformer改进了RNN最被人诟病的训练慢的缺点，利用self-attention机制实现快速并行。 它是由编码组件、解码组件和它们之间的连接组成。 编码组件部分由一堆编码器（6个 encoder）构成。解码组件部分也是由相同数量（与编码器对应）的解码器（decoder）组成的。 所有的编 阅读全文

摘要： 逻辑回归是假设数据服从独立且服从伯努利分布，多用于二分类场景，应用极大似然估计构造损失函数，并使用梯度下降法对参数进行估计。 阅读全文

摘要： 1. Gradient boosting(GB) Gradient boosting的思想是迭代生多个（M个）弱的模型，然后将每个弱模型的预测结果相加，后面的模型Fm+1(x)基于前面学习模型的Fm(x)的效果生成的，关系如下： 实际中往往是基于loss Function 在函数空间的的负梯度学习， 阅读全文

摘要： https://www.cnblogs.com/ZhangRuoXu/p/6370107.html https://blog.csdn.net/tianguiyuyu/article/details/80689213 阅读全文

摘要： 首先，操作之前一定要看清分支！！ 其次，提交代码之前一定要先更新代码！！ git branch 查看当前分支 git pull 更新代码到本地 提交代码： 1、在本地修改相应文件（或者文件新旧替换） 2、git add **/**/文件名 （文件修改路径） （注意路径要写对） 3、git statu 阅读全文

摘要： http://www.zhuzongkui.top/2018/08/10/competition-summary/ https://blog.csdn.net/qq_27009517/article/details/86570537 阅读全文

摘要： TextRCNN 文本分类 阅读笔记 论文：recurrent convolutional neural networks for text classification 代码（tensorflow）：https://github.com/roomylee/rcnn-text-classificat 阅读全文

摘要： 1、计算两个句子相似度，句子表征（工业界效果较好） 参考：https://www.zhihu.com/question/29978268/answer/55338644?utm_source=wechat_session&utm_medium=social&utm_oi=79530219802319 阅读全文

摘要： Step1：建一个hook Step2：加到estimator.train里 阅读全文

摘要： Bert系列（一）——demo运行 Bert系列（二）——模型主体源码解读 Bert系列（三）——源码解读之Pre-trainBert系列（四）——源码解读之Fine-tune 转载自： https://www.jianshu.com/p/3d0bb34c488a [NLP自然语言处理]谷歌BERT 阅读全文