人工智站

摘要： "1. 语言模型" "2. Attention Is All You Need（Transformer）算法原理解析" "3. ELMo算法原理解析" "4. OpenAI GPT算法原理解析" "5. BERT算法原理解析" "6. 从Encoder Decoder(Seq2Seq)理解Atten 阅读全文

摘要： 1. 前言 今天我们介绍机器学习里面大名鼎鼎的逻辑回归。不要看他的名字里面有“回归”，但是它其实是个分类算法。它取名逻辑回归主要是因为是从线性回归转变而来的。 2.逻辑回归原理 2.1 逻辑回归的由来 不知道读者还记不记得在线性回归中有一节 "广义线性回归" 介绍了在$Y=Xθ$的基础上对$Y$进行 阅读全文

摘要： 1. 前言 今天我们聊一聊机器学习和深度学习里面都至关重要的一个环节，优化损失函数。我们知道一个模型只有损失函数收敛到了一定的值，才有可能会有好的结果，降低损失方式的工作就是优化方法需要做的事。下面会讨论一些常用的优化方法：梯度下降法家族、牛顿法、拟牛顿法、共轭梯度法、Momentum、Nester 阅读全文

摘要： "1. 文本相似度计算 文本向量化" "2. 文本相似度计算 距离的度量" "3. 文本相似度计算 DSSM算法" "4. 文本相似度计算 CNN DSSM算法" 1. 前言 最近在学习文本相似度的计算，前面两篇文章分别介绍了 "文本的向量化" 和 "文本的距离度量" ，这两篇文章的思路主要在机器学 阅读全文

摘要： "1. 文本相似度计算 文本向量化" "2. 文本相似度计算 距离的度量" "3. 文本相似度计算 DSSM算法" "4. 文本相似度计算 CNN DSSM算法" 1. 前言 上文介绍了文本的向量化处理，本文是在上文的向量化处理后的数据进行距离的计算。距离度量的方式有多种多样，但是一种相似度计算方式 阅读全文

摘要： "1. 文本相似度计算 文本向量化" "2. 文本相似度计算 距离的度量" "3. 文本相似度计算 DSSM算法" "4. 文本相似度计算 CNN DSSM算法" 1.前言 在自然语言处理过程中，经常会涉及到如何度量两个文本之间的相似性，我们都知道文本是一种高维的语义空间，如何对其进行抽象分解，从而 阅读全文

摘要： 1. 前言 线性回归形式简单、易于建模，但却蕴涵着机器学习中一些重要的基本思想。许多功能更为强大的非线性模型(nonlinear model)可在线性模型的基础上通过引入层级结构或高维映射而得。此外，由于线性回归的解$\theta$直观表达了各属性在预测中的重要性，因此线性回归有很好的可解释性。 2 阅读全文

摘要： 1. 前言 自然语言处理(NLP)是机器学习，人工智能中的一个重要领域。文本表达是 NLP中的基础技术，文本分类则是 NLP 的重要应用。 fasttext是facebook开源的一个词向量与文本分类工具，在2016年开源，典型应用场景是“带监督的文本分类问题” 。提供简单而高效的文本分类和表征学习 阅读全文

摘要： "1. 决策树（Decision Tree） 决策树原理" "2. 决策树（Decision Tree） ID3、C4.5、CART比较" 1. 前言 上文 "决策树（Decision Tree）1 决策树原理" 介绍了决策树原理和算法，并且涉及了ID3，C4.5，CART3个决策树算法。现在大部分 阅读全文

摘要： "1. 决策树（Decision Tree） 决策树原理" "2. 决策树（Decision Tree） ID3、C4.5、CART比较" 1. 前言 决策树是一种 基本的分类和回归方法 。决策树呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if then规则的集合，也可以 阅读全文