随笔分类 - 机器学习
摘要：隐马尔可夫模型（HMM，hidden Markov model）是可用于标注问题的统计学模型，描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。HMM模型主要用于语音识别，自然语言处理，生物信息，模式识别等领域。 引入 某天，你的女神告诉你说，她放假三天，将要去上海游玩，准备去欢乐谷、迪士
阅读全文
posted @ 2019-02-14 15:22
飞末
摘要：1. 什么是激活函数 在神经网络中，我们经常可以看到对于某一个隐藏层的节点，该节点的激活值计算一般分为两步： （1）输入该节点的值为 x1,x2x1,x2 时，在进入这个隐藏节点后，会先进行一个线性变换，计算出值 上标 1表示第 1 层隐藏层。 2. 常用的激活函数 在深度学习中，常用的激活函数主要
阅读全文
posted @ 2018-11-13 14:27
飞末
摘要：在这里主要讨论两种归一化方法： 1、线性函数归一化(Min-Max scaling) 线性函数将原始数据线性化的方法转换到[0 1]的范围，归一化公式如下： 该方法实现对原始数据的等比例缩放，其中Xnorm为归一化后的数据，X为原始数据，Xmax、Xmin分别为原始数据集的最大值和最小值。 pyth
阅读全文
posted @ 2018-10-28 19:57
飞末
摘要：传统的机器学习任务从开始到建模的一般流程是：获取数据 -> 数据预处理 -> 训练建模 -> 模型评估 -> 预测，分类。 1. 获取数据 1.1 导入sklearn数据集 sklearn中包含了大量的优质的数据集，在你学习机器学习的过程中，你可以通过使用这些数据集实现出不同的模型，从而提高你的动手
阅读全文
posted @ 2018-10-18 13:56
飞末
摘要：一、概述 我们知道，机器学习的特点就是：以计算机为工具和平台，以数据为研究对象，以学习方法为中心；是概率论、线性代数、数值计算、信息论、最优化理论和计算机科学等多个领域的交叉学科。所以本文就先介绍一下机器学习涉及到的一些最常用的的数学知识。 二、线性代数 2-1、标量 一个标量就是一个单独的数，一般
阅读全文
posted @ 2018-07-03 16:24
飞末
摘要：一、softmax函数 softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！ 假设我们有一个数组，V，Vi表示V中的第i个元素，那么这个元素的softmax值就是 更形象的如下图表示： softmax直白来说就是将原来输出是3,1,-3
阅读全文
posted @ 2018-04-17 16:49
飞末
摘要：交叉熵代价函数与二次代价函数 交叉熵代价函数（Cross-entropy cost function）是用来衡量人工神经网络（ANN）的预测值与实际值的一种方式。与二次代价函数相比，它能更有效地促进ANN的训练。在介绍交叉熵代价函数之前，本文先简要介绍二次代价函数，以及其存在的不足。 1. 二次代价
阅读全文
posted @ 2018-04-17 16:16
飞末
摘要：文本数据预处理，包括文档切分、文本分词、去停用词（包括标点、数字、单字和其它一些无意义的词）、文本特征提取、词频统计、文本向量化等操作。 1.文档切分 文档切分这个操作是可选的，取决于你获取到的文档集合的形式。如果你得到的文档集合本身就是一篇一篇文章分开的，那么这一步就可以省略了。反之，如果文档集合
阅读全文
posted @ 2018-02-23 17:18
飞末
摘要：1、word2vec 耳熟能详的NLP向量化模型。 Paper: https://papers.nips.cc/paper/5021-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf Jav
阅读全文
posted @ 2017-12-11 10:32
飞末
摘要：循环神经网络(RNN) 人们的每次思考并不都是从零开始的。比如说你在阅读这篇文章时，你基于对前面的文字的理解来理解你目前阅读到的文字，而不是每读到一个文字时，都抛弃掉前面的思考，从头开始。你的记忆是有持久性的。 传统的神经网络并不能如此，这似乎是一个主要的缺点。例如，假设你在看一场电影，你想对电影里
阅读全文
posted @ 2017-12-04 11:25
飞末
摘要：一、直接python安装 1.CPU版本: pip3 install --upgrade tensorflow 2.GPU版本:pip3 install --upgrade tensorflow-gpu 一般学习推荐安装CPU版本，GPU版本有一些前置条件 二、Anaconda安装 1.安装Anac
阅读全文
posted @ 2017-12-01 09:48
飞末
摘要：1.简单实例：向量相加 下面我们通过两个向量相加的简单例子来看一下Tensorflow的基本用法。 import tensorflow as tf with tf.Session(): input1 = tf.constant([1.0 1.0 1.0 1.0]) input2 = tf.const
阅读全文
posted @ 2017-11-24 16:30
飞末
浙公网安备 33010602011771号