SVM支持向量机
摘要:支持向量机通俗导论(理解SVM的三层境界):https://blog.csdn.net/macyang/article/details/38782399/ 写的真的好。 以及:https://www.cnblogs.com/pinard/p/6097604.html
阅读全文
Apriori算法
摘要:Apriori算法是常用的用于挖掘出数据关联规则的算法,它用来找出数据值中频繁出现的数据集合,找出这些集合的模式有助于我们做一些决策。比如在常见的超市购物数据集,或者电商的网购数据集中,如果我们找到了频繁出现的数据集,那么对于超市,我们可以优化产品的位置摆放,对于电商,我们可以优化商品所在的仓库位置
阅读全文
Adaboost算法
摘要:博客1:https://www.cnblogs.com/pinard/p/6133937.html 博客2:https://blog.csdn.net/v_july_v/article/details/40718799
阅读全文
K-means聚类算法
摘要:K-means也是聚类算法中最简单的一种了,但是里面包含的思想却是不一般。最早我使用并实现这个算法是在学习韩爷爷那本数据挖掘的书中,那本书比较注重应用。看了Andrew Ng的这个讲义后才有些明白K-means后面包含的EM思想。 聚类属于无监督学习,以往的回归、朴素贝叶斯、SVM等都是有类别标签y
阅读全文
朴素贝叶斯
摘要:参考博客1:https://blog.csdn.net/AMDS123/article/details/70173402 参考博客2:https://blog.csdn.net/fisherming/article/details/79509025
阅读全文
EM最大期望算法
摘要:众所周知,极大似然估计是一种应用很广泛的参数估计方法。例如我手头有一些东北人的身高的数据,又知道身高的概率模型是高斯分布,那么利用极大化似然函数的方法可以估计出高斯分布的两个参数,均值和方差。这个方法基本上所有概率课本上都会讲,我这就不多说了,不清楚的请百度。 然而现在我面临的是这种情况,我手上的数
阅读全文
SVD奇异值分解
摘要:原文出处http://blog.csdn.net/zhongkejingwang/article/details/43053513
阅读全文
PCA主成分分析
摘要:原贴出处:http://blog.codinglabs.org/articles/pca-tutorial.html PCA(Principal Component Analysis)是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示,可用于提取数据的主要特征分量,
阅读全文
八.DBN深度置信网络
摘要:BP神经网络是1968年由Rumelhart和Mcclelland为首的科学家提出的概念,是一种按照误差反向传播算法进行训练的多层前馈神经网络,是目前应用比较广泛的一种神经网络结构。BP网络神经网络由输入层、隐藏层和输出层三部分构成,无论隐藏层是一层还是多层,只要是按照误差反向传播算法构建起来的网络
阅读全文
七.RBM受限玻尔兹曼机
摘要:1、受限玻尔兹曼机 玻尔兹曼机是一大类的神经网络模型,但是在实际应用中使用最多的则是受限玻尔兹曼机(RBM)。 受限玻尔兹曼机(RBM)是一个随机神经网络(即当网络的神经元节点被激活时会有随机行为,随机取值)。它包含一层可视层和一层隐藏层。在同一层的神经元之间是相互独立的,而在不同的网络层之间的神经
阅读全文
六.随机神经网络Boltzmann(玻尔兹曼机)
摘要:Hopfield网络具有最优计算功能,然而网络只能严格按照能量函数递减方式演化,很难避免伪状态的出现,且权值容易陷入局部极小值,无法收敛于全局最优解。 如果反馈神经网络的迭代过程不是那么死板,可以在一定程度上暂时接受能量函数变大的结果,就有可能跳出局部极小值。随机神经网络的核心思想就是在网络中加入概
阅读全文
二十公里法则
摘要:心理学上有个法则叫二十英里法则。该法则是由美国心理学家吉姆柯林斯提出的。 这个法则讲的是:从美国西海岸圣地亚哥到某个地方有三千英里的路程,这段路程地貌十分地复杂,而且经常会遭遇天气变化。每天该走多少英里才是一个合适的速度呢?答案是日行20英里,即每天走32公里。这样算一下,走完全程大概需要150天,
阅读全文
五.反馈(Hopfield)神经网络
摘要:前馈网络一般指前馈神经网络或前馈型神经网络。它是一种最简单的神经网络,各神经元分层排列。每个神经元只与前一层的神经元相连。接收前一层的输出,并输出给下一层,数据正想流动,输出仅由当前的输入和网络权值决定,各层间没有反馈。包括:单层感知器,线性神经网络,BP神经网络、RBF神经网络等。 递归神经网络(
阅读全文
四.径向基函数网络
摘要:BP神经网络是一种全局逼近网络,学习速度慢,本次介绍一种结构简单,收敛速度快,能够逼近任意非线性函数的网络——径向基函数网络。(Radial Basis Function, RBF)是根据生物神经元有局部响应的原理而将基函数引入到神经网络中。 为什么RBF网络学习收敛得比较快?当网络的一个或多个可调
阅读全文
KNN最近邻算法
摘要:算法概述 K最近邻(K-Nearest Neighbor,KNN)算法,是著名的模式识别统计学方法,在机器学习分类算法中占有相当大的地位。它是一个理论上比较成熟的方法。既是最简单的机器学习算法之一,也是基于实例的学习方法中最基本的,又是最好的文本分类算法之一。 基本思想 如果一个实例在特征空间中的K
阅读全文
三.BP神经网络
摘要:BP神经网络是包含多个隐含层的网络,具备处理线性不可分问题的能力。以往主要是没有适合多层神经网络的学习算法,,所以神经网络的研究一直处于低迷期。 20世纪80年代中期,Rumelhart,McClelland等成立了Parallel Distributed Procession(PDP)小组,提出了
阅读全文
二.线性神经网络
摘要:自适应线性元件20世纪50年代末由Widrow和Hoff提出,主要用于线性逼近一个函数式而进行模式联想以及信号滤波、预测、模型识别和控制等。 线性神经网络和感知器的区别是,感知器只能输出两种可能的值,而线性神经网络的输出可以取任意值。线性神经网络采用Widrow-Hoff学习规则,即LMS(Leas
阅读全文
一.单层感知器
摘要:单层感知器属于单层前向网络,即除输入层和输出层之外,只拥有一层神经元节点。 特点:输入数据从输入层经过隐藏层向输出层逐层传播,相邻两层的神经元之间相互连接,同一层的神经元之间没有连接。 感知器(perception)是由美国学者F.Rosenblatt提出的。与最早提出的MP模型不同,神经元突触权值
阅读全文
Pycharm使用教程
摘要:1、 Jetbrains家族和Pycharm版本划分: pycharm是Jetbrains家族中的一个明星产品,Jetbrains开发了许多好用的编辑器,包括Java编辑器(IntelliJ IDEA)、JavaScript编辑器(WebStorm)、PHP编辑器(PHPStorm)、Ruby编辑器
阅读全文
Python PEP8标准
摘要:1.编码 2.代码 3.空行 4.import语句 5.空格 在二元运算符两边各空一格:[=, - ,+ =, > , in , is ,not , and] 函数的参数列表中,","之后要有空格,默认值等号两边不要添加空格,左括号之后,右括号之前不要有空格 6.换行 python支持括号内的换行,
阅读全文
Ubuntu下安装程序的三种方法
摘要:在ubuntu当中,安装应用程序我所知道的有三种方法,分别是apt-get,dpkg安装deb和make install安装源码包三种。下面针对每一种方法各举例来说明。 apt-get方法 使用apt-get install来安装应用程序算是最常见的一种安装方法了,比如我要安装build-essen
阅读全文