摘要: 理论基础---梯度下降法是机器学习中常用的优化方法,其理论基础是当θs-θ→0时会有:> J(θs) ≈ J(θ)+▽(θ)(θs-θ)因此当我们这样更新θs,并保证α>0且足够小时:> θs+1 = θs - α▽(θs)则会有:> J(θs+1) ≈ J(θs)+▽(θs)(θs+1-θs)≈ ... 阅读全文
posted @ 2015-03-24 22:35 bgmind 阅读(189) 评论(0) 推荐(0) 编辑
摘要: 支持向量机(SVM)是当前非常流行的监督学习方法,其核心主要有两个:1. 构造一个**极大边距分离器**——与样例点具有最大可能距离的决策边界;2. 将在原输入空间中线性不可分的样例映射到高维空间中,从而进行线性分离。并且使用**核技巧**来避免高维度空间的运算所带来的巨大时间复杂度。#极大边距分离... 阅读全文
posted @ 2015-02-28 16:28 bgmind 阅读(1333) 评论(0) 推荐(0) 编辑
摘要: Adaboost是一种组合学习的提升算法,能将多个弱学习算法(甚至只比随机猜测好一点)组合起来,构成一个足够强大的学习模型。#组合学习组合学习是将多个假说组合起来,并集成它们的预测。比如对于一个问题,我们可以生成20棵决策树,让它们对新样例的分类进行预测,最后通过投票决定最终的预测。这样可以有效的降... 阅读全文
posted @ 2015-02-26 17:12 bgmind 阅读(1034) 评论(0) 推荐(1) 编辑
摘要: 人工神经网络由一系列神经元组成:![](http://images.cnitblog.com/blog/667949/201502/251731183773137.png)每个神经元都代表了一个特定的线性函数:![](http://images.cnitblog.com/blog/667949/20... 阅读全文
posted @ 2015-02-25 17:34 bgmind 阅读(1948) 评论(3) 推荐(2) 编辑
摘要: ![](http://images.cnitblog.com/blog/667949/201502/241731277216702.jpg)决策树是一个函数,以属性值向量作为输入,返回一个“决策”。如上图,我们输入一系列属性值(天气状况,湿度,有无风)后会得到一个要不要出去玩的一个决策。#从样例构建... 阅读全文
posted @ 2015-02-24 17:32 bgmind 阅读(2577) 评论(0) 推荐(1) 编辑
摘要: 在局部搜索算法中,我们不再关心从初始节点到目标节点之间的路径,而是考虑从当前节点出发,移动到它的邻近状态,直到到达合理的目标状态。相比于前面所说的无信息搜索算法和有信息搜索算法,局部搜索算法往往能以常数的空间复杂度(不用保存路径)在很大甚至无限的状态空间中找到合理解。#爬山法爬山法不断向值增加的... 阅读全文
posted @ 2015-02-23 17:33 bgmind 阅读(4249) 评论(0) 推荐(0) 编辑
摘要: 人工智能中的搜索策略大体分为两种:无信息搜索和有信息搜索。无信息搜索是指我们不知道接下来要搜索的状态哪一个更加接近目标的搜索策略,因此也常被成为盲目搜索;而有信息搜索则是用启发函数f(n)来衡量哪一个状态更加接近目标状态,并优先对该状态进行搜索,因此与无信息搜索相比往往能够更加高效得解决问题。 ... 阅读全文
posted @ 2015-01-28 21:05 bgmind 阅读(7713) 评论(0) 推荐(2) 编辑
摘要: 什么是PPA?---PPA(Personal Package Archive)相当于一个软件仓库,与Windows在网上随意抓取EXE安装包不同,PPA里面的软件都是经过审核的。如何添加PPA?---```sudo add-apt-repository ppa:fcitx-team/nightlys... 阅读全文
posted @ 2014-11-27 22:31 bgmind 阅读(233) 评论(0) 推荐(0) 编辑
摘要: # next_permutation()--遍历全排列---```template bool next_permutation (BidirectionalIterator first, BidirectionalIterator last);te... 阅读全文
posted @ 2014-10-12 22:46 bgmind 阅读(234) 评论(0) 推荐(0) 编辑
摘要: # 栈的应用--中序表达式转后序表达式---> infix : `a+b*c+(d*e+f)*g`> postfix : `abc*+de*f+g*+`有以下四种情况:1. 操作数->直接输出2. 操作符->将栈顶输出,直到栈顶优先级小于该操作符,最后把该操作符压入栈3. '(' ->入栈4. ')... 阅读全文
posted @ 2014-09-24 09:10 bgmind 阅读(2317) 评论(1) 推荐(0) 编辑