摘要： batch梯度下降： 随机梯度下降： Mini-batch梯度下降： 阅读全文

摘要： Bisecting KMeans Bisecting KMeans算法的主要思想是：首先将所有点作为一个簇，然后将该簇一分为二，之后选择能最大限度降低聚类代价函数（也就是误差平方和）的簇划分为两个簇，以此进行下去，直到簇的数目等于用户给定的数目k为止。 Gaussian Mixture Model 阅读全文

摘要： Error = Bias^2 + Variance+Noise 误差的原因： 1.Bias反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度，即算法本身的拟合能力。 2.Variance反映的是模型每一次输出结果与模型输出期望之间的误差，即模型的稳定性。反应预测的波动情况。 3.噪声。 阅读全文

摘要： 在处理数据的时候偶尔会遇到特征维如下情况： 可以将other维中的以分号分隔的词转化为词向量的形式： 最终得到结果： 阅读全文

摘要： 在天池或者kaggle的比赛中，xgboost算法算是一大杀器，但在学习xgboost前先对gbdt和rf得有一个了解： GBDT思想：先用一个初始值来学习一棵决策树，叶子处可以得到预测的值，以及预测之后的残差，然后后面的决策树就要基于前面决策树的残差来学习，直到预测值和真实值的残差为零。最后对于测 阅读全文

摘要： 在进行数据探索的时候会遇到求交集的情况，比如说：优惠卷预测的时候，有多张表，表1有用户id，表2也有用户id，但是不能确定表1的用户有多少出现在表2当中。 un_id1，un_id2 为两个 Series 对象： un_id1 = set(un_id1)un_id2 = set(un_id2)tmp 阅读全文

摘要： 定义一个dataframe： >>> df a b0 1 31 2 4 现在看两种用法： 1.求行的均值 >>> df.mean(axis=1)0 2.01 3.0dtype: float64 2.删除列 >>> df.drop('a',axis=1) b0 31 4 乍看不好理解，但是，记住这句话 阅读全文

摘要： 在安装sklearn的时候，出现： error: Error: setup script specifies an absolute path: /opt/xgboost-0.47/python-package/xgboost/../../wrapper/libxgboostwrapper.so s 阅读全文

摘要： 由于笔记本跑不动很多大赛的数据，遂转至申请的虚拟机(centos6.5)中，奈何学校的虚拟机没网，就开始了离线安装pandas的道路，当中有踩了好些坑，于是便产生了这篇文章~ 首先，自带的python版本是2.6.6的，网上查查资料，替换成pyhon2.7的，原因是pandas支持python2.7 阅读全文

摘要： 木有网的centos折腾起来简直费劲的不要不要的~ 学校的虚拟机最开始只安装了一个libgcc-4.4.7-4，然而这是不够用的，比如安装软件的时候，需要输入"./configure"就会报没有c编译环境等等。。废话不多说，直接上教程： 首先在http://rpm.pbone.net/里面搜索一系列 阅读全文