摘要： 官方不建议使用 64 bit python，容易出各种问题 Unable to find vcvarsall.bat 凡是安装与操作系统底层相关的 python 扩展都会遇到这个问题，如 PIL，Pillow，gevent 等，当然你可以直接安装编译好的，此时可能无需解决这个问题，但是你只能使用阉割 阅读全文

摘要： 高斯混合模型 混合模型，顾名思义就是几个概率分布密度混合在一起，而高斯混合模型是最常见的混合模型； GMM，全称 Gaussian Mixture Model，中文名高斯混合模型，也就是由多个高斯分布混合起来的模型； 概率密度函数为 K 表示高斯分布的个数，αk 表示每个高斯分布的系数，αk>0，并 阅读全文

摘要： KMeans 算法太过简单，不再赘述 本文尝试用 EM 算法解释 KMeans，而事实上 KMeans 算是 EM 的一个特例 EM 算法是包含隐变量的参数估计模型，那对应到 KMeans 上，隐变量是什么？参数又是什么？ 参数就是描述一个模型，在 KMeans 中是聚类质心；隐变量是每个样本的类别 阅读全文

摘要： 讲到 EM 算法就不得不提极大似然估计，我之前讲过，请参考我的博客 下面我用一张图解释极大似然估计和 EM 算法的区别 EM 算法引例1-抛3枚硬币 还是上图中抛硬币的例子，假设最后结果正面记为1，反面记为0，抛10次，结果为 1101001011； 下面我用数据公式解释下这个例子和 EM 算法； 阅读全文

摘要： GDBT 可以解决分类和回归问题 回归问题 def __init__(self, loss='ls', learning_rate=0.1, n_estimators=100, subsample=1.0, criterion='friedman_mse', min_samples_split=2, 阅读全文

摘要： 首先强调一下，这篇文章适合有很好的基础的人 梯度下降 这里不系统讲，只介绍相关的点，便于理解后文 先放一个很早以前写的 梯度下降 实现 logistic regression 的代码 def tiduxiajiang(): """梯度下降算法""" alpha=0.000001 # 学习率的确定方法 阅读全文

摘要： 本文介绍用 python 远程连接 hive，此时需要 hive 启动 hiveserver2 服务 windows 下报如下错误 thrift.transport.TTransport.TTransportException: Could not start SASL: Error in sasl 阅读全文

摘要： hive 的另外一种启动方式是 hiveserver2，它是提供了一种服务，使得我们可以远程操作 hive，就像操作 mysql 一样 hiveserver1 既然有 hiveserver2，肯定有 hiveserver1，不过已经被淘汰，不多做解释，hiveserver1 的缺点是不支持并发，hi 阅读全文

摘要： DML，Hive Data Manipulation Language，数据操作语言； 通俗理解就是数据库里与数据的操作，如增删改查，统计汇总等； Loading files into tables 把文件数据写入 table，load 操作不对数据做任何转换 LOAD DATA [LOCAL] I 阅读全文

摘要： 首先我们需要搞清楚几个概念：概率函数、概率分布、概率密度 我这里只做简单阐述，意在理解概念，可能不严谨。 我们知道变量可分为离散随机变量和连续随机变量； 概率函数：随机变量取某个值的概率 pi=P(X=ai)(i=1,2,3,4,5,6)；以骰子为例，每次摇骰子取值为 1-6，取每个数字的概率为 1 阅读全文