摘要：
来源于知乎： 1. LibLinear是线性核，LibSVM可以扩展到非线性核（当也能用线性核，但同样在线性核条件下会比LibLinear慢很多）。2. 多分类：LibLinear是one vs all策略，LibSVM是one vs one策略，后者的模型会大很多。3. 模型的文件格式不兼容。<! 阅读全文
摘要：
来源知乎 计算模型：hadoop-MapReduce，Spark-DAG（有向无环图）评注：经常有人说Spark就是内存版的MapReduce，实际上不是的。Spark使用的DAG计算模型可以有效的减少Map和Reduce人物之间传递的数据，尤其适合反复迭代的机器学习场景。而Hadoop则更擅长批处 阅读全文
摘要：
maxout的拟合能力是非常强的，它可以拟合任意的的凸函数。最直观的解释就是任意的凸函数都可以由分段线性函数以任意精度拟合（学过高等数学应该能明白），而maxout又是取k个隐隐含层节点的最大值，这些”隐隐含层"节点也是线性的，所以在不同的取值范围下，最大值也可以看做是分段线性的（分段的个数与k值有 阅读全文
摘要：
稀疏解的作用：内存和时间啊 实际的互联网广告应用需要的是快速地进行model的更新。为了保证快速的更新，训练样本是一条一条地过来的，每来一个样本，model的参数对这个样本进行一次迭代，从而保证了model的及时更新，这种方法叫做OGD（Online gradient descent）。 传统Bat 阅读全文
摘要：
别人推荐的网址： http://ruder.io/deep-learning-nlp-best-practices/index.html#wordembeddings 阅读全文
摘要：
论文来源：https://arxiv.org/abs/1704.05194v1 阿里技术：https://mp.weixin.qq.com/s/MtnHYmPVoDAid9SNHnlzUw?scene=25#wechat_redirect 写在前面的观后感：该篇论文是阿里妈妈提出来的MLR模型，总体 阅读全文
摘要：
FM：解决稀疏数据下的特征组合问题 Factorization Machine(因子分解机) 美团技术团队的文章，觉得写得很好啊：https://tech.meituan.com/deep-understanding-of-ffm-principles-and-practices.html 复杂度变 阅读全文
摘要：
卧槽，本来猜GBDT获取的组合特征，需要自己去解析GBDT的树，scikit learn里面竟然直接调用apply函数就可以了 阅读全文
摘要：
SGD: 1、随机梯度下降最大的缺点在于每次更新可能并不会按照正确的方向进行，因此可以带来优化波动(扰动) 2、由于波动，因此会使得迭代次数（学习次数）增多，即收敛速度变慢 Mini-batch: 1、Mini-batch梯度下降降低了收敛波动性 2、相对于全量梯度下降，其提高了每次学习的速度 写在 阅读全文
摘要：
深度学习在美团点评推荐平台排序中的运用 原创 2017-07-28 潘晖 美团点评技术团队 美团点评作为国内最大的生活服务平台，业务种类涉及食、住、行、玩、乐等领域，致力于让大家吃得更好，活得更好，有数亿用户以及丰富的用户行为。随着业务的飞速发展，美团点评的用户和商户数在快速增长。在这样的背景下，通 阅读全文