随笔分类 - 机器学习 Machine learning
摘要：https://www.kaggle.com/c/whale-categorization-playground 希望后面能看到好的处理方法 https://www.kaggle.com/c/whale-categorization-playground 不平衡类的问题是什么? 在一个分类问题中，当
阅读全文
摘要：Multi-label classification with Keras Multi-label classification with Keras In today’s blog post you learned how to perform multi-label classification
阅读全文
摘要：One-Hot 编码即独热编码，又称一位有效编码，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候，其中只有一位有效。这样做的好处主要有：1. 解决了分类器不好处理属性数据的问题； 2. 在一定程度上也起到了扩充特征的作用。 将离散型特征进行one-hot
阅读全文
摘要：跟着tensorflow上mnist基本机器学习教程联系 首先了解sklearn接口: "sklearn.linear_model.LogisticRegression" In the multiclass case, the training algorithm uses the one vs r
阅读全文
摘要：TensorFlow是一个面向数值计算的通用平台，可以方便地训练线性模型。下面采用TensorFlow完成Andrew Ng主讲的Deep Learning课程练习题，提供了整套源码。 线性回归 多元线性回归 逻辑回归 线性回归 思考：对于tensorflow，梯度下降的步长alpha参数需要很仔细
阅读全文
摘要：贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。本文作为分类算法的第一篇，将首先介绍分类问题，对分类问题进行一个正式的定义。然后，介绍贝叶斯分类算法的基础——贝叶斯定理。最后，通过实例讨论贝叶斯分类中最简单的一种：朴素贝叶斯分类。 优缺点： 优点：在数据较少的情况下
阅读全文
摘要：广泛使用的分类算法——决策树（decision tree）。相比贝叶斯算法，决策树的优势在于构造过程不需要任何领域知识或参数设置，因此在实际应用中，对于探测式的知识发现，决策树更加适用。 决策树（decision tree）是一个树结构（可以是二叉树或非二叉树）。其每个非叶节点表示一个特征属性上的测
阅读全文
摘要：MLP实现 MLP实现 调整参数比较性能结果 kNN比较
阅读全文
摘要：线性回归 线性回归 多项式回归 多项式回归 岭回归 岭回归 还有就是容易过拟合，才出现了岭回归，L2正则项 Lasso回归，添加L1正则项，具有稀疏解
阅读全文
摘要：主成分分析（PCA） 主成分分析（PCA） 测试 测试 非负矩阵分解（NMF） 非负矩阵分解（NMF） 测试 测试 结果 结果 Extracting the top 6 Eigenfaces - PCA using randomized SVD...(400, 4096)Extracting the
阅读全文
摘要：K-means聚类算法 K-means聚类算法 测试： 测试： DBSCAN密度聚类 DBSCAN密度聚类 测试 测试 基于聚类的图像分割 基于聚类的图像分割 测试 测试
阅读全文
摘要：监督学习下的分类模型，主要运用sklearn实践 kNN分类器 kNN分类器 决策树 决策树 朴素贝叶斯 朴素贝叶斯 实战一：预测股市涨跌 实战一：预测股市涨跌 实战二：通过运动传感器采集的数据分析运行状态 实战二：通过运动传感器采集的数据分析运行状态 result
阅读全文
摘要："Kaggle官网" 数据挖掘的比赛，主要是特征工程 "Kaggle 数据挖掘比赛经验分享" "Kaggle 机器学习竞赛冠军及优胜者的源代码汇总" "程序化广告交易中的点击率预估"
阅读全文
摘要：以前接触过libsvm,现在算在实际的应用中学习 LIBSVM 使用的一般步骤是： 1）按照LIBSVM软件包所要求的格式准备数据集； 2）对数据进行简单的缩放操作； 3）首要考虑选用RBF 核函数； 4）采用交叉验证选择最佳参数C与g ； 5）采用最佳参数C与g 对整个训练集进行训练获取支持向量机
阅读全文
摘要：bagging方法（自举汇聚法 bootstrap aggregating） boosting分类：最流行的是AdaBoost(adaptive boosting) 随机森林（random forest） GBDT-Gradient Boost Decision Tree（MART） 迭代决策树入门
阅读全文
摘要：日志 20170410 Coursera机器学习 2017.11.28 update deeplearning 台大的机器学习课程： "台湾大学林轩田和李宏毅机器学习课程" "ranjiewwen/Computer Vision Action" Coursera机器学习 Week 5： Neural
阅读全文
摘要：这个问题一直想解决，看了很久都没有想通， Deep Learning（深度学习）学习笔记整理系列之（五） 写的通俗易懂，作为CSDN的博客专家，以后经常拜读他的文章。 Sparse Coding稀疏编码 如果我们把输出必须和输入相等的限制放松，同时利用线性代数中基的概念，即O = a1*Φ1 + a
阅读全文
摘要：看来了一下EM算法的推导，感觉信号检测与估值的课需要复习了。。。 斯坦福大学机器学习——EM算法求解高斯混合模型（系列） 下面主要介绍EM的整个推导过程。 回顾优化理论中的一些概念。设f是定义域为实数的函数，如果对于所有的实数x，，那么f是凸函数。当x是向量时，如果其hessian矩阵H是半正定的（
阅读全文
摘要：一.K-L变换 说PCA的话，必须先介绍一下K-L变换了。 K-L变换是Karhunen-Loeve变换的简称，是一种特殊的正交变换。它是建立在统计特性基础上的一种变换，有的文献也称其为霍特林（Hotelling）变换，因为他在1933年最先给出将离散信号变换成一串不相关系数的方法。K-L变换的突出
阅读全文
摘要：机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。这里我们将为您总结一下常见的机器学习算法，以供您在工作和学习中参考。 机器学习的算法很多。很多时候困惑人们都是，很多算法是一类算法，而有些算法又是从其他算法中延伸出来的。这里，我们从两个方面来给大家介绍
阅读全文