橙同学的学习笔记

摘要： 1、深层神经网络中的前向传播： （1）单数据情况： z[1] = w[1]x + b[1] a[1] = g[1](z[1]) z[2] = w[2]a[1] + b[2] a[2] = g[2](z[2]) ... ... z[l] = w[l]a[l-1] + b[l] a[l] = g[l]( 阅读全文

摘要： 1、计算神经网络的输出（正向传播）： 矩阵表示： 向量化： 2、多个样本的向量化（正向传播）： 3、激活函数： （1）sigmoid函数仅用于二分分类的情况，较少使用； a = 1 / (1 + e-z) g'(z) = g(z) * (1 - g(z)) （2）tanh函数绝大多数情况下优于sig 阅读全文

摘要： 1、什么是神经网络？ （1）房价预测模型Ⅰ： 神经网络：size x ——> O ——> price y ReLU函数（Rectified linear unit 修正线性单元）：修改线性的函数，避免出现price未负数的情况. （2）房价预测模型Ⅱ： 即神经网络为： 2、Binary classi 阅读全文

摘要： 1、介绍OCR： OCR（Photo optical character recognition 照片光学字符识别） 应用于读取电子照片中的文字. 2、算法思路： ① 识别文字区域； ② 字符切分： ③ 识别字符： 3、Sliding windows（滑动窗）： （1）在行人检测中的使用： ① 由于 阅读全文

摘要： Lage scale machine learnning（大规模机器学习） 1、判断是否有必要扩大数据量？ 使用学习曲线，观察随着 m 的增大，测试误差是否有显著下降，如高方差情况（过拟合）. 2、Stochastic gradient descent（随机梯度下降）： （1）问题背景： 当数据过于 阅读全文

摘要： 题目下载【传送门】 第1题 简述：对于一组网络数据进行异常检测. 第1步：读取数据文件，使用高斯分布计算 μ 和 σ²： 其中高斯分布计算函数estimateGaussian： 第2步：计算概率p(x)： 其中概率计算函数 第3步：可视化数据，并绘制概率等高线： 其中visualizeFit函数： 阅读全文

摘要： Anomaly detection（异常检测） 1、问题定义：假设数据集{x(1), x(2), ..., x(3)}表示的数据都是正常的，则判断xtest是否异常。 若概率值 p(xtest) < ε，则表示异常；若 p(xtest) ≥ ε ，则表示正常。 2、Gaussian Distribu 阅读全文

摘要： Week 1 机器学习笔记（一）基本概念与单变量线性回归 Week 2 机器学习笔记（二）多元线性回归 机器学习作业（一）线性回归——Matlab实现 机器学习作业（一）线性回归——Python(numpy)实现 Week 3 机器学习笔记（三）逻辑回归 机器学习作业（二）逻辑回归——Matlab实 阅读全文

摘要： 题目下载【传送门】 第1题 简述：实现K-means聚类，并应用到图像压缩上。 第1步：实现kMeansInitCentroids函数，初始化聚类中心： 第2步：实现findClosestCentroids函数，进行样本点的分类： 第3步：实现computeCentroids函数，计算聚类中心： 第 阅读全文

摘要： K-Means cluster （K-均值聚类） 1、算法思想： 算法分为两个步骤，簇分配和移动聚类中心。 在每次循环中，第一步是簇分配，即遍历样本，依据更接近哪一个聚类中心，分配到不同的聚类中，如下图所示； 在确定分类后，根据堆点的均值移动聚类中心，如下图所示； 依据新的聚类中心，再次进行簇分配， 阅读全文