摘要：
神经网络参数的反向传播算法 代价函数 反向传播算法 要求参数θ从而使上节课代价函数是最小值。 更好地理解反向传播 将参数向量化，使在高级最优化步骤中使用。 上面语法是python语法。可直接命令行运行。 梯度检测 会有误差，so加一检测步骤。 随机初始化 代价函数和最优化函数都需要对参数进行初始化， 阅读全文
摘要：
正则化 过拟合问题、代价函数 泛化：一个假设模型应用到新样本的能力。 解决过拟合方法： ①减少特征数量。人工检查变量清单；模型选择算法。但会失去一些特征。 ②正则化。保留所有特征，减少量级或参数大小。 线性回归的正则化。 正则化思想：若参数值较小，则意味着一个更简单的假设模型，曲线越平滑，越不易出现 阅读全文
摘要：
Logistic回归 假设陈述 是最通用的二分分类算法。识别一张图片，结果对则1，否则0. 若图是64X64像素，有三个矩阵分别为图的红绿蓝像素表示，将之合成一个特征向量则为64X64X3=12288大小。 用nx=12288来表示输入的特征向量x的维度。要输出预测结果y。 要训练w和b。 决策界限 阅读全文
摘要：
Octave/Matlab教程 先将想法用Octave实现，运行可行后再用java，c++等将算法写一遍。 直接输入算式，如3+2,回车出结果。 1 ~= 2 %true输出ans = 1，%表示注释，~=表示不等于 若想改变命令行前缀字符为》，则：PSl(‘>> ’) 变量定义：a = 3；其中分 阅读全文
摘要：
单变量线性回归 模型描述 代价函数。 即讨论如何选择预测函数中的参数θ0和θ1，使得函数与实际数据点尽量好的拟合。使平方差尽量小。 m指训练集的样本容量。改变θ0和θ1求代价函数J（θ0，θ1）函数的最小值。也叫平方误差函数或平方误差代价函数。 若只有一个参数得到的代价函数是一个碗状图。两个参数得到 阅读全文
摘要：
监督学习： 给定一个包含正确答案的数据集，也就是给定一个实际发生的真实地数据集，通过此数据集预测出另一个参数对应的正确答案。 回归问题，即有连续的预测数值输出。例：房价与面积关系。 分类问题，预测离散值输出。例：肿瘤是良性还是恶性。 监督学习：结构化信息即有定义的信息如年龄面积广告数等。 无监督学习 阅读全文
摘要：
卷积神经网络CNN? 它有一个批量过滤器,在图片上滚动收集信息,每次收集一小块像素信息,整理后有一些呈现,通过不断过滤,总结信息. 图片有长宽高,高指的是颜色种类,过滤器收集完信息后得到一个更高,长宽更小的包含边缘信息的图片,不断过滤,最后对图片有更深的理解,就能进行分类了. 研究表明,每次卷积会损 阅读全文
摘要：
人工神经网络与生物神经网络区别: 所有生物元之间的连接都是不可更换的,所以人工神经网络里没有凭空产生新连接这回事.他所做的就是:已经知道吃糖这件事,让神经网络帮助我们做拿糖果这件事.预先准备好许多吃糖的数据,,将之套入神经网络系统,,然后糖的信号传递到手,对比观察手的动作是否是讨糖的动作,据此修改神 阅读全文