02 2021 档案

《神经网络与机器学习》第8章泛化与正则化
摘要：神经网络与机器学习 第8章 泛化与正则化 神经网络设计中一个重要的问题是如何确定神经元数目，当神经元数目很大时，虽然在测试数据集合上表现非常好，但是在新的数据集合进行测试时却表现很差，我们称为泛化（generalization）能力差，泛化能力就是指在测试数据集合和新的测试数据集合都表现好。原因就是 阅读全文
posted @ 2021-02-27 11:21 bingoloser 阅读(611) 评论(0) 推荐(0)
《神经网络与机器学习》第7讲后向传播算法局限性与变种算法
摘要：神经网络与机器学习 第7章 反向传播算法局限性和变形 为什么反向传播算法可以训练神经网络，这是因为假如权值$w_{i,j}^m$做了一个小小的改动$\Delta w_{i,j}^m$改变，会引起性能函数的改变$\Delta F$ 图7.1 多层前馈神经网络 \[\Delta F=\frac{\par 阅读全文
posted @ 2021-02-05 19:32 bingoloser 阅读(555) 评论(0) 推荐(0)
《神经网络与机器学习》第6讲后向传播算法
摘要：神经网络与机器学习 神经网络应用遍及各个领域，是机器学习和数据挖掘的核心技术。然而神经网络的发展曾历经十余年的停滞，生物神经网络仍是科研的前沿待攻克的难题。同样，学习神经网络亦非坦途，初涉其中的神奇感会随着数学知识的加深而快速散去，面临着理论和应用的挑战，本课程提供一个学习路径，而非大而全的道路，也 阅读全文
posted @ 2021-02-05 19:31 bingoloser 阅读(1316) 评论(0) 推荐(1)
《神经网络与机器学习》第5讲随机梯度下降算法-BP起源
摘要：神经网络与机器学习 第5章 随机梯度下降法-BP的起源 神经网络的训练有很多方法，以数值优化为基础的随机梯度学习算法能够处理大规模的数据集合，它也是后面多层神经网络后向传播算法的基础。 随机梯度下降是以均方误差为目标函数的近似最速下降算法，该算法被广泛用于自适应信号处理领域，是Widrow与学生Ho 阅读全文
posted @ 2021-02-05 19:30 bingoloser 阅读(1155) 评论(0) 推荐(0)
《神经网络与机器学习》第4讲最优化基础
摘要：神经网络与机器学习 第4章 性能曲面与最优化基础 §4.1 性能曲面函数的泰勒展开与梯度定义 网络性能，比如均方误差，交叉熵，准确率，接收机性能曲线等等，这些有些称为损失函数或代价函数，还有时候统一称为目标函数。从本质上讲它们之间并无区别。将机器学习问题建模成一个最优化问题已经是现在最主流的建模手段 阅读全文
posted @ 2021-02-05 19:29 bingoloser 阅读(769) 评论(0) 推荐(0)
《神经网络与机器学习》第3讲 感知机与学习规则
摘要：神经网络与机器学习 第3章感知机与学习规则 §3.1 感知机的学习规则 上一节中，区分橘子和苹果，是我们人为地划分一个决策边界，即一个平面，感知器的权矩阵和偏置向量也是事先给定，这非常地不"智能"。我们能否找到一种根据输入数据自动调整权矩阵和偏置向量的学习算法？如何设定学习规则？这样的学习规则肯定能 阅读全文
posted @ 2021-02-05 19:26 bingoloser 阅读(1734) 评论(0) 推荐(0)
神经网络与机器学习第2讲 神经网络模型基础
摘要：神经网络与机器学习 第2章 神经网络模型基础与感知机 这里介绍神经元的简化数学模型，描述基本的神经网络结构与基本计算，讨论单层感知机的优点和局限性。对于感知机的理解有助于学习更加复杂的神经网络，感知机是数学可解释的一类神经网络模型，现在的复杂网络模型有些可解释性还没有摸清楚，因此感知机是一个典型的例 阅读全文
posted @ 2021-02-04 16:57 bingoloser 阅读(684) 评论(0) 推荐(0)
神经网络与机器学习第一讲绪论
摘要：神经网络与机器学习 本讲稿材料都是来源各种书籍和网站，只是有些问题用matlab（后期计划用Python）程序进行了形象解释，大家可以自由传播但不可商用和引起版权纠纷。 参考文献 M.T. Hagan等著，章毅译，《神经网络设计》，机械工业出版社，2017 M. Nielsen著，朱小虎译，《神经网 阅读全文
posted @ 2021-02-04 16:51 bingoloser 阅读(494) 评论(0) 推荐(0)