摘要： 个人学习所用，内容来源于网络，侵权删 1. 定义 激活函数(Activation functions)对于人工神经网络 模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这 阅读全文

摘要： (个人学习所用，内容来源于网络，侵权删) 猜测和检查 根据直觉选择一个超参数，看是否有效，持续进行。 网格搜索 设置一定范围均匀分布的一组值，挨个尝试。 随机搜索 让计算机随机挑选一组值。 贝叶斯优化 使用像MATLAB的bayesopt之类的工具来自动选择最佳参数，然后你会发现贝叶斯优化比你的机器 阅读全文

摘要： （个人学习所用，内容来源于网络，侵权删） 1. 感知机 感知机由Rosenblatt在1957年提出，是神经网络的基础，该思想受生物学启发（参照下图）， 在其看来，人的大脑可以看作一个生物的神经网络，其最小的单元是神经元。人的神经网络由这样的一些神经元组成，它接受一些信号，这些信号可能是眼睛看到的光 阅读全文