神经网络的结构 part 1
神经网络的结构 part 1
一、介绍
神经网络最早由心理学家和神经生物学家提出,由于神经网络在解决复杂问题时能够提供一种相对简单的方法,因此*年来越来越受到人们的关注。神经网络模型各种各样、 各式各样的模型从不同的角度对生物神经系统进行不同层次的描述和模拟。代表性的网络模型有BP网络、RBF网络、Hopfield网络、自组织特征映射网络等。运用这些网络模型可实现函数逼*、数据聚类、模式分类、优化计算等功能。因此, 神经网络广泛应用于人工智能、自动控制、机器人、统计学等领域的信息处理中。
二、结构(多层感知器MLP)
1、一个经典的神经网络是一个包含三个层次的。784个单元是输入层,10个单元是输出层,32个单元是中间层(也叫隐含层)。神经元里装着的数,叫做“激活值”
如以下:

设计一个神经网络时,输入层与输出层的节点数往往是固定的,中间层则可以自由指定(上一层的激活值将决定下一层的激活值,所以网络处理信息的核心机制正是一层的激活值是通过怎样的运算,算出下一层的激活值);
神经网络结构图中的拓扑与箭头代表着预测过程时数据的流向,跟训练时的数据流有一定的区别;
结构图里的关键不是圆圈(代表“神经元”),而是连接线(代表“神经元”之间的连接)。每个连接线对应一个不同的权重(其值称为权值),这是需要训练得到的。
(可以把正的权重标记为绿色,负的标记为红色,颜色越暗,就大致表示它的权重越接*于0)

如果需要识别出某个地方是否存在一条边,只需要给周围一圈的像素赋予负的权重,这样当中间的像素亮,周围的像素暗时,加权和就能达到最大)
2、除了从左到右的形式表达的结构图,还有一种常见的表达形式是从下到上来表示一个神经网络。这时候,输入层在图的最下方。输出层则在图的最上方。
3、常用的函数sigmoid(logistic/逻辑斯蒂曲线)
它能把非常大的负值变成接* 0(红色线),非常大的正值变成接* 1(绿色线),而在取值0附*则是*稳增长的(蓝色线)


4、机器学习和线性代数时不分家的

5、机器如何学习的时候(电脑应该如何设置这一大坨的数字参数)


补充:

https://www.bilibili.com/video/BV1bx411M7Zx/?spm_id_from=333.788.recommend_more_video.0
浙公网安备 33010602011771号