yuyanljn4564

摘要： 在之前我们以及该讲过了架构方面的全连接前馈神经网络，卷积神经网络和循环神经网络，可以用于处理不同类型的数据，从模型学习角度，学习了网络优化与正则化。 今天讲的是部件级别的模块-注意力机制和外部记忆。部件可以用到任意类型的神经网络中。 注意力机制 注意力机制是有效的从大量的输入信息或外部信息中筛选出与 阅读全文

摘要： 第六章-循环神经网络 前馈神经网络的缺点： ①信息的传递是单向的。前馈神经网络可以看作一个复杂的函数，每次的输入都是独立的，即网络的输出只依赖于当前的输入。前馈神经网络是一种静态网络，没有记忆能力，就无法模拟有限状态自动机和图灵机等。 ②前馈神经网络要求输入和输出的维数都是固定的，不能任意改变，因此 阅读全文

摘要： 主要考虑网络层数对模型性能的影响。初始模型是ResNet18 网络层数的影响 模型 Epoch 0 Val Acc Epoch 1 Val Acc Epoch 2 Val Acc Epoch 3 Val Acc Epoch 4 Val Acc 最佳准确率 最终Loss ResNet18 6.85% 阅读全文