AIengineer

摘要： BN层在实际中应用广泛。 上一次总结了使得训练变得简单的方法，比如SGD+momentum RMSProp Adam，BN是另外的方法。 cell 1 依旧是初始化设置 cell 2 读取cifar-10数据 cell 3 BN的前传 相应的核心代码： running_mean running_va 阅读全文

摘要： 总览： 本章所讲的知识点包括》》》》 1、描述卷积操作 2、解释使用卷积的原因 3、描述pooling操作 4、卷积在实践应用中的变化形式 5、卷积如何适应输入数据 6、CNN对DL的影响 本章未包含的知识点有》》》》 在实际应用中如何选取CNN架构 本章的目的是阐述CNN提供的处理数据的方法。在第 阅读全文

摘要： 要求：实现任意层数的NN。 每一层结构包含： 1、前向传播和反向传播函数；2、每一层计算的相关数值 cell 1 依旧是显示的初始设置 cell 2 读取cifar数据，并显示维度信息 cell 3 使用随机生成的数据，测试affine 前向传播函数 结果： affine_forward(x, w, 阅读全文

摘要： 在上一次总结中，总结了NN的基本结构。 接下来的几次课，对一些具体细节进行讲解。 比如激活函数、参数初始化、参数更新等等。 首先，课程做 一个小插曲： 经常使用已经训练好的模型》》Finetune network 具体例子： 使用现成模型，修改部分层，使用现成的参数做初始参数。 以caffe为例，其 阅读全文

摘要： cell 1 显示设置初始化 cell 2 网络模型与数据初始化函数 通过末尾的调用，生成了NN类，并生成了测试数据。 类的初始化代码（cs231n/classifiers/neural_net.py）： cell 3 前向传播计算loss，得到的结果与参考结果对比，证明模型的正确性： 结果对比： 阅读全文

摘要： 在上次的分享中，介绍了模型建立与使用梯度下降法优化参数、梯度校验，以及一些超参数的经验。 本节课的主要内容： 1==链式法则 2==深度学习框架中链式法则 3==全连接神经网络 1、链式法则 目前我们所处的阶段： 学习了SVM softmax两个模型或者算法，需要优化w》》梯度下降。 上述公式的计算 阅读全文

摘要： 1 import numpy as np 2 from cs231n.classifiers.linear_svm import * 3 from cs231n.classifiers.softmax import * 4 5 class LinearClassifier(object): 6 7 def __init__(self): 8 sel... 阅读全文

摘要： 在完成SVM作业的基础上，Softmax的作业相对比较轻松。 完成本作业需要熟悉与掌握的知识： cell 1 设置绘图默认参数 cell 2 读取数据，并显示各个数据的尺寸： 数据维度结果： cell 3 用for循环实现Softmax的loss function 与grad： 对应的py文件的代码 阅读全文

摘要： 作业内容，完成作业便可熟悉如下内容： cell 1 设置绘图默认参数 cell 2 读取数据得到数组（矩阵） 得到结果，之后会用到，方便矩阵运算： cell 3 对每一类随机选取对应的例子，并进行可视化： 可视化结果： cell 4 将数据集划分为训练集，验证集。 得到各个数据集的尺寸： cell 阅读全文

摘要： 1 本节课对应视频内容的第三讲，对应PPT是Lecture3 2 本节课的收获 熟悉SVM及其多分类问题 熟悉softmax分类问题 了解优化思想 由上节课即KNN的分析步骤中，了解到做图像分类的主要步骤 根据数据集建立模型 得到loss function 根据loss function 对参数做优 阅读全文