文章分类 - 百度飞桨
ai学习
摘要：卷积神经网络（CNN）主要用于特征提取。卷积操作的基本思想是通过在输入数据上滑动卷积核，提取数据中的局部特征。每个卷积核都负责检测输入数据中的某种模式或特征，例如边缘、纹理等。卷积操作生成的输出被称为特征图，它是输入数据中相应特征的映射。 卷积（Convolution） 在卷积神经网络中，卷积层的实
阅读全文
摘要：遇到更加复杂的机器学习或深度学习任务，需要运算速度更高的硬件（如GPU、NPU），甚至同时使用多个机器共同训练一个任务（多卡训练和多机训练）。 分布式训练有两种基本的实现模式：模型并行和数据并行。 模型并行是将一个网络模型拆分为多份，拆分后的模型分到多个设备上（GPU）训练，每个设备的训练数据是相同
阅读全文
摘要：在深度学习神经网络模型中，通常使用标准的随机梯度下降算法更新参数，学习率代表参数更新幅度的大小，即步长。当学习率最优时，模型的有效容量最大，最终能达到的效果最好。学习率和深度学习任务类型有关，合适的学习率往往需要大量的实验和调参经验。探索学习率最优值时需要注意如下两点： 学习率不是越小越好。学习率越
阅读全文
摘要：损失函数是模型优化的目标，用于在众多的参数取值中，识别最理想的取值。 房价预测是回归任务，而手写数字识别是分类任务，使用均方误差作为分类任务的损失函数存在逻辑和效果上的缺欠。在房价预测的案例中，由于房价本身是一个连续的实数值，因此以模型输出的数值和真实房价差距作为损失函数是符合道理的。但对于分类问题
阅读全文
摘要：手写数字识别的输入是28×2828×28的像素值，输出是0~9的数字标签，而线性回归模型无法捕捉二维图像数据中蕴含的复杂信息。 需要尝试使用其他更复杂、更强大的网络来构建手写数字识别任务，使用两种常见的网络结构：经典的多层全连接神经网络和卷积神经网络。 经典的全连接神经网络来包含三组网络：输入层、多
阅读全文
摘要：编写适合当前任务的数据处理程序，一般涉及如下五个环节： 读入数据 划分数据集 生成批次数据 训练样本集乱序 校验数据有效性 数据集：训练集、验证集、测试集 训练集：用于确定模型参数。 验证集：用于调节模型超参数（如多个网络结构、正则化权重的最优选择）。 测试集：用于估计应用效果（没有在模型中应用过的
阅读全文
摘要：1.ndarray ndarray数组中所有元素的数据类型相同、数据地址连续，批量操作数组元素时速度更快。而list列表中元素的数据类型可能不同，需要通过寻址方式找到下一个元素。 具有矢量算术运算和复杂广播能力的多维数组。 ndarray的属性包括shape、dtype、size和ndim等。 标量
阅读全文
摘要：1.数据处理 数据处理不依赖飞桨框架实现，与使用Python构建房价预测任务的代码相同。 2.模型设计 定义线性回归网络结构（几层网络，输入维度，输出维度），指定前向计算方式。 3.训练配置 设定模型训练状态，优化算法和学习率。 4.训练过程 还是采用二层循环嵌套方式：内层循环：按批大小（batch
阅读全文
摘要：损失函数的设计不仅仅要考虑“合理性”（有物理意义），同样需要考虑“易解性”（易于求解） 模型的构建和训练 数据处理 -> 模型设计 -> 训练配置 -> 训练过程 -> 模型保存 在构建不同的模型时，只有模型三要素不同，其它步骤基本一致，才产生了深度学习框架来加速建模。 数据处理 数据处理包含五个部
阅读全文
摘要：1. 机器学习 机器学习是专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构，使之不断改善自身的性能。 机器学习（监督学习）的方法论本质，即在“机器思考”的过程中确定模型的三个关键要素：假设、评价、优化。其学习的本质是“参数估计”。学习目标都是拟合一个“大公式
阅读全文
浙公网安备 33010602011771号