摘要：
深度模型优化与正则化： 网络优化 目的：经验风险最小化。对于低维来说，目的是逃离局部最优点；对于高维来说，则是逃离鞍点。 梯度下降 批量梯度下降、小批量梯度下降、随机批量梯度下降。 学习率 流程：学习率预热、学习率衰减、学习率周期调整、自适应学习率。 1）学习率预热： 阅读全文
posted @ 2020-10-18 21:29
小小新一枚
阅读(12)
评论(0)
推荐(0)
摘要：
前馈神经网络： https://blog.csdn.net/qq_37534947/article/details/107832979 补充： 人工神经网络的三大要素： 万能近似定理： 可以看到只需要一个线性输出层和一个隐藏层组成的神经网络就可以近似任何函数，但是规模可能巨大，随着深度的增加，网络的 阅读全文
posted @ 2020-10-18 21:14
小小新一枚
阅读(14)
评论(0)
推荐(0)
摘要：
深度学习的框架： 核心组件 张量、基于张量的相关操作、计算图、自动微分工具、cudnn等扩展包。 张量：多维数组，0维张量即标量、1维张量即矢量、2维张量即矩阵、3为张量矩阵数组、4为张量… 基于张量的相关操作： 计算图： 自动微分工具 阅读全文
posted @ 2020-10-18 21:05
小小新一枚
阅读(14)
评论(0)
推荐(0)
摘要：
一：绪论 人工智能：使一部机器人像人一样进行感知、认知、决策、执行的人工程序或系统。 标志事件表： 人工智能诞生：1956年的达特茅斯会议 三个层面：目前处于第二个 分类： 三起两落 阅读全文
posted @ 2020-10-18 20:54
小小新一枚
阅读(16)
评论(0)
推荐(0)
浙公网安备 33010602011771号