摘要: 转载:https://blog.csdn.net/pengchengliu/article/details/80932232 梯度下降算法的公式非常简单,”沿着梯度的反方向(坡度最陡)“是我们日常经验得到的,其本质的原因到底是什么呢?为什么局部下降最快的方向就是梯度的负方向呢?也许很多朋友还不太清楚 阅读全文
posted @ 2022-06-30 10:32 zhangyuxue 阅读(234) 评论(0) 推荐(0) 编辑
摘要: 参考:https://zhuanlan.zhihu.com/p/392808684 1、比较通俗地讲解一下泰勒公式是什么。 泰勒公式,也称泰勒展开式。是用一个函数在某点的信息,描述其附近取值的公式。如果函数足够平滑,在已知函数在某一点的各阶导数值的情况下,泰勒公式可以利用这些导数值来做系数,构建一个 阅读全文
posted @ 2022-06-29 17:10 zhangyuxue 阅读(4768) 评论(0) 推荐(0) 编辑
摘要: 参考:https://baike.baidu.com/item/%E6%B3%B0%E5%8B%92%E5%85%AC%E5%BC%8F/7681487?fr=aladdin 1、泰勒公式定义:是一个用函数在某点的信息描述其附近取值的公式。如果函数满足一定的条件,泰勒公式可以用函数在某一点的各阶导数 阅读全文
posted @ 2022-06-28 16:06 zhangyuxue 阅读(1008) 评论(0) 推荐(0) 编辑
摘要: 参考:https://zhuanlan.zhihu.com/p/363627734 向量间的方向可以使用它们之间的夹角表示。我们先看一个线性空间 的例子(2维空间是最简单的多维空间,2维空间的结论基本上都可以推广到多维空间),假设 为两个2维向量,则在2维平面上 可以用两条发自原点的有向线段表示,见 阅读全文
posted @ 2022-06-26 18:02 zhangyuxue 阅读(402) 评论(0) 推荐(0) 编辑
摘要: 参考:https://zhuanlan.zhihu.com/p/269232332 在线性回归的正交方程 ( Normal Equation ) 推导一文中提到使用 向量投影 的方法一步就能推导出 正交方程。从向量投影的角度,体现 线性回归 的本质。 预备知识:向量投影 平面A由基向量 所张成(Sp 阅读全文
posted @ 2022-06-26 17:42 zhangyuxue 阅读(27) 评论(0) 推荐(0) 编辑
摘要: 参考:https://zhuanlan.zhihu.com/p/145706435 首先明确几个定义:(1) 超平面是指n维线性空间中维度为n-1的子空间。它可以把线性空间分割成不相交的两部分。比如二维空间中,一条直线是一维的,它把平面分成了两块;三维空间中,一个平面是二维的,它把空间分成了两块。( 阅读全文
posted @ 2022-06-25 21:56 zhangyuxue 阅读(442) 评论(0) 推荐(0) 编辑
摘要: 参考:https://www.zhihu.com/question/40049682/answer/1420483558 分两种情况: 一、行 X 列 就是它长度的平方。 二、列 X 行 通常对它进行一下处理(归一化): 对任意一个向量 b , 它投影到 a 上的向量一定是: 关于列 X 行 的投影 阅读全文
posted @ 2022-06-25 21:17 zhangyuxue 阅读(1080) 评论(0) 推荐(0) 编辑
摘要: 转载自:https://www.zhihu.com/question/20473040/answer/102907063 https://blog.csdn.net/yangpan011/article/details/79461846 https://www.zhihu.com/question/ 阅读全文
posted @ 2022-06-25 17:49 zhangyuxue 阅读(387) 评论(0) 推荐(0) 编辑
摘要: ①目前,针对对抗样本出现的原因主要有三种观点:流形中的低概率区域解释;线性解释;此外,还有一种观点认为线性解释存在局限性,即当前的猜想都不能令人信服。 ②对抗样本的几种典型生成方式:F-BFGS法、FGS法、迭代法、迭代最小可能类法及其他方法。 ③对抗样本具有迁移性是对抗样本攻击的原因,该属性意味着 阅读全文
posted @ 2022-06-22 10:53 zhangyuxue 阅读(158) 评论(0) 推荐(0) 编辑
摘要: ①通过对原始样本加入微小扰动所生成的对抗样本能够有效欺骗深度学习模型,并将生成对抗样本的方式称为对抗攻击。 ②对抗攻击能够使深度学习以高置信度的方式给出错误的输出,实现针对深度学习检测服务的逃逸攻击。 ③深度学习缺乏可解释性由其自身结构和运行机理决定,具体表现在以下3个方面: (1)深度神经网络的神 阅读全文
posted @ 2022-06-21 10:52 zhangyuxue 阅读(106) 评论(0) 推荐(0) 编辑