随笔分类 -  Machine Learning

对抗防御之对抗样本检测（一）：Feature Squeezing
摘要：对抗防御之对抗样本检测（一）：Feature Squeezing引言 在之前的文章中，我们介绍了对抗样本和对抗攻击的方法。在该系列文章中，我们介绍一种对抗样本防御的策略--对抗样本检测，可以通过检测对抗样本来强化DNN模型。本篇文章论述其中一种方法：feature squeezing，特征压缩通过将原始空间中许多不同特征向量对应的样本合并成一个样本，减少了对手可 阅读全文
posted @ 2021-08-13 16:01 HickeyZhang 阅读(5247) 评论(0) 推荐(7)
划分训练集与测试集
摘要：引言 对于模型的评估与选择，我们可以通过实验测试来对学习器的泛化误差进行评估并对模型进行选择，因此我们需要一个测试集来测试学习器对没有见过的新样本的判别能力，并且用学习器在该测试集上的测试误差作为泛化误差的近似。 测试集应该尽可能与训练集互斥，也就是说测试集中的样本尽量不在训练集中出现，也就是尽量不 阅读全文
posted @ 2021-07-20 15:19 HickeyZhang 阅读(1492) 评论(0) 推荐(0)
对抗样本综述(二)
摘要：引言 在对抗样本综述(一)中，我们介绍了对抗样本的背景和攻击分类，下面我们来看下常见的对抗攻击和对抗防御的方法有哪些。 对抗攻击 以下是著名的攻击方法： 现有的对抗攻击大都通过$L_p$范数约束对抗样本和原图像之间的差异。需要注意的是，大多数攻击方法并不保证攻击一定使目标model产生错误分类。 对 阅读全文
posted @ 2021-07-18 13:13 HickeyZhang 阅读(1329) 评论(0) 推荐(1)
对抗攻击(一) FGSM
摘要：引言 在深度学习领域内的对抗样本综述(二)中，我们知道了几种著名的对抗攻击和对抗防御的方法。下面具体来看下几种对抗攻击是如何工作的。这篇文章介绍FGSM(Fast Gradient Sign Method)。 预备知识 符号函数sign 泰勒展开 当函数$f(x)$在点$x_0$处可导时，在点$x_ 阅读全文
posted @ 2021-07-18 12:56 HickeyZhang 阅读(3024) 评论(0) 推荐(0)
对抗样本综述(一)
摘要：引言 深度神经网络(DNN)在许多机器学习任务中越来越受欢迎。它们被应用在图像、图形、文本和语音领域的不同识别问题中，并且取得了显著的成功。在图像识别领域中，他们能够以接近人类识别的精度识别物体。同样在语音识别、自然语言处理和游戏等领域，DNN也得到广泛应用。 由于这些成就，深度学习技术也被应用于关 阅读全文
posted @ 2021-07-10 17:31 HickeyZhang 阅读(3645) 评论(0) 推荐(1)
什么是机器学习
摘要：机器学习的任务 个人觉得机器学习是用来挖掘数据中人们难以发现的有用信息，或者是用来替代人类用机器完成人们可以完成的工作。前者是普通人难以做成的，比如说预测股票的走势、预测天气状况等等。而后者则是普通人可以完成的工作，但使用机器学习使人从重复的工作中解脱出来，或者能够比人做的更好，比如说识别人脸、下围 阅读全文
posted @ 2021-07-08 15:44 HickeyZhang 阅读(585) 评论(0) 推荐(0)