摘要: 熵 描述自身分布的不确定性。 熵是干什么的? 熵是度量不确定性的。如果某个东西越不确定,那么我就需要用更多的信息才能弄清楚它。此时,熵就很大。 事件越均匀,不确定性越大 举个例子,从1-100个数字里等概率抽取一个数字。由于是等概率的,所以不确定性很大,即熵很大。如果从2个红苹果和1个绿苹果里,抽中 阅读全文
posted @ 2025-11-19 14:21 顾子郤 阅读(6) 评论(0) 推荐(0)
摘要: 会议/期刊: IEEE TPAMI 2024 作者: Lei Zhang Yuhang Zhou, Yi Yang, Xinbo Gao 研究背景与动机 目前的防御主要集中在已知的攻击,但是忽略了对未知攻击的鲁棒性——不能防住没见过的攻击,无法举一反三。并且,在现实部署中,常用的适应性学习以及微调技 阅读全文
posted @ 2025-11-18 12:02 顾子郤 阅读(7) 评论(0) 推荐(0)
摘要: 会议/期刊: ECCV 2024 作者:Akshay Kulkarni、Tsui-Wei Weng 代码仓库:https://github.com/Trustworthy-ML-Lab/Interpretability-Guided-Defense 研究背景与动机 一次对抗训练成本远高于一次标准训练 阅读全文
posted @ 2025-11-10 21:34 顾子郤 阅读(11) 评论(0) 推荐(0)
摘要: DomainBed是域泛化领域的公认框架,其统一了输入输出以及相关细节处理,使得泛化性能比较更加公平公正,但是庞大的框架使其理解十分困难,今天首先介绍其评价指标,即Selection字段。 结果展示 + + + + + + + | Selection | art_painting | cartoon 阅读全文
posted @ 2025-09-27 12:37 顾子郤 阅读(27) 评论(0) 推荐(0)
摘要: 由于最近准备投论文,但由于创新点不够,每次组会上都会被导师提到。我陷入了深深地自我怀疑,我花了大力气完成的工作没用?也对什么样的工作有价值,足够支撑去投一篇会议或者期刊,产生了深深地思考。最后,我看到了李沐老师的见解。我认为很有意义,所以记录了下来。 什么是有价值的工作? 用有新颖的方法有效地解决一 阅读全文
posted @ 2025-07-24 00:11 顾子郤 阅读(35) 评论(0) 推荐(1)
摘要: 在深度学习领域,我们经常会看见范数这个词语,但是对于像我一样刚接触深度学习的初学者来说,其实难以理解什么是范数,常常会选择直接跳过。同时,现有博客中常常会解释常见的范数,如最常见的2范数以及其公式。不过,这不足以让我们去理解范数。 什么是范数 在现实生活中,我们会用路程来描述A点到B点之间的距离。那 阅读全文
posted @ 2025-07-23 23:13 顾子郤 阅读(63) 评论(0) 推荐(0)
摘要: 本教程参考ChatGPT,仅作为笔记,日后复习。 同时祝愿你的备份永远用不到,但永远在那里! 随着工位电脑上的重要文件越来越多,同时通过Linux命令行删除文件往往来不及后悔,所以近期萌生了文件定时备份的想法。 该脚本需要具备以下特性: 定时自动执行 增量式备份,仅备份修改了的内容 保留一段时间的备 阅读全文
posted @ 2025-07-12 16:20 顾子郤 阅读(37) 评论(0) 推荐(0)
摘要: 介绍 核心思想:将正样本拉近,将负样本推远。通俗来讲,让相似的样本在特征空间中靠得更近,不相似的样本在特征空间中距离更远。主要用与自监督或无监督场景下的特征学习,然后用于下游任务。 对比学习 强化学习 学习好的特征 学习好的策略 常用的使用场景有: 计算机视觉 图像检索:拉近正样本,故很容易检索到相 阅读全文
posted @ 2025-05-26 20:05 顾子郤 阅读(1348) 评论(0) 推荐(0)
摘要: 背景介绍 在进行模型训练的时候,我们通常假设训练集和测试集是独立同分布的。可事实上,两个数据集往往难以做到完全同分布,这也是有时候训练集效果很好,但是测试集效果稍差的原因之一(当然,最可能的是过拟合了)。在同一个域(可以简单把“域”理解为同一个数据集)的数据集都存在这个问题,在不同域的数据集更是如此 阅读全文
posted @ 2025-03-03 21:07 顾子郤 阅读(57) 评论(0) 推荐(0)
摘要: 问题描述 sudo apt update ... # 出现以下警告 W: An error occurred during the signature verification. The repository is not updated and the previous index files w 阅读全文
posted @ 2024-12-28 13:54 顾子郤 阅读(1906) 评论(0) 推荐(0)