馒头and花卷

摘要： Gonzalez R. C. and Woods R. E. Digital Image Processing (Forth Edition) 概 除了我们熟悉的RGB模式来表示图片, 还有其他很多种图片表示方式. 其实我现在很想要知道的一点是, 神经网络会对不同的表示会有不同的反应吗? 定义 RG 阅读全文

摘要： Leino K., Wang Z. and Fredrikson M. Globally-robust neural networks. In International Conference on Machine Learning (ICML), 2021. 概 本文是一种可验证的鲁棒方法, 并且 阅读全文

摘要： Bai Y., Zeng Y., Jiang Y., Xia S., Ma X., Wang Y. Improving adversarial robustness via channel-wise activation suppressing. In International Conferenc 阅读全文

摘要： Signals, Systems and Inference, Chapter 11: Wiener Filtering (mit.edu) 基本 在图像处理的时候, 遇到了这个维纳滤波, 其推导的公式不是很理解, 于是上网查了查, 并做个简单的总结. 符号 说明 \(x[k]]\) 观测信号$x$ 阅读全文

摘要： Foret P., Kleiner A., Mobahi H., Neyshabur B. Sharpness-aware minimization for efficiently improving generalization. In International Conference on Le 阅读全文

摘要： Tolstlkhin I., Houlsby N., Kolesnikov A., Beyer L., Zhai X., Unterthiner T., Yung J., Steiner A., Keysers D., Uszkoreit J., Lucic M., Dosovitskly A. M 阅读全文

摘要： RKHS-wiki 概 这里对RKHS做一个简单的整理, 之前的理解错得有点离谱了. 主要内容 首先要说明的是, RKHS也是指一种Hilbert空间, 只是其有特殊的性质. Hilbert空间$\mathcal$, 其中的每个元素$f: \mathcal \rightarrow \mathbb\( 阅读全文

摘要： Hu H., Zhang Z., Xie Z., Lin S. Local relation networks for image recognition. In International Conference on Computer Vision (ICCV), 2019. 概 一种特殊的卷积? 阅读全文

摘要： Chen M., Radford A., Child R., Wu J., Jun H., Dhariwal P., Luan D., Sutskever I. Generative pretraining from pixels. In International Conference on Ma 阅读全文

摘要： Radford A., Narasimhan K., Salimans T. and Sutskever I. Improving language understanding by generative pre-training. 2018. Devlin J., Chang M., Lee K. 阅读全文

摘要： 上一部分介绍的blur能够将图片模糊化, 这部分介绍的是突出图片的边缘的细节. 什么是边缘呢? 往往是像素点跳跃特别大的点, 这部分和梯度的概念是类似的, 可以如下定义图片的一阶导数而二阶导数: \[ \frac{\partial f}{\partial x} = f(x+1) - f(x), \\ 阅读全文

摘要： Gonzalez R. C. and Woods R. E. Digital Image Processing (Forth Edition). import cv2 import matplotlib.pyplot as plt import numpy as np FILTERS filters 阅读全文

摘要： Heuristics-driven Pad and Crop He K., Zhang X., Ren S. and Sun J. Deep residual learning for image recognition. In IEEE Conference on Computer Vision 阅读全文

摘要： motivation 用两个BN(一个用于干净样本, 一个用于对抗样本), 结果当使用$\mathrm\(的时候, 精度能够上升, 而使用\)\mathrm$的时候, 也有相当的鲁棒性. 原文采用的是 \[ \alpha \mathcal{L}(f(x), y) + (1-\alpha) \math 阅读全文

摘要： Vaswani A., Shazeer N., Parmar N., Uszkoreit J., Jones L., Gomez A. N., and Kaiser L. Attention is all you need. In Advances in Neural Information Pro 阅读全文

摘要： motivation 观测用BBN的模式训练出来的模型, 配上不同的$\alpha$, 结果会如何. settings Attribute Value attack pgd-linf batch_size 128 beta1 0.9 beta2 0.999 dataset cifar10 descr 阅读全文

摘要： Gonzalez R. C. and Woods R. E. Digital Image Processing (Forth Edition). 令$r_k, k = 0, 1,2, \cdots, L-1$ 表示图片密度值为$k$, \[ h(r_k) = n_k, \: k = 0, 1, \c 阅读全文

摘要： Khemakhem I., Kingma D. P., Monti R. P. and Hyv"{a}rinen A. Variational autoencoders and nonlinear ICA: a unifying framework. In International Confere 阅读全文

摘要： motivation 不同层之间的特征分布有什么关系? settings STD Attribute Value batch_size 128 beta1 0.9 beta2 0.999 dataset cifar10 description STD=STD-sgd-0.1=128=default 阅读全文

摘要： motivation 用两个BN(一个用于干净样本, 一个用于对抗样本), 结果当使用$\mathrm\(的时候, 精度能够上升, 而使用\)\mathrm$的时候, 也有相当的鲁棒性, 但是二者不能兼得. 那么假设一个样本通过两种BN得到两个概率$p_$和$p_$, 并利用 \[ p = \alp 阅读全文