摘要： 扩散过程是一个逐渐在数据上加噪的马尔科夫链，直到最终变成一个完全的噪声。而扩散模型就是一个使用变分推断训练的参数化马尔科夫链。如上图所示。学习的是一个reverse process。 前提条件： 1. 马尔可夫性质：当前的状态只与之前一个时刻的状态有关； 2. 前向和反向状态服从高斯分布，而且变化比 阅读全文

摘要： 1.ViT 介绍 Vision Transformer是在最少改动Transformer结构的情况下，将Transformer应用到图像上。因此，将图片划分成patch，并将这些patch的线性嵌入序列作为输入，具体在下面详细介绍。这里的图像patch和NLP中的token相同。 但是在中等大小的数 阅读全文

摘要： 阅读全文

摘要： 1. GAN原理 1.1 从比较直观的角度理解 如图1、2所示，GAN包括一个生成器Generator和一个判别器Discriminator。其中，Generator是根据输入的一个vector生成一个图片，而判别器是将生成的图片输入网络，输出该图片为真实图片的概率。 图1 Generator 图2 阅读全文

摘要： VAE学习总结 VAE代码在VAE生成人脸代码一节。 阅读全文

摘要： 一、Batch Normalization（批量标准化）的介绍以及理解 在神经网络中，在每一层上，通常是将该层的输入乘以权重矩阵加上偏移值，然后将计算结果使用激活函数进行非线性变换。但是随着网络深度的增加，其激活函数的输入值（W*X+B）的分布会发生变化。 可能会向激活函数取值的饱和区域延伸（比如： 阅读全文

摘要： 一、训练加速 多GPU训练： 1.1 基于数据的并行 模型平均（Model Average）、同步随机梯度下降（SSGD）、异步随机梯度下降（ASGD） 模型平均（Model Average） 每个Client训练平均的训练数据，每个batch更新一个模型，然后分别将模型发送给Server，Serv 阅读全文

摘要： 一、图像读入、显示和保存 1.读入图像 retval = cv2.imread(文件名[, 显示控制参数]) 显示控制参数参数如下： cv2.IMREAD_UNCHANGED cv2.IMREAD_GRAYSCALE cv2.IMREAD_COLOR …… 2.显示图像 None = cv2.ims 阅读全文

摘要： 1.项目简介 本项目实现人脸识别系统。 项目基本思路如下：对于输入的图片，首先通过MTCNN网络进行人脸检测，获取到人脸图片；并使用MTCNN网络检测到的人脸关键点信息通过仿射变换进行人脸对齐；然后使用insightface进行人脸特征提取，比较数据库中的数据，识别出人脸。项目结构如图所示： 图1 阅读全文

摘要： 支持向量机（support vector machine，SVM）是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使其有别于感知机。支持向量机还包括核技巧，使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划问题，也等价于正则 阅读全文