简介


引言

2015年05月25日。之前在csdn写博客,可是csdn经常进不去,所以转战博客园,就用了一键博客搬家功能,其中诺有版面问题,请来这边:http://blog.csdn.net/shouhuxianjian


\(\color{red}{【自然语言处理】}\)

0 引言

NLP之引言

1 词向量

NLP之静态词向量
[NLP之动态词向量]

2 Transformer

1、Transformer[vanilla]

2 大语言模型LLM

NLP之预训练语言模型GPT
NLP之预训练语言模型BERT
[NLP之预训练语言模型进阶]

3 多模态融合

[NLP之多模态融合的预训练模型]

4 大模型压缩加速

4.1 蒸馏distilling

4.2 量化quant

4.3 剪枝pruning

4.4 专家化MOE


\(\color{red}{【推荐系统】}\)

一、推荐系统-数据篇

数据之物料池排序

二、推荐系统-特征篇

[FM]
[DeepFM]
[AutoFIS]

三、推荐系统-模型篇

1)模型之召回 recall match

召回之引言
youtubeDNN
DSSM双塔模型

2)模型之粗排 pre-ranking

粗排之引言
COLD
FSCD
[AutoFAS]

3)模型之精排 ranking

精排之引言
DIN
[DIEN]
[MIMN]
[SIM]

4)模型之重排 rerank

重排之引言
[MMR]
[GRN]

5)模型之混排

混排之引言

四、推荐系统-指标篇

常见术语
评估指标

五、推荐系统-系统及架构篇


\(\color{red}{【广告系统|计算广告】}\)

暂无


\(\color{red}{【计算机视觉】}\)

目标检测

0、非极大抑制
1、简单介绍及目标检测目录
2、faster r-cnn
3、yolo v1 ; yolo v2
4、ssd
5、rfcn

人脸检测

0、综述
1、级联CNN
2、Multi-view face detection&& MTCNN
3、Hybrid-Resolution
4、Face R-CNN
5、SSH
6、FaceBoxes
7、S^3FD
8、Face R-FCN
9、PyramidBox
10、DSFD

人脸识别

0、综述
1、MTCNN的人脸对齐方式
2、FaceNet
3、Center Face
4、L-Softmax Loss
5、L2-Norm Softmax Loss
6、ArcFace
7、MobileFaceNet
8、MobiFace

图像生成

[Stable Diffusion]
[ControlNet]

opencv

1、opencv1-安装及资料
2、opencv2-新特性及Mat
3、opencv3-core之基本操作
4、opencv4-highgui之视频的输入和输出以及滚动条
5、opencv5-objdetect之级联分类器
6、opencv6.1-imgproc图像处理模块之平滑与形态学操作
7、opencv6.2-imgproc图像处理模块之图像尺寸上的操作及阈值
8、opencv6.3-imgproc图像处理模块之边缘检测
9、opencv6.4-imgproc图像处理模块之直方图与模板
10、opencv6.5-imgproc图像处理模块之轮廓
11、opencv7-ml之svm
12、opencv8-GPU之相似性计算
13、

数字图像处理

1、灰度图与彩图的双边滤波
2、计算机视觉-sift(1)原理
3、计算机视觉-sift(2)代码理解

图像修复

1、Image Restoration[Deep Image Prior]

工程

1、模型转换[yolov3模型在keras与darknet之间转换]
2、关于MSCOCO_text数据集的探索


\(\color{red}{【深度学习】}\)

综述

0、从AlexNet开始发展至今的综述[未更新]
1、CNN结构综述[未更新]
2、CNN可视化综述[未更新]
3、deep learning 的综述
4、Notes on Convolutional Neural Networks
5、如何高效的通过BP算法来训练CNN

特征提取器

0、目录及对应参考文献
1、VGG
2、inceptionv1(googlenet); inception v2(BN); inception v3; inception v4
在inception v3论文中,作者定义了inception v2 和v3,然而在inception v4论文中,作者又把BN作为inception v2。
3、ResNet; ResNet V2
4、DenseNet
5、SENet

PS:http://www.asimovinstitute.org/neural-network-zoo/神经网络模型结构zoo

循环神经网络

1、目录及对应参考文献
2、简单的综述
3、QRNN
4、SRU
5、Recurrent Neural Network[CTC]

对抗生成网络

1、目录及对应参考文献
2、引言
3、Vanilla GAN
4、deep multi-scale video prediction beyond mean square error
5、AAE
6、Improved GAN
7、EBGAN
8、iGAN
9、LSGAN
10、pix2pix
11、Pre-WGAN
12、Wasserstein GAN
13、CAAE
14、CycleGAN
15、BEGAN

Hinton的CSC321课程(完结,待文字润色)

1、lecture1-NN的简介
2、lecture2-NN结构的主要类型的概述和感知机
3、lecture3-线性神经元和算法
4、lecture4-神经网络在语言上的应用
5、lecture5-对象识别与卷积神经网络
6、lecture6-mini批量梯度训练及三个加速的方法
7、lecture7-序列模型及递归神经网络RNN
8、lecture8-RNN的训练方法之二三
9、lecture9-提高模型泛化能力的方法
10、lecture10-模型的结合与全贝叶斯学习
11、lecture11-hopfiled网络与玻尔兹曼机
12、lecture12-玻尔兹曼机和受限玻尔兹曼机
13、lecture13-BP算法的讨论和置信网
14、lecture14-RBM的堆叠、修改以及DBN的决策学习和微调
15、lecture15-自动编码器、语义哈希、图像检索
16、lecture16-联合模型、分层坐标系、超参数优化及本课未来的探讨


\(\color{red}{【机器学习】}\)

1、AI1.1-人工智能史
2、简单的介绍人工智能的机器学习

数学

1、数学-矩阵计算(1)矩阵和向量的求导法则
2、数学-矩阵计算(2)矩阵函数微积分前奏
3、数学-矩阵计算(4)两种布局

概率&概率图

1、【概率统计】常见分布(一)
2、PRML1-引言
3、PRML2-概率分布
4、PRML5-神经网络(1);PRML5-神经网络(2)
5、PGM1.1-简介

Machine Learning

1、机器学习评判指标
2、KNN-笔记(1); KNN-笔记(2)
3、线性降维-笔记(1); 线性降维-笔记(2)
4、adaboost-笔记(1)
5、贝叶斯-笔记(1)
6、决策树-笔记(1)
7、SVM-笔记(1)
8、logistic回归和最大熵
9、高斯分布-笔记(1); 高斯混合模型
10、非线性降维[content]
11、《机器学习系统设计》(1); 《机器学习系统设计》(2)

AutoML

1、Automl基于超大数据下的数据分发方案探讨

Clustering

1、测度
2、评估方法
3、谱聚类


\(\color{red}{【python】}\)

python

1、python2.1-原理之琐碎技巧
2、Python2.2-原理之类型和运算
3、Python2.3-原理之语句和语法
4、Python2.4-原理之函数
5、Python2.5-原理之模块
6、Python2.6-原理之类和oop(上)
7、Python2.6-原理之类和oop(下)
8、Python2.7-异常和工具
9、
10、
11、Python3.1-标准库之Numpy

Theano

1、Theano1.1-安装
2、Theano2.1.1-基础知识之准备工作
3、Theano2.1.2-基础知识之第一步:代数
4、Theano2.1.3-基础知识之更多的例子
5、Theano2.1.4-基础知识之图结构
6、Theano2.1.5-基础知识之打印出theano的图
7、Theano2.1.6-基础知识之在thenao中的求导
8、Theano2.1.7-基础知识之设置的配置和编译模式
9、Theano2.1.8-基础知识之装载和保存
10、Theano2.1.9-基础知识之条件
11、Theano2.1.10-基础知识之循环
12、Theano2.1.11-基础知识之稀疏
13、Theano2.1.12-基础知识之使用GPU
14、Theano2.1.13-基础知识之PyCUDA、CUDAMat、Gnumpy的兼容
15、Theano2.1.14-基础知识之理解为了速度和正确性的内存别名
16、Theano2.1.15-基础知识之theano如何处理shapre信息
17、Theano2.1.16-基础知识之调试:常见的问题解答
18、Theano2.1.17-基础知识之剖析theano的函数
19、Theano2.1.18-基础知识之theano的扩展
20、
21、
22、Theano2.1.21-基础知识之theano中多核的支持
23、Theano3.1-练习之初步介绍
24、Theano3.2-练习之数据集及目标函数介绍
25、Theano3.3-练习之逻辑回归
26、Theano3.4-练习之多层感知机
27、Theano3.5-练习之深度卷积网络
28、

Tensorflow

1、让tensorflow访问minio生成的s3接口
2、Tensorflow[源码安装时bazel行为解析]
3、Tensorflow[目录结构]
4、Tensorflow[架构流程]
5、Tensorflow-hub[例子解析1]
6、Tensorflow-hub[例子解析2]
7、Tensorflow[LSTM]

工程

1、python复现jedis中客户端分片访问
2、同步pypi源
3、[Synthetic-data-with-text-and-image]
4、Crowdsourcing[智能辅助标注]
5、Python3.2-re模块之常用正则记录


\(\color{red}{【CUDA】}\)

CUDA

1、CUDA1-hello world
2、CUDA1.1-函数类型限定符与变量类型限定符
3、CUDA2.1-原理之索引与warp
4、CUDA2.2-原理之存储器访问
5、CUDA2.3-原理之任意长度的矢量求和与用事件来测量性能
6、CUDA2.4-原理之性能优化及浮点运算

工程

1、nvidia[单卡内部的调度原理]
2、nvidia[GPU架构发展对比]

TensorRT

0、TensorRT&Sample&Python[introductory_parser_samples]
1、TensorRT&Sample&Python[uff_ssd]
2、TensorRT&Sample&Python[yolov3_onnx]
3、TensorRT&Sample&Python[uff_custom_plugin]
4、TensorRT&Sample&Python[end_to_end_tensorflow_mnist]
5、TensorRT&Sample&Python[network_api_pytorch_mnist]
6、TensorRT&Sample&Python[fc_plugin_caffe_mnist]
7、模型加速[tensorflow&tensorrt]

混合编程

1、混合编程[python+cpp+cuda]


\(\color{red}{【联邦学习】}\)

1、联邦学习[隐私集合求交PSI]
2、隐私计算[引言]
3、联邦学习[纵向联邦学习中两方解决方案]


\(\color{red}{【julia】}\)

1、[julia]本地离线安装package


\(\color{red}{【CPP】}\)

1、CPP2-基础部分(1)
2、QT1.1-与Opencv的hello world


\(\color{red}{【linux】}\)

docker

1、docker[caffe&&pycaffe]

shell

1、shell杂记
2、linux echo设置颜色

posted @ 2015-05-25 22:55  仙守  阅读(1993)  评论(0编辑  收藏  举报