目录

第1章 深度学习基础1
1.1 数学基础2
1.1.1 矩阵论2
1.1.2 概率论3
1.1.3 优化分析5
1.1.4 框架分析6
1.2 稀疏表示8
1.2.1 稀疏表示初步8
1.2.2 稀疏模型20
1.2.3 稀疏认知学习、计算与识别的范式24
1.3 机器学习与神经网络31
1.3.1 机器学习31
1.3.2 神经网络36
参考文献38
第2章 深度前馈神经网络41
2.1 神经元模型42
2.1.1 生物神经元42
2.1.2 人工神经网络神经元43
2.2 多层前馈神经网络45
2.3 反向传播算法77
2.4 深度前馈神经网络的学习与推断81
参考文献87
第3章 卷积神经网络84
3.1 卷积神经网络的由来概述及数学基础85
3.1.1 二维卷积85
3.1.2 卷积的数学内涵86
3.2 深度卷积神经网络89
3.2.1 卷积神经网络的架构89
3.2.2 学习算法及训练策略89
3.2.3 模型优缺点分析71
3.3 深度卷积神经网络73
3.3.1 经典卷积神经网络73
3.3.2 卷积模型的创新与发展75
3.3.3 深度卷积神经网络分析及应用举例75
3.4 全卷积神经网络77
3.4.1 全卷积网络的原理77
3.4.2 网络模型的创新及应用举例79
参考文献80
第4章 循环神经网络83
4.1 自编码器84
4.1.1 逐层学习策略84
4.1.2 自编码器84
4.2 循环神经网络的模型及范式90
4.2.1 循环神经网络的基本模型90
4.3 深度置信网络/深度信念网络93
4.3.1 受限玻尔兹曼机93
4.3.2 深度信念网络94
参考文献96
第5章 模型优化与性能度量99
5.1 模型的性能度量100
5.1.1 分类性能度量100
5.1.2 衡量指标与数学物理描述102
第6章 深度SVM网络113
6.1 深度支持向量机的原理114
6.1.1 训练结构115
6.1.2 网络数学原理117
6.2 深度PCA网络117
6.3 深度聚类网络121
6.4 深度极限学习机121
6.4.1 极限学习机121
6.4.2 深度极限学习机123
6.5 深度霍普菲尔德网络126
6.6 深度玻尔兹曼机128
6.7 深度多种模型融合131
6.7.1 级联特征融合131
6.7.2 多源特征融合133
参考文献133
第7章 深度生成网络137
7.1 生成式对抗网络基本原理137
7.1.1 网络模型的基本原理137
7.1.2 深度生成对抗网络的训练139
7.2 深度卷积生成对抗网络141
7.2.1 网络模型的训练141
7.2.2 网络模型的典型应用146
7.3 深度生成网络模型的新范式151
7.3.1 生成式网络模型的新范式151
7.3.2 模型架构创新与训练范式154
7.4 应用级下两种网络生成式对抗网络155
7.4.1 基于条件生成式对抗式网络155
7.4.2 基于信息最大化生成式对抗式网络160
7.5 变分自编码器165
参考文献182
第8章 深度卷积神经网络与深度二维特征编码187
8.1 深度卷积神经网络188
8.1.1 网络模型的运动机188
8.1.2 网络模型的训练190
8.2 深度二维特征编码192
8.2.1 网络基本结构192
8.2.2 网络的数学原理195
参考文献177
第9章 深度循环神经网络180
9.1 深度循环神经网络181
9.1.1 循环网络的生物机理181
9.1.2 典型的循环神经网络181
9.1.3 循环神经网络的数学原理186
9.2 深度递归神经网络188
9.2.1 网络模型的结构188
9.2.2 网络模型的训练189
9.3 长短期记忆网络190
9.3.1 改进的结构190
9.3.2 长短期记忆网络的数学分析191
9.4 典型的长短期记忆网络192
9.4.1 典型的长短期记忆网络192
9.4.2 深度递归神经网络的应用举例194
参考文献194
第10章 深度强化学习197
10.1 深度强化学习简介198
10.1.1 深度强化学习的基本要素198
10.1.2 典型策略198
10.1.3 控制能力201
10.2 深度Q网络的结构与原理202
10.2.1 深度Q-Network数学分析202
10.2.2 深度Q网络的应用204
10.3 深度阿耳法狗—AlphaGo206
10.3.1 AlphaGo原理分析206
10.3.2 AlphaGo的应用207
参考文献207
第11章 深度学习的新体系及其深度发展209
11.1 CaKe平台210
11.1.1 CaKe平台发展渊源210
11.1.2 CaKe平台的创新211
11.1.3 CaKe平台的深度学习213
11.2 TensorFlow平台215
11.2.1 TensorFlow平台发展渊源215
11.2.2 深度卷积生成对抗模型DCGAN216
11.2.3 模型分析220
11.3 MXNet平台220
11.3.1 MXNet平台发展渊源220
11.3.2 VGG-16和VGG-19的深度学习222
11.3.3 对比实验结果分析225
11.4 Torch平台226
11.4.1 Torch平台发展渊源226
11.4.2 三维卷积网络227
11.4.3 三维卷积网络的SAR图像分类228
11.5 Theano平台233
11.5.1 Theano平台发展渊源233
11.5.2 LeNet-5网络233
11.5.3 LeNet-5网络的SAR图像分类236
参考文献238
第12章 基于深度神经网络的SAR/PolSAR影像地物分类240
12.1 数据集及应用目的241
12.1.1 数据集说明241
12.1.2 实验数据244
12.1.3 研究目的247
12.2 基于循环神经网络的SAR影像地物分类247
12.2.1 循环神经网络的结构与原理247
12.2.2 基于循环神经网络的SAR影像地物分类257
12.3 基于深度卷积网络的SAR与PolSAR影像分类263
12.3.1 深度卷积网络的结构与原理263
12.3.2 基于深度卷积网络的SAR与PolSAR影像分类271
12.4 基于二维深度学习网络的PolSAR影像地物分类271
12.4.1 基于深度卷积网络的PolSAR影像地物分类271
12.4.2 基于生成式对抗网络的PolSAR影像地物分类274
12.5 基于深度神经网络的SAR影像的变化检测280
参考文献284
第13章 基于深度神经网络的SAR影像变化检测285
13.1 数据集及应用目的285
13.1.1 研究目的285
13.1.2 数据集说明288
13.2 基于深度学习的SAR特征的SAR影像变化检测289
13.2.1 基本方法与实现策略289
13.2.2 实验结果与分析294
13.3 基于深度学习的SAR特征的SAR影像变化检测299
13.3.1 基本方法与实现策略299
13.3.2 实验结果与分析305
13.4 基于CNN的SAR影像变化检测307
13.4.1 基本方法与实现策略307
13.4.2 实验结果与分析309
参考文献309
第14章 基于深度神经网络的关键因素分类与建模311
14.1 数据集及研究目的312
14.1.1 高光谱数据块312
14.1.2 高光谱数据的研究目的313
14.2 基于字典的高光谱数据分类314
14.2.1 基于字典的高光谱数据影像地物分类319
14.2.2 基于字典的高光谱数据影像地物分类323
14.3 基于不同网络结构的高光谱数据影像地物分类325
14.3.1 基于不同网络结构的高光谱数据影像地物分类325
14.3.2 基于不同网络结构的高光谱数据影像地物分类328
14.4 实验设计及分类结果333
参考文献338
第15章 基于深度学习网络的目标检测与识别341
15.1 数据集及应用目的341
15.2 基于深度学习的目标检测与识别343
15.2.1 深度CNN网络343
15.2.2 Faster R-CNN348
15.2.3 R-FCN352
15.3 基于对抗性的目标检测与识别353
15.3.1 YOLO353
15.3.2 对比实验结果与分析359
15.4 基于学习模型的目标检测与识别360
15.4.1 基于深度学习的全目标检测360
15.4.2 基于深度学习的全目标检测365
15.4.3 对比实验结果与分析365
参考文献365
第16章 展望与发展369
16.1 总结与发展历史分析369
16.1.1 从机器学习、稀疏表示到深度学习369
16.1.2 从深度神经网络到深度学习371
16.1.3 深度学习的发展历程371
16.2 深度学习的应用分析375
16.2.1 目标检测与识别375
16.2.2 生物特征识别376
16.2.3 自然语言处理376
16.2.4 图像分类377
16.2.5 视频分类378
16.2.6 序列分类378
16.2.7 迁移不变性378
16.2.8 多尺度、多分辨率特征提取378
16.3 基于稀疏表示的深度学习方向380
16.3.1 生物神经领域关于大脑、认知、注意等的最新研究进展380
16.3.2 深度学习网络的进一步研究方向382
参考文献385
附录A 基于深度学习的经典任务性能分析386
附录B 代码信息395