01绪论
1.1机器学习与深度学习2
1.2机器学习方法类型3
1.3机器学习常见算法4
1.4深度学习的前世今生6
1.5深度学习的应用8
1.6深度学习开源工具简介10
1.6.1TensorFlow10
1.6.2PyTorch10
1.6.3CNTK10
1.6.4Keras11
1.6.5MXNet11
1.6.6Caffe11
1.6.7OpenAIGym11
1.7本书主要学习内容12
1.8本章小结13
1.9习题13
02神经网络与深度神经网络
2.1神经元与感知器16
2.1.1生物神经元与神经元模型16
2.1.2感知器18
2.2反向传播算法19
2.2.1前馈计算19
2.2.2反向传播20
2.3神经网络的连接23
2.3.1前馈神经网络23
2.3.2反馈神经网络24
2.3.3全局逼近网络和局部逼近网络24
2.3.4自组织特征映射网络25
2.3.5自适应共振理论ART模型25
2.4深度神经网络与深度学习26
2.5常用的函数模型28
2.5.1激活函数28
2.5.2损失函数30
2.6本章小结32
2.7习题32
03卷积神经网络
3.1大脑视觉皮层的信息分层处理机制34
3.2感受野与权值共享35
3.3卷积神经网络的层级结构和组成37
3.3.1卷积层37
3.3.2池化层38
3.3.3全连接层38
3.4卷积神经网络算法39
3.4.1算法的训练39
3.4.2LeNet-5模型40
3.5网络的卷积层设计41
3.5.1跨步卷积（Stride Convolution）42
3.5.2零填充（Zero Padding）43
3.5.3非共享卷积（Unshared Convolution）44
3.5.4平铺卷积（Tiled Convolution）44
3.6CNN的经典网络结构45
3.6.1AlexNet45
3.6.2VGGNet46
3.6.3GoogLeNet46
3.6.4ResNet48
3.6.5DenseNet48
3.7CNN用于人脸表情分类49
3.7.1图像的预处理49
3.7.2用于分类的CNN网络设计50
3.7.3实验结果51
3.8本章小结52
3.9习题52
04循环神经网络
4.1循环神经网络54
4.1.1循环神经元展开54
4.1.2随时间反向传播算法57
4.1.3梯度消失和梯度爆炸61
4.2长短期记忆网络61
4.2.1输入门、遗忘门和输出门62
4.2.2LSTM模型62
4.2.3LSTM的计算64
4.3循环神经网络设计65
4.3.1双向循环网络66
4.3.2深度循环神经网络66
4.3.3LSTM的变体67
4.4循环神经网络的应用69
4.5基于RNN的语言模型69
4.6本章小结72
4.7习题72
05目标检测
5.1基于候选区域的目标检测算法74
5.1.1R-CNN算法75
5.1.2SPP-NET算法75
5.1.3FastR-CNN算法76
5.1.4FasterR-CNN算法77
5.1.5MaskR-CNN算法78
5.2基于回归预测的目标检测算法79
5.2.1SSD算法79
5.2.2YOLO算法80
5.2.3YOLOv2算法82
5.2.4YOLOv3算法84
5.3目标检测算法发展趋势85
5.4人体行为检测86
5.4.1网络超参数的选择86
5.4.2模型的训练87
5.4.3模型测试89
5.5本章小结91
5.6习题91
06图像描述
6.1图像描述方法94
6.1.1模板方法与检索方法94
6.1.2编码解码结构方法95
6.2编码解码图像描述96
6.2.1编码解码结构原理96
6.2.2编码解码结构的图像描述模型97
6.3注意力机制图像描述方法98
6.3.1注意力机制原理98
6.3.2注意力机制在图像描述中的应用100
6.4图像描述示例103
6.4.1图像描述的数据集103
6.4.2生成图像描述104
6.4.3图像描述代码解析106
6.5图像描述应用前景110
6.5.1图像检索110
6.5.2人机交互110
6.5.3智能监控111
6.6本章小结111
6.7习题111
07生成对抗网络
7.1生成式模型114
7.1.1一个极具挑战的机器学习问题114
7.1.2生成式模型分类115
7.2生成对抗网络基本原理115
7.2.1GAN的思想与基本形式115
7.2.2GAN的优势与问题116
7.3生成式对抗网络的设计117
7.3.1条件生成式对抗网络117
7.3.2拉普拉斯金字塔生成式对抗网络118
7.3.3深度卷积生成式对抗网络120
7.3.4Wasserstein GAN121
7.4GAN的应用122
7.4.1计算机视觉领域122
7.4.2语言和语音领域124
7.4.3半监督领域125
7.5基于DCGAN的手写数字生成实例125
7.6本章小结128
7.7习题128
08深度迁移学习
8.1迁移学习130
8.1.1迁移学习的分类130
8.1.2迁移学习的形式化定义131
8.1.3度量准则—距离和相似度131
8.2深度网络的可迁移性132
8.3深度网络的适配134
8.3.1核心思想—数据分布自适应134
8.3.2DDC方法134
8.3.3DAN方法135
8.4迁移学习的应用136
8.5VGG迁移—识别花朵类型137
8.6本章小结140
8.7习题140
09深度强化学习
9.1强化学习142
9.1.1奖励驱动行为思想142
9.1.2强化学习的基本框架142
9.1.3强化学习算法143
9.2深度强化学习的突破与问题144
9.3DRL算法—深度Q网络146
9.4深度Q网络的变体148
9.4.1深度双Ｑ网络148
9.4.2深度循环Q网络148
9.4.3基于优先级回放的深度Q网络149
9.4.4异步多步深度Q网络150
9.4.5彩虹深度Q网络150
9.5深度强化学习的应用151
9.5.1机器人控制151
9.5.2计算机视觉152
9.5.3自然语言处理152
9.5.4博弈论领域153
9.6本章小结153
9.7习题153
附录1CNN用于人脸表情分类155
附录2基于DCGAN的手写数字生成实例159
附录3VGG迁移——识别花朵类型165
附录4深度学习资源171
参考文献175

本书较为全面地介绍了深度学习的基本概念、算法原理以及实现框架。全书共9章，分别介绍了深度学习的发展历史、神经网络与深度神经网络、卷积神经网络、循环神经网络、深度学习在目标检测和图像描述中的应用、生成对抗网络、深度迁移学习和深度强化学习等，并提供了应用实例，旨在通过练习和操作实践帮助读者巩固所学的内容。本书可作为高等院校人工智能、计算机、自动化、电子等相关专业的深度学习教材，也可供人工智能、图像处理、计算机等专业研究人员和广大人工智能及深度学习技术的爱好者自学使用，还可作为人工智能技术培训的教材。