深度学习
2017 年 9 月 4 日
ii
目录
致谢 xvi
网站 xxii
数学符号 xxiii
第一章 引言 1
1.1 本书面向的读者 . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2 深度学习的历史趋势 . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 神经网络的众多名称和命运变迁 . . . . . . . . . . . 12
1.2.2 与日俱增的数据量 . . . . . . . . . . . . . . . . . . . 17
1.2.3 与日俱增的模型规模 . . . . . . . . . . . . . . . . . . 19
1.2.4 与日俱增的精度、复杂度和对现实世界的冲击 . . . . 22
第一部分 应用数学与机器学习基础 25
第二章 线性代数 27
2.1 标量、向量、矩阵和张量 . . . . . . . . . . . . . . . . . . . . 27
2.2 矩阵和向量相乘 . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.3 单位矩阵和逆矩阵 . . . . . . . . . . . . . . . . . . . . . . . . 31
2.4 线性相关和生成子空间 . . . . . . . . . . . . . . . . . . . . . . 32
2.5 范数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.6 特殊类型的矩阵和向量 . . . . . . . . . . . . . . . . . . . . . . 36
2.7 特征分解 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
iii
iv 目录
2.8 奇异值分解 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
2.9 Moore-Penrose 伪
矩阵/学习/与日俱增/第一/向量/数学/22/冲击/类型/世界/
矩阵/学习/与日俱增/第一/向量/数学/22/冲击/类型/世界/
-->