深度学习500问-第四章 经典网络 (1).pdf
立即下载
冷月如霜·胡狼
2025-01-09
输入
特征
参数
大小
14
训练
S2
28
Map
特征图
3.6 MB
第四章 经典网络
4.1 LeNet5
一种典型的用来识别数字的卷积网络是 LeNet-5。
4.1.1 模型结构
4.1.2 模型结构
LeNet-5 共有 7 层（不包含输入层），每层都包含可训练参数；每个层有多个
Feature Map，每个 FeatureMap 通过一种卷积滤波器提取输入的一种特征，然后
每个 FeatureMap 有多个神经元。
• C1 层是一个卷积层
输入图片：32 * 32
卷积核大小：5 * 5 卷积核种类：6
输出 featuremap 大小：28 * 28 （32-5+1）
神经元数量：28 * 28 * 6
可训练参数：（5 * 5+1） * 6（每个滤波器 5 * 5=25 个 unit 参数和一个 bias
参数，一共 6 个滤波器）
连接数：（5 * 5+1） * 6 * 28 * 28
• S2 层是一个下采样层
输入：28 * 28
采样区域：2 * 2
采样方式：4 个输入相加，乘以一个可训练参数，再加上一个可训练偏置。结
果通过 sigmoid
采样种类：6
输出 featureMap 大小：14 * 14（28/2）
神经元数量：14 * 14 * 6
可训练参数：2 * 6（和的权+偏置）
连接数：（2 * 2+1） * 6 * 14 * 14
S2 中每个特征图的大小是 C1 中特征图大小的 1/4
• C3 层也是一个卷积层
输入：S2 中所有 6 个或者几个特征 map 组合
卷积核大小：5 * 5
卷积核种类：16
输出 featureMap 大小：10 * 10
C3 中的每个特征 map 是连接到 S2 中的所有 6 个或者几个特征 map 的，表
示本层的特征 map 是上一层提取到的特征 map 的不同组合
存在的一个方式是：C3 的前 6 个特征图以 S2 中 3 个相邻的特征图子集为输
入。接下来 6 个特征图以 S2 中 4 个相邻特征图子集为输入。然后的 3 个以不
相邻的 4 个特征图子集为输入。最后一个将 S2 中所有特征图为输入。 则：可
训练参数：6 * （3 * 25+1）+6 * （4 * 25+1）+3 * （4 * 25+1）+（25 * 6+1）
=1516
输入/特征/参数/大小/14/训练/S2/28/Map/特征图/
输入/特征/参数/大小/14/训练/S2/28/Map/特征图/
-->