深度学习基础 - 上.pdf
立即下载
一瓶泡沫
2024-12-21
神经
感知机
输出
网络
单元
简单
threshold
歌手
函数
下图
1.8 MB
88
第三章 深度学习基础
3.1基本概念
3.1.1神经网络组成？
为了描述神经网络，我们先从最简单的神经网络说起。
感知机
简单的感知机如下图所示：
其输出
i ii
i ii
thresholdxwif
thresholdxwif
output
,1
,0
。
假如把感知机想象成一个加权投票机制，比如 3 位评委给一个歌手打分，打分分别为 4
分、1 分、-3 分，这 3 位评分的权重分别是 1、3、2，则该歌手最终得分为
4*1+1*3+（−3）*2=1。按照比赛规则，选取的 threshold 为 3，说明只有歌手的综合评分
大于 3 时，才可顺利晋级。对照感知机，该选手被淘汰，因为
0,3 outputthresholdxwi ii
用—b 代替 threshold。输出变为：
0 ,1
0 ,0
bxwif
bxwif
output
设置合适的 w 和 b，一个简单的感知机单元的与非门表示如下：
当输入为 0,1 时，感知机输出为 0*（-2）+1*（-2）+3=1。
复杂一些的感知机由简单的感知机单元组合而成：
89
Sigmoid单元
感知机单元的输出只有 0 和 1，实际情况中，更多的输出类别不止 0 和 1，而是[0,1]上的
概率值，这时候就需要 sigmoid 函数把任意实数映射到[0,1]上。
神经元的输入
bxwz
i
ii
假设神经元的输出采用 sigmoid 激活函数
zez 1
1
sigmoid 激活函数图像如下图所示：
全连接神经网络
即第 i 层的每个神经元和第 i-1 层的每个神经元都有连接。
想要获取完整版资料，加入机器学
习解惑者QQ群，更有顶尖论文、
项目经验以及面试经验分享，干货
多多，不容错过！！！
90
输出层可以不止有 1 个神经元。隐藏层可以只有 1 层，也可以有多层。输出层为多个神经
元的神经网络例如下图：
3.1.2神经网络有哪些常用模型结构？
下表包含了大部分常用的模型
https://blog.csdn.net/nicholas_liu2017/articl
神经/感知机/输出/网络/单元/简单/threshold/歌手/函数/下图/
神经/感知机/输出/网络/单元/简单/threshold/歌手/函数/下图/
-->