注册
登录
测试训练
为什么训练错误在不改变学习率的情况下跳跃
返回
为什么训练错误在不改变学习率的情况下跳跃
作者:
！啊啊
发布时间:
2024-12-19 02:03:57 (1月前)
转自：
<div class =“excerpt”> <span class =“result-highlight”> 训练 </跨度> 和 <span class =“result-highlight”> 测试 </跨度> 错误从大约68％跃升至92％。学习率相同（批量梯度下降）。批量大小为32.导致跳跃的原因是什么，以及如何解释跳转？ 我 <span class =“result-highlight”> 训练 </跨度> 一个卷积网络，有大约10个卷积层和几个汇集层。 <span class =“result-highlight”> 训练 </跨度> set约为250,000个样本（16,000个长度向量）。通过第一个时代，About，约50％ </DIV>
收藏
举报
2 条回复
0#
回复此人
甲基蓝
|
2019-08-31 10-32
<div class =“post-text”itemprop =“text”> <P> 在斯坦福的深度学习课程中找到了这张幻灯片 <a href="https://youtu.be/wEoyxE0GP2M?t=1h18m2s" rel="nofollow noreferrer"> https://youtu.be/wEoyxE0GP2M?t=1h18m2s </A> </p> <P> 给出的解释是这是参数初始化不良的症状。有一段时间几乎没有学习，然后突然参数调整到正确的方向，你的准确度和/或损失都会大幅增加。 </p> </DIV>
编辑
登录
后才能参与评论
