PROSAGA码农传奇-深度学习-Caffe Net不训练（训练时损失不变）

Caffe Net不训练（训练时损失不变）

作者: 筱梨
发布时间: 2024-12-27 08:56:45 (5天前)
转自：

<div class =“post-text”itemprop =“text”>
  <P>
    我不知道为什么你的网不学习。但是您可能需要考虑以下几点：
  </p>
  <OL>
    <LI>
      你的测试阶段：测试
       <code>
        batch_size
      </code>
       是50和
       <code>
        test_iter
      </code>
       是200表示您正在验证
       <code>
        50*200=10,000
      </code>
       例子。由于你总共只有1,800个例子 - 这个大的含义是什么
       <code>
        test_iter
      </code>
       值？
      <BR/>
      
看着
      <a href="https://stackoverflow.com/a/33786620/1714410">
        这个帖子
      </A>
       有关此问题的更多信息。
    </LI>
    <LI>
      您似乎正在“按原样”使用图像，这意味着您的输入值范围为[0..255]。从网络的输入中减去平均值是很常见的，这样你就可以得到网络的零均值输入。
    </LI>
    <LI>
      考虑一下你的训练
      <a href="https://stackoverflow.com/q/40510706/1714410">
        调试信息
      </A>
      ：你的渐变消失了吗？你有没有“活跃”的图层（例如，所有负值都带有a的图层
       <code>
        "ReLU"
      </code>
       在顶部实际上是不活跃的）。
    </LI>
    <LI>
      获得恒定的损失值表明，无论输入如何，您的图层都只预测一个标签
      <a href="https://stackoverflow.com/a/37659171/1714410">
        洗牌
      </A>
       你的数据集。
    </LI>
  </醇>
</DIV>