咖啡| resolver.prototxt值设置策略

作者: 狗头军师
发布时间: 2024-09-15 01:34:41 (4月前)

2 条回复

1#
回复此人
v-star*위위 | 2020-07-30 14-51

为了以有意义的方式设置这些值，您需要更多有关数据的信息： 1.训练集大小确定您拥有的训练样例总数，我们称此数量T。 2.培训批次大小单个批次中一起处理的培训示例的数量，通常由中的输入数据层设置'train_val.prototxt'。例如，在此文件中，火车的批量大小设置为256。让我们用表示此数量tb。 3.验证集大小预留用于验证模型的示例总数，我们用表示V。 4.batch_size在测试阶段设置的验证批次大小值。在此示例中，将其设置为50。我们称其为vb。现在，在培训期间，您希望每隔一段时间对网络的性能进行无偏估计。为此，您可以在验证集上运行网络以进行test_iter迭代。要涵盖整个验证集，您需要具有test_iter = V/vb。您想多久获得一次此估算？这完全取决于您。如果您有很大的验证集和很慢的网络，那么验证太频繁会使训练过程太长。另一方面，没有足够频繁地进行验证可能会阻止您注意培训过程是否以及何时收敛。test_interval确定您验证的频率：通常对于设置test_interval为5K的大型网络，对于较小和较快的网络，可以选择较低的值。同样，一切取决于您。为了覆盖整个训练集（完成一个“时期”），您需要运行T/tb迭代。因此，通常一个火车要经过几个时期max_iter=#epochs*T/tb。关于iter_size：这允许平均几个训练小批次的梯度，有关更多信息，请参见此线程。

编辑

登录后才能参与评论