实际上,进行架构更改会使学到的功能不一致。
但是,没有理由不在更改下面的层中使用学习权重 - 这些层不受更改的影响,因此它们可以从初始化中受益。
至于其他层,我认为从训练过的权重初始化不应该比随机的更差,为什么不呢?
不要忘记使用随机权重初始化任何新图层(caffe中的默认值为零 - 这可能会导致学习上的麻烦)。