首先,始终规范化您的网络输入是非常有用的(有不同的方法,除以最大值,减去平均值并除以标准和更多)。这将有助于优化器。
其次,在你的情况下实际上最重要的是,在RNN输出之后你正在应用sigmoid函数。如果检查sigmoid函数的图,您将看到它实际上将所有输入扩展到范围(0,1)。所以基本上无论你的输入有多大,你的输出总是最多为1.因此你不应该在回归问题的输出层使用任何激活函数。
希望能帮助到你。