LSTM的预期隐藏状态维度不考虑批量大小

作者: 机器设备维修
发布时间: 2024-10-20 02:16:24 (12天前)
转自：

3 条回复

0#
回复此人
Charizard | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 更改.view（）以将[1，批量大小，embedding_size]反映为第一个维度。 </p> <P> 另外，你不需要初始化零张量，如果没有提供张量作为初始张量，则pytorch使用零张量。 </p> </DIV>

编辑
1#
回复此人
易米烊光 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 当你创建 <code> LSTM </code> ，国旗 <code> batch_first </code> 没有必要，因为它假定您输入的形状不同。来自文档： </p> <BLOCKQUOTE> <P> 如果为True，则输入和输出张量为（批量， seq，功能）。默认值：False </p> </BLOCKQUOTE> <P> 将LSTM创建更改为： </p> <pre> <code> self.lstm = nn.LSTM(input_size=embedding_size, num_layers=1, hidden_size=hidden_size) </code> </pre> <P> 此外，还有一个类型错误。当你创建 <code> decoder_input </code> 运用 <code> torch.from_numpy() </code> 它有一个 <code> dtype=torch.float64 </code> ，而 <code> decoder_input </code> 有默认值 <code> dtype=torch.float32 </code> 。更改您创建的行 <code> decoder_input </code> 喜欢的东西 </p> <pre> <code> decoder_input = Variable(torch.from_numpy(decoder_input)).cuda().float() </code> </pre> <P> 随着这两个变化，它应该工作正常:) </p> </DIV>

编辑

登录后才能参与评论