Pytorch操作检测NaNs

作者: 滔滔江水
发布时间: 2024-08-21 09:48:10 (3天前)
转自：

3 条回复

0#
回复此人
Minions | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 你总是可以利用这个事实 <code> nan != nan </code> ： </p> <pre> <code> >>> x = torch.tensor([1, 2, np.nan]) tensor([ 1., 2., nan.]) >>> x != x tensor([ 0, 0, 1], dtype=torch.uint8) </code> </pre> <P> 使用pytorch 0.4也有 <a href="https://pytorch.org/docs/stable/torch.html?highlight=isnan#torch.isnan" rel="noreferrer"> <code> torch.isnan </code> </A> ： </p> <pre> <code> >>> torch.isnan(x) tensor([ 0, 0, 1], dtype=torch.uint8) </code> </pre> </DIV>

编辑
1#
回复此人
v-star*위위 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 从PyTorch 0.4.1开始就有了 <a href="https://pytorch.org/docs/stable/autograd.html#torch.autograd.detect_anomaly" rel="noreferrer"> <code> detect_anomaly </code> </A> 上下文管理器，它自动插入相当于的断言 <code> assert not torch.isnan(grad).any() </code> 在向后传播的所有步骤之间。在向后传递期间出现问题时非常有用。 </p> </DIV>

编辑

登录后才能参与评论