企业注册网站设计图片背景

目前在做实验，参考了一个新的网络架构之后发现训练时损失出现Nan，参数了出现了inf的情况，先说说我的排查经历。

首先肯定是打印损失，损失是最容易出现Nan的，有各种原因，网上也有很多解决办法，我这里就不一一赘述了，大伙打开CSDN就一搜就有很多很全的

我的问题是在训练的中间参数中出现了inf，导致最终的损失为NaN或者inf

用下面的代码判断参数是否出现了NaN或者inf

for i in range(5):   # exam是一个参数列表if torch.isnan(exeam[i]).any(): print('下表为{}的元素存在NaN！'.format(i))if torch.isinf(exeam[i]).any(): print('下表为{}的元素存在inf！'.format(i))

确定是哪些为NaN之后，直接上Relu或者归一化，很可惜，没用。。。

我参考的文章是这两篇

Vision Transformers for Single Image Dehazing

# feat是网络输出的结果，10通道
K, atp, tran, B = torch.split(feat, (1, 3, 3, 3), dim=1)# x是网络的输入
atp = K * atp - atp + x
tran = K * tran - tran + x
x = K * x - B + x
# H, W是限定的尺寸
rgb = x[:, :, :H, :W]
atp = atp[:, :, :H, :W]
tran = tran[:, :, :H, :W]