2021年7月8日
显存不足造成nan错误
摘要： 用MMDetection训练过程中,全连接层(Fully Connected Layers,FC)出现nan错误,但是全连接层只是线性组合,而且数值也不大,也没有计算损失函数,怎么可能出现nan错误? 经过研究发现,原来是显存不足造成的,由于显存不足,有些tensor没有了,就造成了nan错误,进行 阅读全文
posted @ 2021-07-08 21:14 MSTK 阅读(1093) 评论(0) 推荐(0) 编辑