2021年4月22日
深度学习笔记-上溢和下溢
摘要： 上溢和下溢 下溢：指当一个接近于0的数字被四舍五入为0，这在某些方程中是非常致命的。比如除数下溢，导致程序异常。 上溢：当大数量级的数被近似为正负$\infty$时，之后的运算都可能返回非数字。比如指数运算。 对于这两种情况，我们需要进行数值稳定。 对Softmax进行数值稳定 softmax函数的 阅读全文
posted @ 2021-04-22 21:16 hikari_1994 阅读(1218) 评论(0) 推荐(0) 编辑