C# NAN和INF

今天一个同事反映除0报nan,自己做了个demo测试下。浮点数除0主要有一下问题:

以下内容来自网上

inf一般是因为得到的数值,超出浮点数的表示范围(溢出,即阶码部分超过其能表示的最大值);而nan一般是因为对浮点数进行了未定义的操作,如对-1开方。

nan==nan 结果是0或false,即不能和nan进行比较,和nan进行比较得到的结果总是false或0。所以可以用函数: int isNumber(double d){return (d==d);}来判断d是否为nan,若d是nan则返回0,否则返回非零值。

1.0/0.0等于inf,-1.0/0.0等于-inf,0.0+inf=inf;

对负数开方sqrt(-1.0)、对负数求对数(log(-1.0))、0.0/0.0、0.0*inf、inf/inf、inf-inf这些操作都会得到nan。(0/0会产生操作异常;0.0/0.0不会产生操作异常,而是会得到nan)

得到inf时就查看是否有溢出或者除以0,得到nan时就查看是否有非法操作。

posted @ 2021-03-21 10:37  zhaogaojian  阅读(444)  评论(0编辑  收藏  举报