08 2011 档案

浮点数的计算中出现-1#IND
摘要:在vc的环境中-1#IND表示无穷小,算术错误可以得到-1#IND,比如 printf("%f",sqrtf(-1.f));这样的bug还是好改的。另一个可能出现-1#IND的原因是用到了MMX指令但是没有调用__asm emms;这会导致使用float的场合随机的出现-1#IND,可能你printf扰动一下,程序又会正常。有一篇文章http://chadaustin.me/2009/02/ind-and-qnan-with-fpfast/描述的更清楚,就不复述了。我发这个帖子这里如果某人真遇到了同样的问题,却英文不好或者google用的关键字不正确,到了这里是否有种幸福感 阅读全文

posted @ 2011-08-29 11:52 风行水上 阅读(475) 评论(0) 推荐(0)