浮点数默认精度在windows/linux上的差异
摘要:
好久没写点什么了。浮点数在fpu上处理有个精度控制,可以是单精度(长32bit其中尾数24bit),双精度(长64bit尾数56bit),扩展精度(长80bit,尾数64bit)。这是通过浮点控制字的一个位段来控制的。在windows/vc环境(未证实,也许与编译器有关,比如是vc)下,默认的精度是双精度。在linux/gcc环境则默认是扩展精度。这可以造成你在含有浮点计算的程序移植时出现一些细微... 阅读全文
posted @ 2009-03-01 12:24 kaikai 阅读(1803) 评论(0) 推荐(1) 编辑