2008年6月18日

浮点数精度和IEEE754标准

摘要: 浮点数精度丢失的"bug"不停的被种语言的开发人员或者数据库开发人员发现,或许有些人已经听说了其中的原因,但是仍然无法把握其出现的规律。解决问题的最好办法是让错误原因重现,而能让错误随时重现,说明该错误已经在你掌控之中,从而可以在真正的开发中去避免。 我们看两个场景: 一个是c#代码,他没有按... 阅读全文

posted @ 2008-06-18 15:10 代码王子 阅读(228) 评论(0) 推荐(0)

导航