2014年9月10日

程序中的数据精度处理问题

摘要: 在工作中遇到需要处理不同精度的数据需要进行运算,然后将处理过的后台数据显示到前台。起初没有考虑到精度处理,只是做了简单的转化,后来发现显示的数据和预期的总有偏差。解决办法:1 后台数据处理是取数据要保持到最高精度,比如在一次运算中有decimal、int、double型的数据,那么结果最好是使用de... 阅读全文

posted @ 2014-09-10 11:10 MagicJie 阅读(350) 评论(0) 推荐(0)

导航