程序中的数据精度处理问题
摘要:
在工作中遇到需要处理不同精度的数据需要进行运算,然后将处理过的后台数据显示到前台。起初没有考虑到精度处理,只是做了简单的转化,后来发现显示的数据和预期的总有偏差。解决办法:1 后台数据处理是取数据要保持到最高精度,比如在一次运算中有decimal、int、double型的数据,那么结果最好是使用de... 阅读全文
posted @ 2014-09-10 11:10 MagicJie 阅读(350) 评论(0) 推荐(0)
浙公网安备 33010602011771号