3.2执行精确的浮点数运算
问题
你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现。
解决方案
浮点数的一个普遍问题是它们并不能精确的表示十进制数。并且,即使是最简单的数学运算也会产生小的误差,比如:
a = 2.1
b = 4.2
c = a + b
print(c) # ->6.300000000000001
print(round(c, 2)) # ->6.3
这些错误是底层CPU和IEEE754标准通过自己的浮点单位去执行算术时的特征。由于Python的浮点数据类型使用底层表示存储数据,因此你没办法去避免这样的误差。
如果你想更加精确(并能容忍一定的性能损耗),你可以使用decimal模块:
from decimal import Decimal
a = Decimal('4.2')
b = Decimal('2.1')
print((a + b) == Decimal('6.3')) # _>True
初看起来,上面的代码好像有点奇怪,比如我呢用字符串来表示数字。然而,Decimal对象会像普通浮点数一样的工作(支持所有的常用数学运算)。如果你打印它们或者在字符串格式化函数中使用它们,看起来跟普通数字没有什么两样。
decimal模块的一个主要特征是允许你控制计算的每一方面,包括数字位数和四舍五入运算。为了这样做,你先得创建一个本地上下文并更改它的设置,比如:
from decimal import Decimal, localcontext
a = Decimal('1.3')
b = Decimal('1.7')
print(a / b) # ->0.7647058823529411764705882353
with localcontext() as ctx:
ctx.prec = 50
print(a/b) # ->0.76470588235294117647058823529411764705882352941176
with localcontext() as ctx:
ctx.prec = 3
print(a/b) # ->0.765

浙公网安备 33010602011771号