对数的定点计算方法

 

 

 

 上述公式存在着误差，这是因为在公式中存在着𝑙𝑜𝑔2(1+𝑥)≈𝑥的近似。下图给出了两者的关系：

 

 

 两者误差的最大值大约为0.09，也就是折算到以10为底后大约为0.26dB。如下：

 

 

 

 

拟合以后的误差如下：（二次线性拟合）

 

 

 

 

 

 此时，最大误差的绝对值缩小到0.005，大约相当于0.015dB，对于大部分载噪比计算已经足够精确了。

 

注：

　　cn0 在0~65dBHz范围内，输入对数的数值大小范围在：1.0  ~ 3162277.6601683795（小于2^32）

 

参考链接

一、1.对数运算中换底公式的理解

对数运算法则(rule of logarithmic operations）

Python--ctypes(数据类型详细踩坑指南）