摘要:
计算机存储浮点数,遵循IEEE754标准。对于保留小数位,遵循“修约”规则。 修约:四舍六入五凑偶。对于保留 n n n 位小数,则看第 n + 1 n+1 n+1 位。 第 n 位 = { 第 n 位 , 第 n + 1 位 ≤ 4 第 n 位 + 1 , 第 n + 1 位 ≥ 6 第 n 位 阅读全文
摘要:
IEEE-754 中的舍入方法 并非所有实数都可以精确地存储为浮点数。 考虑一个以归一化浮点数形式表示的实数: x = ± 1. b 1 b 2 b 3 . . . b n . . . × 2 m x = \pm 1.b_1 b_2 b_3 ... b_n ... \times 2^m x=±1.b 阅读全文