计算机浮点数——修约

计算机存储浮点数,遵循IEEE754标准。对于保留小数位,遵循“修约”规则。
修约:四舍六入五凑偶。对于保留 n n n 位小数,则看第 n + 1 n+1 n+1 位。

第 n 位 = { 第 n 位 , 第 n + 1 位 ≤ 4 第 n 位 + 1 , 第 n + 1 位 ≥ 6 第 n 位 + 1 , 第 n + 1 位 = 5 , 且 ∃ 第 n + 2 位 第 n 位 + 1 , 第 n + 1 位 = 5 , 且 ∄ 第 n + 2 位 , 第 n − 1 位为奇数 第 n 位 , 第 n + 1 位 = 5 , 且 ∄ 第 n + 2 位 , 第 n − 1 位为偶数 第n位=\begin{cases}第n位, & 第n+1位\le 4\\ 第n位+1, & 第n+1位\ge 6\\ 第n位+1, & 第n+1位=5,且 \exists 第n+2位\\ 第n位+1, & 第n+1位=5,且\nexists第n+2位,第n-1位为奇数\\ 第n位, & 第n+1位=5,且\nexists第n+2位,第n-1位为偶数\end{cases} 第n位=⎩ ⎨ ⎧​第n位,第n位+1,第n位+1,第n位+1,第n位,​第n+1位≤4第n+1位≥6第n+1位=5,且∃第n+2位第n+1位=5,且∄第n+2位,第n−1位为奇数第n+1位=5,且∄第n+2位,第n−1位为偶数​

并舍弃第 n + 1 n+1 n+1 位及其之后的所有位。对于第 n + 1 n+1 n+1位 = 5 =5 =5的情形可概括为:瞻前顾后,奇进偶舍。

posted @ 2025-02-15 12:18  椰萝Yerosius  阅读(116)  评论(0)    收藏  举报  来源