2022年5月25日
浮点数向偶数舍入问题
摘要： 例如有效数字超出规定数位的多余数字是1001，它大于超出规定最低位的一半（即0.5），故最低位进1。如果多余数字是0111，它小于最低位的一半，则舍掉多余数字（截断尾数、截尾）即可。对于多余数字是1000、正好是最低位一半的特殊情况，最低位为0则舍掉多余位，最低位为1则进位1、使得最低位仍为0（偶数 阅读全文
posted @ 2022-05-25 16:31 Cosmerudit 阅读(159) 评论(0) 推荐(0)