第三章 计算机进行小数运算时出错的原因
本章讲述了计算机计算小数的原因,计算机是由浮点数来表示的,所有信息以二进制数的形式来处理。计算机之所以出现运行错误,是因为“有一些十进制数的小数无法转换成二进制数”。
浮点数是指用符号,尾数,基数和指数四部分来表示的小数。由于计算机使用的是二进制数,所以基数为二,所以往往将其省略。只用符号,指数和尾数。由于表示小数的数据类型不同,所以位数也不同。单进度浮点数为32位,其二进制数表示为符号位(1位)、指数位(8位)尾数位(23位);双进度浮点数为64位,其二进制表示为符号位(1位)、指数部分(11位)、尾数部分(52位)。而指数部分是用"EXCESS系统表现"来表示,尾数部分则是用“正则表达式”来表示。
如何避免计算机计算出错?第一,回避这些错误。第二,把小数转化成整数来计算,即0.1可以表示为1/10,一定不会出错。还有二进制数与16进制数,如果位数太多,用二进制表示太麻烦,所以采用16进制来代替二进制。而二进制的四位相当于16进制的一位整数部分从右至左划分,不够4位,需将最前面补零。小数部分,从左至右划分。不够四位需将后面补零。
浙公网安备 33010602011771号