顾凡继续解释道:“那么计算机具体是怎么储存小数的呢?
“这就是我之前所说的‘浮点数’,浮点的意思是,小数点是可以浮动的。
“就比如1000.101这个二进制数,就可以表示为1.000101 x 2^3,这有点类似于数学上的科学计数法。
“在程序中,为了让二进制用到科学计数法,并且规范化,就要保证小数点左侧只有1位,并且必须为1,我们目前绝大多数计算机所使用的浮点数,都是IEEE制定的国际标准,采用符号位+指数位+尾数的格式。
“总之,由于存在十进制到二进制之间的转化,所以按照这种方式来计算,0.1+0.2并不等于完整的0.3,因为在计算机中,很多小数都无法用完整的二进制来表示,所以只能用近似数的方式来储存,那么两个近似数相加,也只能是一个新的近似数。
“十进制转二进制计算,然后再转十进制输出,这就导致了前后两个数不相等的情况。”
莉莉丝眉头紧皱:“那为什么不能用十进制精确计算呢!”
顾凡轻咳两声:“这个……如果要从头解释『计算机为什么要使用二进制』的话,就太复杂了,一时半会说不清。
“但针对这个问题,我可以从另一个角度来说明为什么大家会容忍这种误差,因为这种误差本身就是不可消除的。
“即便是十进制,也会出现许多无法除尽的情况。十进制只是能够精确表达2和5能够除尽的数字,但对于1/3、1/7这样的数字,十进制也就无能为力了,同样也会产生误差。
“所以不管采用什么样的进制,误差都是必然存在的。”
莉莉丝感到大脑冒烟:“好吧,我知道了,在计算机里面0.1+0.2≠0.3,那么这个bug又是怎么回事?”
顾凡长出了一口气:“莉总你能理解这一点的话,这个bug解释起来就稍微容易一些了。
“简单来说就是,程序员在写动态难度的代码时,没有考虑到这种999后面还带小数的极端特殊情况,没有为这种特例专门写一个判定,因此在数值互相转化的过程中,程序无法判定这个数字具体处于哪一个难度区间中,就直接降为了最低难度。
“站在人的角度上来看,4999.99当然还是处于5000以内的区间,但对于程序来说却并不是如此。也就是说,0.1+0.2=0.30000000000000004,它溢出了0.3
本章未完,请点击下一页继续阅读!