你以为用了 BigDecimal 后,计算结果就一定精确了?
2021年2月2日 - 网易
十进制小数转成二进制,一般采用"乘2取整,顺序排列"方法,如0.625转成二进制的表示为0.101。但是,并不是所有小数都能转成二进制,如0.1就不能直接用二进制表示,它的二进制是0.000110011001100…这是一个无限循环小数。所以,计算机是没办法用二进制精确的表示0.1的。也就是说,在计算机中,很多小数...
详情
十进制小数转成二进制,一般采用"乘2取整,顺序排列"方法,如0.625转成二进制的表示为0.101。但是,并不是所有小数都能转成二进制,如0.1就不能直接用二进制表示,它的二进制是0.000110011001100…这是一个无限循环小数。所以,计算机是没办法用二进制精确的表示0.1的。也就是说,在计算机中,很多小数...