什么, 0.3 - 0.2 ≠ 0.1 ?
2019年8月31日 - 网易
十进制小数0.1无法转成尾数在23位以内的二进制小数,所以只能经过舍入,得到近似值:1.10011001100110011001101×2指数值是-4,根据我们上边所述的第一种情况,指数部分的字面量就是123,表示成二进制小数就是01111011,所以我们可以得到十进制小数0.1对应的单精度浮点数就是:001111011100110011001100110011010.2:它...
详情
十进制小数0.1无法转成尾数在23位以内的二进制小数,所以只能经过舍入,得到近似值:1.10011001100110011001101×2指数值是-4,根据我们上边所述的第一种情况,指数部分的字面量就是123,表示成二进制小数就是01111011,所以我们可以得到十进制小数0.1对应的单精度浮点数就是:001111011100110011001100110011010.2:它...