数值修约不清楚的,看这里!!!
2019年5月7日 - 网易
2.乘除运算几个数据的乘除运算以相对误差最大(即有效数字位数最少)的数值为基准来决定结果数据的位数。在实际运算中,先将各数值修约至比有效数字位数最少者多保留一位有效数字运算,计算结果的有效数字的位数与有效数字位数最少的数值相同。(与小数点位置无关)例如,0.235438×28.6×61.8911≈0.2354×28.6×61.8...
详情
2.乘除运算几个数据的乘除运算以相对误差最大(即有效数字位数最少)的数值为基准来决定结果数据的位数。在实际运算中,先将各数值修约至比有效数字位数最少者多保留一位有效数字运算,计算结果的有效数字的位数与有效数字位数最少的数值相同。(与小数点位置无关)例如,0.235438×28.6×61.8911≈0.2354×28.6×61.8...