有效数字运算的来龙去脉
有效数字运算,在检验检测工作中非常容易出错。下面对有效数字运算规则,进行详细分析,搞清楚来龙去脉。
加法和减法,为什么以小数点后位数最少的为准。
加减法运算中,保留有效数字的位数,以小数点后位数最少的为准。即绝对误差最大的为准。
例如:14.75+0.3676,应以14.75为准,将0.3676化为0.37,如下图:
14.75+0.3676,实际上是:
(14.75±0.01)+(0.3676±0.0001),因为14.75中的0.05不是一个绝对准确数,而是一个估计值。在0.3676中的0.0006也是估计值。既然它们是估计值,那么0.05也可能是0.06或0.04,而0.0006也可能是0.0007或0.0005。所以,14.75的误差范围最小是±0.01,0.3676的误差范围在±0.0001。这样相加起来的和,就有以下九组数值的可能:
从以上九组计算结果中看出,尽管将0.3676的三个可能性数值都原原本本地参与到计算中去,但由于14.75本身的0.05就不是绝对准确,因而所得结果小数点后第二位的数字,就不是绝对准确,造成小数点后第二位数字是可疑数。即使0.3676的第二位第三位数字再准也是没有意义的,上梁已经不正,下梁再正也是白搭。
乘法和除法 ,为什么 以有效数字位数最少的为准。
数字相乘或相除时,各组数字保留的位数,应以百分误差最大或有效数字位数最少的那一组数为标准,所得乘积或商的准确度,不应大于精确度最小的那一组数。
例如,12.72×0.045
12.72实际上是12.72±0.01,其百分误差为:0.01/12.72×100%=0.078%
0.045实际上是0.045±0.001,其百分误差为:0.001/0.045×100%=2.2%
0.045的百分误差2.2%比12.72的百分误差0.078%大得多,所以这两组数值相乘积的有效数字,应以0.045的两位有效数字为准来确定。
再例如:123.4×0.015=1.851,必须保留成1.9,这是因为要以0.015两位有效数字为准,所以是1.9。