获得0积分，您同时完成了每日任务，有额外的积分奖励，请前往APP领取
立即前往
有效数字运算的来龙去脉
有效数字运算，在检验检测工作中非常容易出错。下面对有效数字运算规则，进行详细分析，搞清楚来龙去脉。
加法和减法，为什么以小数点后位数最少的为准。
加减法运算中，保留有效数字的位数，以小数点后位数最少的为准。即绝对误差最大的为准。
例如：14.75＋0.3676，应以14.75为准，将0.3676化为0.37，如下图：
14.75＋0.3676，实际上是：
（14.75±0.01）＋（0.3676±0.0001），因为14.75中的0.05不是一个绝对准确数，而是一个估计值。在0.3676中的0.0006也是估计值。既然它们是估计值，那么0.05也可能是0.06或0.04，而0.0006也可能是0.0007或0.0005。所以，14.75的误差范围最小是±0.01，0.3676的误差范围在±0.0001。这样相加起来的和，就有以下九组数值的可能：
从以上九组计算结果中看出，尽管将0.3676的三个可能性数值都原原本本地参与到计算中去，但由于14.75本身的0.05就不是绝对准确，因而所得结果小数点后第二位的数字，就不是绝对准确，造成小数点后第二位数字是可疑数。即使0.3676的第二位第三位数字再准也是没有意义的，上梁已经不正，下梁再正也是白搭。
乘法和除法 ，为什么 以有效数字位数最少的为准。
数字相乘或相除时，各组数字保留的位数，应以百分误差最大或有效数字位数最少的那一组数为标准，所得乘积或商的准确度，不应大于精确度最小的那一组数。
例如，12.72×0.045
12.72实际上是12.72±0.01，其百分误差为：0.01/12.72×100%＝0.078％
0.045实际上是0.045±0.001，其百分误差为：0.001/0.045×100%＝2.2％
0.045的百分误差2.2％比12.72的百分误差0.078％大得多，所以这两组数值相乘积的有效数字，应以0.045的两位有效数字为准来确定。
再例如：123.4×0.015＝1.851，必须保留成1.9，这是因为要以0.015两位有效数字为准，所以是1.9。
我的社区
签到
“5·20世界计量日”有奖答题活动邀你来战！
《气相色谱实战宝典》图书免费送！！！
中国科协“优秀科研仪器案例库”作品公示
【有奖征文】第5季“仪器心得”征文活动
