主题：【分享】计量数据有效位数的确定与修约

浏览0 回复4 电梯直达

xing-xing

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

发表于：2011/03/15 21:30:34 楼主管理分享倒序浏览只看楼主回复私聊

计量数据是计量检定校准工作的产品，是评价产品质量与工作质量的重要依据。要取得准确可靠的数据，除了科学认真负责的测量外，根据被测量计量器具的允许误差极限对测量数据进行正确的数据处理计算也是非常重要的一个环节。根据GB8170-87《数值修约规则》规定的修约方法有三种：整数倍、0.5倍和0.2倍修约。计量检定校准工作中一般采用整数倍修约方法，根据实际工作和误差理论相结合，简述如下。
一、修约数值有效位数的确定

从左边起第一个非0数字算起所有有效数字的个数，即为有效数字的位数，简称有效位数。

1.首先是上一级计量检定机构给出的有效位数作为确定有效位数的依据，其次是计量标准器能够读出的有效数据的位数作为确定有效位数的依据。

2.数学运算中有效位数的确定。

（1）加减法运算以各数据中小数部分位数最少的为准，运算结果比其多保留一位有效位数。

例：5.89＋15.2551=21.145

（2）乘除法运算以各数据中有效位数最少的为准，运算结果比其多保留一位有效位数。

例：2.1×3.124=6.55

（3）开方或乘方的数据中的有效位数比被开方或乘方的数多保留一位有效位数。

例：1.42=1.96；1.232=1.861

（4）对数运算的数据中的有效位数应与真数的有效位数相等。

例：logl2.3＝1.09

0
赞贴
4
回帖
0
收藏
0
拍砖
版主
招募

为您推荐

近期热榜

热门活动

专属顾问快速对接

获取验证码

立即提交

xing-xing

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2011/3/15 21:30:59 沙发管理分享倒序浏览只看楼主回复私聊

二、有效位数修约规则

为了便于记忆把规则编成顺口溜：4舍6入5求偶，5后非0则进1, 5后皆0视奇偶，5前为偶应舍去，5前为奇则进1。

实例分析：请将下列数值修约到只保留二位小数，302.21549; 302.22499; 302.22600; 302.22500; 302.21500

实例分析参考答案：302.22 (5后非0则进1), 302.22 (4舍6入5求偶），302.23 (4舍6入5求偶），302.22 (5前为偶应舍去），302.22 (5前为奇则进1)。

三、GB8170-1987《数值修约规则》规定

拟修约数字应在确定修约位数后一次修约获得结果。而不得多次连续修约。

举例：将数值15.4546修约到个数位。

正确修约方法：15.4546→15。
不正确修约方法：15.4546→15.455→15.46→15.5→16。

赞贴

拍砖