主题:【原创】有效数字及有数值修约-2

浏览0 回复5 电梯直达
t-z-p1960
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
6.数值修约
在进行具体的数字运算前,对某一数值,根据保留位数的要求,将多余的数字进行取舍的过程称为数值的修约。数值修约规则GB 8170—87。
修约间隔,系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。
(1)数值修约一般以1×10n的形式表示:例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。
(2)0.5 单位修约(半个单位修约),指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位:例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)。
(3)0.2 单位修约:指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。
例如,将832修约到“百”数位的0.2单位,得840(修约方法见本规则5.2)。
一般数值修约的口诀:“四舍六入五考虑,五后非零应进一,五后皆零视偶奇,五前偶(包括零)舍奇进一”
 例如:将下面左边的数字修约为三位有效数字
  2.324→2.32  2.325→2.32  2.326→2.33  2.335→2.34  2.32501→2.33

7.有效数字运算法则
  (1)在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面位数最少(最末位单位量值最大)的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。
  例如:2.0375+0.0745+39.54 = ?
    39.54是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:2.04+0.07+39.54 = 41.65
  (2)在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。
  例如:13.92×0.0112×1.9723 = ?
  0.0112是三位有效数字,位数最少,它的相对误差最大,所以应以0.0112的位数为准,即:13.9×0.0112×1.97 = 0.307
  (3)在使用计算器运算时,过程中可以不修约,但结果要修约。
    (4)分析测试结果小数点后的位数,应与分析方法精密度小数点后的位数一致。
为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
可能感兴趣
系统设置
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
风之彩
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
ushio
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
去年冬天
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
liu999999
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴