主题:【分享】有效数字修约规则

浏览0 回复5 电梯直达
999youran
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
1. 有效数字是指在分析工作中实际上能测定到的数字,由准确数字加上最后一位有实际意义的估计数字(也称存疑数字)组成。

例如,我们用毫米尺测量一个物体的长度,我们知道毫米尺的最小刻度为1mm也就是0.1cm,所以假如我们读出物体的长度为18.26 cm,这个读数的前三位18.2 cm是直接从尺上读出的,是准确的,可靠的,称为准确数字,而最末一位0.06 cm则是从尺上最小刻度之间估计来的,称为存疑数字。准确数字和存疑数字合起来,称为有效数字。



再比如50 mL量筒,最小刻度为1 mL,在两刻度间可再估计一位,所以实际测量能读到0.1 mL,如34.5 mL

50 mL滴定管,最小刻度为0.1 mL,在两刻度间可再估计一位,所以实际测量能读到0.01 mL,如27.85 mL

有效数字不仅表示数量的大小,而且要正确地反映测量的精确程度。

如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。

例:7.5用的是粗天平

7.52用的是扭力天平

7.5187用的是分析天平



2. “0”的双重意义  作为普通数字使用或作为定位的标志。  例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。  改用为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。  3. 规定   (1).倍数、分数关系无限多位有效数字   (2). pHpMlgclgK等对数值,有效数字由尾数决定。    例: pM5.00 (二位) [M]=1.0×10-5 PH10.34(二位);pH0.03(二位)  注意:首位数字是89时,有效数字可多计一位, 9.83―四位。二、数值修约规则(四舍六入五成双规则)

当尾数≤4时则舍,

尾数≥6时则入;

尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;

尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。

例:将下列数字修约为4位有效数字。

修约前修约后

0.526647--------0.5266

0.36266112------0.3627

10.23500--------10.24

250.65000-------250.6

18.085002--------18.09

351746--------3517

注意:修约数字时只允许一次修约,不能分次修约。如:13.474813.47

.计算规则

1. 加减法

先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。

例:计算50.1+1.45+0.5812=?

修约为:50.1+1.4+0.6=52.1

先修约,结果相同而计算简捷。

例:计算 12.43+5.765+132.812=?

修约为:12.43+5.76+132.81=151.00

注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。

2. 乘除法

先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。

例:计算0.0121×25.64×1.05782=?

修约为:0.0121×25.6×1.06=?

计算后结果为:0.3283456,结果仍保留为三位有效数字。

记录为:0.0121×25.6×1.06=0.328

注意:用计算器计算结果后,要按照运算规则对结果进行修约

例:计算2.5046×2.005×1.52=?

修约为:2.50×2.00×1.52=?

计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。

2.50×2.00×1.52=7.60

为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
夏天的雪
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
数字修约很常用,也很重要,尤其对临界值的修约
该帖子作者被版主 999youran2积分, 2经验,加分理由:参与讨论
999youran
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 夏天的雪(bingwang228) 发表:

数字修约很常用,也很重要,尤其对临界值的修约


是的,最近新同事一直有小问题出现,就给讲解下。
夏天的雪
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 999youran(999youran) 发表:
原文由 夏天的雪(bingwang228) 发表:

数字修约很常用,也很重要,尤其对临界值的修约


是的,最近新同事一直有小问题出现,就给讲解下。
多实践才能领悟
hujiangtao
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
很详细 谢谢楼主
该帖子作者被版主 999youran2积分, 2经验,加分理由:参与
999youran
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 hujiangtao(hujiangtao) 发表:
很详细 谢谢楼主


继续到前处理版面
品牌合作伙伴