主题:【第六届原创】说说实验室的数字修约和有效数字

浏览 |回复18 电梯直达
wulin321
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
维权声明:本文为wulin321原创作品,本作者与仪器信息网是该作品合法使用者,该作品暂不对外授权转载。其他任何网站、组织、单位或个人等将该作品在本站以外的任何媒体任何形式出现均属侵权违法行为,我们将追究法律责任。
说说实验室的数字修约和有效数字

数字,是个很奇妙的‘东西’,千变万化的数值最终还是十个数字不同排列。它们分别为0,1,2,3,4,5,6,7,8,9,数字是一种用来表示数值大小或者多少的符号,虽然我们有时对其会感到抽象或者枯燥,但是我们在实际生活和工作中却时时需要他们,因为数字,让我们的生活和工作才更加方便,有序

关于数字我们一般都说成‘阿拉伯数字’,但实际上数字并不是阿拉伯人发明创造的,而是发源于古印度。数字后来被阿拉伯人用于经商而掌握,经改进,并传到了西方。西方人由于首先接触到阿拉伯人使用过这些数据,便误以为是他们发明的,所以便将这些数字称为‘阿拉伯数字’,造成了这一历史的误会。后来,随着在世界各地的普遍传播,大家都认同了“阿拉伯数字”这个说法,使世界上很多地方的人都误认为是阿拉伯人发明的数字,实际上是阿拉伯人最早开始广泛使用数字。传到欧洲后,欧洲人非常喜爱这套方便适用的记数符号,尽管后来人们知道了事情的真相,但由于习惯了,就一直没有改正过来。

(1)有效数字的概念

实验中,我们使用的仪器所标出的刻度的精确程度总是有限的。例如100mL量筒,最小刻度为1mL,在两刻度间可再估计一位,所以,实际测量能读到0.1mL。如55.5mL等。若为50mL滴定管,最小刻度为0.1mL,再估计一位,可读至0.01mL。如36.76mL等。总之,在55.5mL与36.76mL这两个数字中,最后一位是估计出来的,是不准确的。通常把只保留最后一位不准确数字,而其余数字均为准确数字的这种数字称为有效数字。也就是说,有效数字是实际上能测出的数字。

由上述可知,有效数字与数学的数有着不同的含义。数学上的数只表示大小,有效数字则不仅表示量的大小,而且反映了所用仪器的准确程度。例如,“取7.6g样品”,这不仅说明质量7.6g,而且表明用感量0.1g的台秤称就可以了,若是“取7.6000g样品”,则表明一定要在万分之一天平上称取。

所以,记录测量数据时,不能随便乱写,不然就会夸大或缩小了准确度。0在数字中起的作用是不同的。有时是有效数字,有时不是,这与“0”在数字中的位置有关:

      1)“0”在数字前,仅起定位作用,“0”本身不是有效数字,如0.0658中,数字6前面的两个0都不是有效数字,这个数的有效数字只有3位。

      2)“0”在数字中,是有效数字。如7.0032中的两个0都是有效数字,7.0032是5位有效数字。

      3)“0”在小数的数字后,也是有效数字如5.4000中的3个0都是有效数字。0.0050中数字3前面的3个0不是有效数字,3后面的0是有效数字。所以,5.4000是5位有效数字。0.0050是2位有效数字

      4)以“0”结尾的正整数,有效数字的位数不定。如54000,可能是2位,3位或4位甚至5位有效数字。这种数应根据有效数字的情况改写为指数形式。如为2位,则写成5.4×104;如为3位,则写成5.40×104,等等。

有效位数

对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。

62000,若有两个无效零,则为三位有效位数,应写为620×102;若有三个无效零,则为两位有效位数,应写为62×103

5.30.530.0530.0053均为两位有效位数;0.0530为三位有效位数。

23.530为五位有效位数;40.00为四位有效位数。

0.5单位修约(半个单位修约)

指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。

例如,将50.36修约到个数位的0.5单位,得50.5

0.2单位修约

指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。

例如,将842修约到“百”数位的0.2单位,得850

定修约位数的表达方式

1.定数位

a. 指定修约间隔为10nn为正整数),或指明将数值修约到n位小数;

b. 指定修约间隔为1,或指明将数值修约到个数位;

c. 指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数),或指明将数值修约到“十”,“百”,“千”……数位。

2.定将数值修约成n位有效位数

进舍规则:我们学习从小就学习数学,一直跟我们灌输的就是‘四舍五入’,但是实验室用数字修约就麻烦一点,但也有一个规律‘四舍六入五看双’请看下面的详解

舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

1:将23.2356修约到一位小数,得23.2

2:将25.2368修约成两位有效位数,得25

舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1

1:将30.57修约成三位有效位数,为30.6

2:将42.5672修约成四位有效位数,为42.57

3:将10.502修约成三位有效位数,得10.5

舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(13579)则进一,为偶数(24680)则舍弃。

1:将30.515修约成四位有效位数,为30.52

2:将42.585修约成四位有效位数,为42.58

3:将10.050修约成三位有效位数,得10.0

数修约时,先将它的绝对值按上述3.1~3.3规定进行修约,然后在修约值前面加上负号。

1:将下列数字修约到“十”数位

拟修约数值修约值

-415-42×10

-445          -44×10

2:将下列数字修约成两位有效位数

拟修约数值修约值

-525            -52

-0.0515        -0.052

不许连续修约

1.拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按规则连续修约。例如:修约26.4748约间隔为1

正确的做法:26.474826

不正确的做法:26.474826.47526.4826.527

2.在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。

报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。

如:36.50(+)表示实际值大于36.50,经修约舍弃成为35.5023.50(-)表示实际值小于23.50,经修约进一成为23.50

如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,

⑷有效数字的运算规则

      1)加法和减法

在计算几个数字相加或相减时,所得和或差的有效数字的位数,应以小数点后位数最少的数为准。①将4.021、36.35及0.3562相加,②将36.35减4.021减去0.3562

        4.021+36.35+0.3562=40.7272   

        36.35-4.021-0.3562=31.9728   

可见,小数点后位数最小的数36.35中的5已是可疑,相加后使得40.7272中小数点后的第一个2也可疑,所以,再多保留几位已无意义,也不符合有效数字只保留一位可疑数字的原则,这样相加后,①结果应是40.73。这样相减后,②结果应是31.97

以上为了看清加减后应保留的位数,而采用了先运算后取舍的方法,一般情况下也可先取舍后运算,①将4.021、36.35及0.3562相加,②将36.35减4.021减去0.3562,上面已经说到小数点后位数最小的数36.35中的5已是可疑,那就保留小数点后两位数字,那就先取舍修约,再加减,4.021修约为4.02,0.3562修约为0.36

    4.02+36.35+0.36=40.73   

    36.35-4.02-0.36=31.97   

      2)乘法与除法

在计算几个数相乘或相除时,其积或商的有效数字位数应以有效数字位数最少的为准。①如3.216与23相乘,②如23除以3.216

3.216×23=73.968          ①

23÷3.216=7.15174129353  ②

①显然,由于23中的3是可疑的,使得积73.968中的3也可疑,所以保留两位即可,结果就是74。②由于23中的3是可疑的,使得商7.15174129353中小数点后第一位1也可疑,所以保留两位即可,结果就是7.2

总结:

①数字的修约我们每个人都学过,很多人可能都认为是数学上的东西,属于考试才用到的,其实不然,我们生活中随时都会用到,只是一般生活或工作中都是按照‘四舍五入’,无论你是在商场购物,还是在菜市场买菜,哪怕你是搞工程预算的,也会按这样的方法计算,因为大家一般都是这么算的

②实验室用数字修约就麻烦一点,虽然也有一个规律‘四舍六入五看双’但是确实不是很好理解,因为在我们的脑海里已经有了‘四舍五入’,已经根深蒂固,生根发芽,所以很多实验室测试员修约数字时有时无意中还是采用‘四舍五入’,这是我们先入为主的思想在作祟,所以我们要杜绝这样的‘错误’,以免出现错误

③数字修约是实验室出具报告时最终的数字结果呈现,需要我们认真地学习,努力掌握好数字修约的技巧,不能因为最后的数字修约不严谨,不规范,把辛苦做出的结果给毁了
该帖子作者被版主 透明10积分, 2经验,加分理由:原创
为您推荐
透明
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
数字修约规则比较重要,和以前学的有了些不同
wulin321
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
nphfm2009
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
数字的修约易被人忽略了
该帖子作者被版主 透明2积分, 2经验,加分理由:讨论
翠湖园
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
wulin321
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 翠湖园(hhx050) 发表:
怎么看不到原创大赛的盖章?


看不到吗  我看到有的
透明
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 翠湖园(hhx050) 发表:

怎么看不到原创大赛的盖章?


章有没有都不重要的
郭景祎
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
说实话数字修约规则就记住了四舍六入五留双,别的都没记住,哈哈
该帖子作者被版主 透明2积分, 2经验,加分理由:讨论
wulin321
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
Marc_huang
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
whuisvfg
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
还需要注意:
乘方或开方、
对数计算、
常数运算
Excel和Word软件文件使用的方式

还有并不能按“四舍六入”的规则来处理的数据如:
表示分析结果精密度的数据
不确定度
校准曲线相关系数
涉及这方面的国家标准很多,很详细,可参考:
GB/T 8170-2008
HJ/T 167—2004 
HJ/T 91-2002
HJ/164-2004
等文件。
赞贴
0
收藏
0
拍砖
0
2016/7/27 16:35:10 Last edit by whuisvfg