主题:【第十三届原创】有效数字修约的玄机

浏览 |回复8 电梯直达
xyzyd
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
鹤壁农检联合队发表于:2020/09/30 11:26:00 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
该帖子已被sgxy设置为精华; 奖励积分记录: sgxy(20分)
维权声明:本文为Insm_749a5dae原创作品,本作者与仪器信息网是该作品合法使用者,该作品暂不对外授权转载。其他任何网站、组织、单位或个人等将该作品在本站以外的任何媒体任何形式出现均属侵权违法行为,我们将追究法律责任。

有效数字修约的玄机

          有效数字修约,是国家标准规定的,也是在检测运算过程中很容易错的。有效数字修约最关键的就是,四舍六入五成双。五成双是指,5后面有数字时,5直接进位,不需要考虑五成双;5后面没有数字时,才需要考虑五成双,如果5前面是奇数时,5需要进位,让奇数变成偶数,如果5前面是偶数时,5不需要进位。

      下面举例进行说明:

      (一)32.1502,保留三位有效数字是32.2,因为5后面有数值2所以5必须进位。

      (二)32.1500,保留三位有效数字是32.2,因为5后面没有数值(5后面的数值是00,00等于没有数值)又因为5前面是奇数,所以5需要进位,让奇数变成偶数。

      (三)32.2500,保留三位有效数字是32.2,因为5后面没有数值(5后面的数值是00,00等于没有数值)又因为5前面是偶数,所以5不需要进位。

        这个奇数进位,偶数不进位,是最容易让人迷惑和出错的。

      下面再用实例进行说明:

        用天平称取样品,两次称样量分别是10.01克和9.96克,两次称量的平均值是多少?

解:(10.01+9.96)÷2

      = 19.97÷2

      = 9.985

      = 9.98 克

        为什么不是9.985而是9.98 ?

        因为10.01克和9.96克都是小数点后两位数字,表示的是用百分之一天平对样品进行称量,求两个数的平均值,得出来9.985克,但9.985是小数点后三位数字,代表的是用千分之一天平对样品进行称量,明显超过了百分之一天平的称量精度,所以平均值是9.985克,是不对的,只能对9.985进行修约,保留到小数点后两位数字,把9.985修约成9.98。之所以把5舍掉,是因为5前面是8,8是偶数,5不需要进位。
该帖子作者被版主 sgxy10积分, 2经验,加分理由:发表原创
推荐帖
Last edit by Insm_749a5dae 举报
为您推荐
哈希
哈希公司(HACH)
4008316616-1405
QC
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
JOE HUI
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有效数字修约還是需要嚴謹看待 ,日常容易馬虎
sgxy
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
yanli197604
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 QC(m3056547) 发表:
有效数字修约在实际应用中比较容易出错
五成双这个容易出错,其它的相对容易理解。
箬竹竹
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
huomiao
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有没有人挑战十分位、百分位、千分位的修约
JOE HUI
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
Ins_afff75c5
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
楼主的解释非常到位,再补充一点就是不能连续修约,必须一次修约到位;还有就是最后一段话略微有争议,平行试验平均值的保留位数与单次试验没有必然联系,一般情况下,平均值的修约位数与单次试验的保持一致,也有比单次试验少一位的情况,基本不会出现比单次试验保留位数多的情况