主题:【第十七届原创】浅谈数值修约的使用方法

浏览0 回复0 电梯直达
ldx_8261
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
维权声明:本文为ldx_8261原创作品,本作者与仪器信息网是该作品合法使用者,该作品暂不对外授权转载。其他任何网站、组织、单位或个人等将该作品在本站以外的任何媒体任何形式出现均属侵权违法行为,我们将追究法律责任。

实验室在出具正式报告时,需要对检测出的原始数据进行修约再报出,在修约时会出现不按规则修约或修约错误的现象。因此,与大家共同探讨数值修约的使用方法,不当之处请大家指正!



一、数值修约的定义和术语

数值修约是将带有误差的测量或计算结果的数字,在进行具体的数字运算前,通过省略原数值的最后若干位数字,调整保留的末位数字,使最后所得到的值最接近原数值的过程。指导数字修约的具体规则被称为数值修约规则。数值修约时应首先确定修约间隔进舍方法

1、 修约间隔

是确定修约保留位数的一种方式,是修约值的最小数值单位。修约间隔的数值一旦确定,修约值即为该数值的整数倍。修约间隔主要有以下3种:

1.1指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;

1.2指定修约间隔为1,或指明将数值修约到“个”数位;

1.3指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。

例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。如把1.050和0.35按0.1修约间隔进行修约,则:1.050的修约值为10×10-1(特定场合可写成1.0);0.35的修约值为4×10-1(特定场合可写成0.4)。

例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。如把250和350按100修约间隔进行修约,则:250的修约值为2×102(特定场合可写成200);350的修约值为4×102(特定场合可写成400)。

2、 进舍方法

2.1四舍五入法是人们习惯采用的一种数字修约规则,逢五就进,逢四就舍。理论与实际表明,采用该方法并不准确,因为逢五必进,使得舍入不平衡,结果偏高,误差偏大,总的来说,入的多,舍的少。

2.2四舍六入五留双法是为了避免四舍五入规则造成的结果偏高,误差偏大的现象出现,一般采用四舍六入五留双规则进行修约,该方法能够做到舍入相对平衡,偏差较小。

二、四舍六入五留双的使用方法

口诀:“四舍六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一,不论数字多少位,都要一次修约成。”具体操作如下:

1、 当尾数小于或等于4时,直接将尾数舍去;当尾数大于或等于6时,将尾数舍去向前一位进位。

2、 当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。如将下列数字修约到两位小数:

12.73507—12.74    21.8452—21.85    38.305000001—38.31 

3、当尾数为5,而尾数后面无数字或数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。如将下列数字修约到两位小数:

5.745—5.74 27.475—27.48  12.6450—12.64  18.2750—18.28 

12.7350—12.74  21.845000—21.84

,4、负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。如将下列数字修约到“十”数位:

拟修约数值      修约值

-355              -36×10(特定场合可写为-360)

-325              -32×10(特定场合可写为-320)

5、拟修约数字应在确定修约位数后应一次修约获得结果,不得多次连续修约。

如:修约15.4546,修约间隔为1:

正确的做法:15.4546→15

不正确的做法:15.4546→15.455→15.46→15.5→16

6、在具体实施中,有时先将获得数值按指定的修约位数多一位或几位报出,而后由其他人员判定。为避免产生连续修约的错误,应按下述步骤进行:

(1)报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。

如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50

(2)如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为0时,数值后面有(+)号者进一,数值后面有(-)号者舍去。

如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)

实测值:15.4546        16.5203      17.5000        -15.4546

报出值:15.5(-)    16.5(+)    17.5        -(15.5(-))

修约值:15            17          18            -15

三、0.5单位修约使用方法(半个单位修约)

是指按指定修约间隔对拟修约的数值以0.5单位进行修约。

修约方法为:将拟修约数值乘以2,按指定修约间隔依修约规则进行修约,所得数值再除以2。如将下列数字修约到个数位的0.5单位修约:

拟修约数值    乘2        2A修约值              A修约值

(A)        (2A)   (修约间隔为1)       (修约间隔为0.5)

60.25        120.50          120                  60.0

60.28        120.56          121                  60.5

-60.75      -121.50        -122                  -61.0

四、0.2单位修约使用方法

是指按指定修约间隔对拟修约的数值以0.2单位进行修约。

修约方法如下:将拟修约数值乘以5,按指定修约间隔依修约规则进行修约,所得数值再除以5。如将下列数字修约到百数位的0.2单位修约

拟修约数值    乘5          5A修约值          A修约值

(A)        (5A)    (修约间隔为100)     (修约间隔为0.2)

  830        4150          4200                840

  842        4210            4200                840

-930        -4650          -4600                -920

五、结语

在使用数值修约规则对检测原始数据进行修约时,首先需要注意的是不能连续修约,避免出现连续修约导致报出结果偏差较大;其次在分析岗位报出结果需要修约时,在结果后面应标注相应符号,以便出具正式报告的人员知道该结果是否经过修约,避免修约出错;最后应特别注意末尾数字5的修约。只要严格按照数值修约规则进行修约,就能在结果报出中不会出现错误。
为您推荐
您可能想找: 数据处理 询底价
专属顾问快速对接
立即提交
可能感兴趣
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴