主题:【已应助】农残数据计算问题

浏览 |回复30 电梯直达
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
假设测某农药
前处理参数:浓缩比10,定容1mL

计算公式:农药含量=设备读数*浓缩比*定容/称样量(结果保留2位有效数字)
双样情况下,已知称样量分别为10.04g与9.98g,设备读数分别为0.0203ug/mL与0.0208ug/mL
我的计算过程:
        -1:
                0.0203*10*1/10.04=0.020219124
        -2:
                0.0208*10*1/9.98=0.020841683
        平均:
                  (0.020219124+0.020841683)/2=0.02053(修约前)=0.021(修约后)
有家机构说他们的计算方法是:
        -1:
                0.0203*10*1/10.04=0.0202(先保留多一位,后面多余的数字去掉)
        -2:
                0.0208*10*1/9.98=0.0208(先保留多一位,后面多余的数字去掉)
        平均:
                (0.0202+0.0208)/2=0.0205(修约前)=0.020(修约后)

问:哪个是正确计算结果?
更新:
我在的那家机构是用第二种方法的。
另外机构还要求:“当标准要求结果保留2位有效数字时,设备的读数要求比结果保留多一位,但不修约”。也就是说,设备读数3位,未参与平均前的结果3位,参与平均后的结果2位
假如遇上了类似761方法的修约要求:结果≤1的保留2位有效,>1的保留3位有效。

在此基础上改变一下设备读数再举一个例子:
        设备读数分别为0.994842ug/mL与1.00783ug/mL
计算过程:
①首先确认结果是否大于1,然后再判断设备读数应该保留几位
        -1:
                0.994842*10*1/10.04=0.990978486
        -2:
                1.00783*10*1/9.98=1.009849699
        平均:
                (0.990978486+1.009849699)/2=1.00364093>1,根据机构要求,得出设备读数应保留4位,平均前结果保留4位,结果保留3位
        得出:设备读数分别为0.9948与1.007
②求值
        -1:
                0.9948*10*1/10.04=0.990837=0.9908
        -2:
                1.007*10*1/9.98=1.009018=1.009
        平均:
                (0.9908+1.008)/2=0.9999(修约前)=1.00(修约后)
这个时候结果就与标准要求有冲突了,明明结果是1却保留3位有效?
问:机构的要求“当标准要求结果保留2位有效数字时,设备的读数要求比结果保留多一位,但不修约”合理吗?
最佳答案:123edr回复于2020/05/19


我是不支持机构的规定的

第一,目前没有哪个依据可以随随便便舍去设备读数的精确值,设备读数应由设备精度决定。

第二,检测标准只明确对计算的报告结果值有修约要求。

第三,没有哪个依据说明在计算出报告结果之前所有计算中间值可以中途对其进行任何的保留
为您推荐
hujiangtao
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
我们用后一种方式计算,平行样比最后平均值多一位有效数字
雾非雾
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
这家机构对于中间数据先多保留一位这个办法有国标规则支持么,看了半天好像没有看到,而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约,国标规则里强调不能连续多次修约。
sdlzkw007
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
不管怎么算,最后结果都应该是0.020,不会是0.021 4舍6入5成双。
zyl3367898
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
不是的,0.02053保留两位有效数字是0.021,后一个计算方法是对的,数据结果多保留一位,平均值时保留两位。
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 雾非雾(mcds) 发表:
这家机构对于中间数据先多保留一位这个办法有国标规则支持么,看了半天好像没有看到,而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约,国标规则里强调不能连续多次修约。
中间的是没有修约的,只是直接将3位有效数字之后的其它数字直接抛弃
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 zyl3367898(zyl3367898) 发表:
不是的,0.02053保留两位有效数字是0.021,后一个计算方法是对的,数据结果多保留一位,平均值时保留两位。
0.021是前一种的结果,你搞错了吧
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 sdlzkw007(sdlzkw007) 发表:
不管怎么算,最后结果都应该是0.020,不会是0.021 4舍6入5成双。


第一种方法里,未修约前的结果是0.020530403,修约后是0.021

修约数值为5,后面可不全是0喔
仪器小
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 hujiangtao(hujiangtao) 发表:
我们用后一种方式计算,平行样比最后平均值多一位有效数字
有更新,求助,我怕了我那家机构了
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 雾非雾(mcds) 发表:
这家机构对于中间数据先多保留一位这个办法有国标规则支持么,看了半天好像没有看到,而且它这个对于中间值的修约和最后的修约在一起算不算是连续修约,国标规则里强调不能连续多次修约。
  有更新,求助,我怕了我那家机构了