主题:【讨论】数值修约,大家知多少?

浏览0 回复100 电梯直达
可能感兴趣
xiaoxu
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 hnteng(hnteng) 发表:
原文由 耗材虾米(v2777789) 发表:
原文由 hnteng(hnteng) 发表:
原文由 耗材虾米(v2777789) 发表:
3.2450 3.245 修约后是3.25 3.24


  这个是错误的.

  应为: 3.24, 3.24.


那3.245000001呢?


   保留两位小数的话,只要后面的数字5之后有非0的数字,就要进位。3.245000001进位为 3.25。

   不管5后面的数字有多长,只要有非0数字,就要进位。

   当然,你说的这个数字可能在现实的测量中没有。但也代表一种极端的情况。

   你就是后面写上100个0,只要有一个非零数字,就要进位。这是理论上的。

   现实中,0不是随意可以写的。它与测量精度有关。
这一点容易被忽视
xyq_lg2005
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
mxd001
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
看国标,个人建议:有些检测标准上注明清楚,有的没有注明,在遵循数字修约的同时读透标准,研究整个试验过程中哪个环节级别最低,如天平使用感量为0.1g的你只能保留有效数字只能已经此天平为准。
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 zhoujin83(zhoujin83) 发表:
美国药典至今还是顽固的用四舍五入。


四舍五入,貌似楼主理解错了,请指出具体出处!
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 hnteng(hnteng) 发表:
原文由 tome(tome) 发表:
标准曲线相关系数只舍不进


  没听过这一说法.

  只有一种特殊情况不进:小数点后有连续的9的时候,不进位.如:相关系数为0.9999,不能进位为1.

  但其它情况可进位.

  如:0.99875 进位为 0.9988

              0.99987 进位为 0.9999

  当然,可能有的标准上非得这样规定.那就没办法.标准也是人制订的.总会带有主观观点.


相关系数舍进关系出自何处啊?
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 hnteng(hnteng) 发表:
原文由 耗材虾米(v2777789) 发表:
原文由 hnteng(hnteng) 发表:
原文由 耗材虾米(v2777789) 发表:
3.2450 3.245 修约后是3.25 3.24


  这个是错误的.

  应为: 3.24, 3.24.


那3.245000001呢?


   保留两位小数的话,只要后面的数字5之后有非0的数字,就要进位。3.245000001进位为 3.25。

   不管5后面的数字有多长,只要有非0数字,就要进位。

   当然,你说的这个数字可能在现实的测量中没有。但也代表一种极端的情况。

   你就是后面写上100个0,只要有一个非零数字,就要进位。这是理论上的。

   现实中,0不是随意可以写的。它与测量精度有关。


说的很对,不过现实中很难碰到到
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 wulin321(wulin321) 发表:
根据标准要求,每个要求的都不一样,结果也是不同的
视具体情况要求了!
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 xyq_lg2005(xyq_lg2005) 发表:
我们是直接简单的四舍五入


看标准是否要求
依风1986
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 mxd001(mxd001) 发表:
看国标,个人建议:有些检测标准上注明清楚,有的没有注明,在遵循数字修约的同时读透标准,研究整个试验过程中哪个环节级别最低,如天平使用感量为0.1g的你只能保留有效数字只能已经此天平为准。


说的没错,有点类似整个实验环节不确定度评估要求了,看哪个环节量对结果影响最大
zhoujin83
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 依风1986(xurunjiao5339) 发表:
原文由 zhoujin83(zhoujin83) 发表:
美国药典至今还是顽固的用四舍五入。


四舍五入,貌似楼主理解错了,请指出具体出处!


你可以看看美国药典的凡例,里面就是要求用四舍五入。
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴