主题:【求助】有效数字四则运算有没有国家或行业标准

浏览0 回复13 电梯直达
lov_new
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有效数字四则运算有没有国家或行业标准。

例如9.0*0.241结果应保留几位小数,不知道如何判断
为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
【四季风】
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
这个是有的,在各个标准方法的总则或质量控制里有说明,请你查找一下。
【四季风】
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
不知你是计算那一类行业标准方法的,现在给两标准参考:

食品检验GB/T5009-2003

赞贴
1
收藏
0
拍砖
0
2013/9/29 16:05:53 Last edit by gpwrx
【四季风】
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
智慧的弟弟
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 1518xj(1518xj) 发表:
传不了附件
具体的标准如下:

GB/T 8170-2009 <<数值修约规则与极限数值的表示和判定>>


应该是GB/T 8170-2008

这个是通用的
赞贴
0
收藏
0
拍砖
0
2013/9/29 18:17:47 Last edit by tanghuizhi01
1518xj
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 智慧的弟弟(tanghuizhi01) 发表:
原文由 1518xj(1518xj) 发表:
传不了附件
具体的标准如下:

GB/T 8170-2009 <<数值修约规则与极限数值的表示和判定>>


应该是GB/T 8170-2008

这个是通用的


恩,是的,我打错了年份,是2008版的
lov_new
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
看到一个材料说,9.0因为第一位数字大于8应算做三位有效数字,我找不到相关标准来证明这个说法是正确的。
lov_new
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 【四季风】(gpwrx) 发表:
水质检验GB/T5750-2006



计算过程中,一般比规定的有效数字多保留一位数再计算。

这里的多保留一位数是需要修约还是直接把多的位数删掉?
赞贴
0
收藏
0
拍砖
0
2013/9/30 11:27:45 Last edit by v2750298
【四季风】
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 lov_new(v2750298) 发表:
原文由 【四季风】(gpwrx) 发表:
水质检验GB/T5750-2006



计算过程中,一般比规定的有效数字多保留一位数再计算。

这里的多保留一位数是需要修约还是直接把多的位数删掉?


在实际应用中与你所说,在计算时按照修约规则多保留一位数计算,这个多的一位数也应该按照修约规则进行修约,“四舍六入五留双”。
zyl3367898
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
wulin321
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
品牌合作伙伴