主题:【求助】关于仪器结果的数据处理问题

浏览0 回复16 电梯直达
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 HarryHuang(v2702202) 发表:
调整仪器的数值显示位数,现在的仪器应该都有这个功能的。真的没有就按照仪器实际的进行保留。自己不能私自增加有效位数。
明白了, 谢谢
我是风儿
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
写0.023也可以的啊,为什么一定要多保留一位有效数字?
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 我是风儿(nphfm2009) 发表:
写0.023也可以的啊,为什么一定要多保留一位有效数字?


因为标准有要求,比如标准要求结果保留两位有效数字,那么通常为了避免进位误差,填写仪器读数时要求多保留一位。
zyl3367898
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有这个要求吗?我们填写原始记录时,直接填两位有效数字,不用多写一位。
123edr
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 zyl3367898(zyl3367898) 发表:
有这个要求吗?我们填写原始记录时,直接填两位有效数字,不用多写一位。


如果标准要求保留两位有效数字,那么只有填写最终结果时才填保留两位有效,其它在计算过程中产生的数值都是要多保留一位的(目的是为了防止加法引起的进位误差)。
当然了,什么定容体积、进样体积、称样量之类的除外。
zyl3367898
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
软件上最好能设置小数点后几位,否则对检测人员造成困扰。
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴