主题:【求助】请问关于数据修约的问题

浏览0 回复8 电梯直达
蘑菇砼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
我们实验室所用到的标准中有好几个检测项目涉及到长度或者厚度的测量,标准要求是≥2mm,类似于这种的,极限值为整数的,我们选择的量具是游标卡尺或者千分尺,众所周知这类量具的读数都有小数位数,有的是两位,有的是三位等。问题来了:标准要求的极限值是≥2mm,是整数位数,测量出来的是带小数位数的,那判定的时候是把测量数据修约为整数位跟极限值来比对呢,还是不修约直接按量具的实测值比对,还是约定一个修约的位数,修约后进行比对呢?
请大神们帮忙啊,谢谢!!!
该帖子作者被版主 zal5积分, 2经验,加分理由:鼓励发帖
为您推荐
您可能想找: 数据处理 询底价
专属顾问快速对接
立即提交
senke
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
蘑菇砼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 senke(lifen4607) 发表:
那要看是全数值比较法还是修约比较法
标准并没有规定用哪个方法,也没有规定修约到几位,只有一句要求:要求某某厚度≥2mm。这种情况下我们该怎么操作呢?我们之前的操作是:修约到比标准多一位,标准是整数,那我们修约到小数点后一位。现在有人提出了新的看法,认为应该全数值比较,因为有时候测量出来的结果是1.997之类的,修约和不修约的判定结果完全不一样。这又该如何操作呢
senke
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 蘑菇砼(Ins_2d3d9341) 发表:
标准并没有规定用哪个方法,也没有规定修约到几位,只有一句要求:要求某某厚度≥2mm。这种情况下我们该怎么操作呢?我们之前的操作是:修约到比标准多一位,标准是整数,那我们修约到小数点后一位。现在有人提出了新的看法,认为应该全数值比较,因为有时候测量出来的结果是1.997之类的,修约和不修约的判定结果完全不一样。这又该如何操作呢


请看标准的规定
蘑菇砼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 senke(lifen4607) 发表:
请看标准的规定
明白了,没有特殊规定时应使用全数值比较法。还有,若全数值是很长的小数位数,或者是无限循环的小数,那我们要在文件中明确规定修约的位数,然后再修约后比较。谢谢老师
yayicuo
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
未来工程师
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
一般没要求规定的当然用全数值比较,修约是增加不确定度了
yzguo
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
碧汐吹沙
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
游标卡尺测出来的位数也不是很多,最好采取全数值比对!
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴