主题:【已应助】修约数据间隔的问题

浏览0 回复3 电梯直达
omjia
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
在网上看到修约数据间隔的不确定度计算,示例是这样的,检测数据20.2,如果保留位数修约至20,那么修约间隔为1,如果保留位数修约至20.2,那么修约间隔为0.1。我们在做数值修约时,不是多保留一位位数吗?比如20.2修约至20,修约间隔是不是0.1才对呢?这个怎么理解?
推荐答案:ztyzb回复于2022/08/17

楼主看一下GBT 8170-2008 《数值修约规则与极限数值的表示和判定》,修约间隔指的是修约值的最小数值单位,所以一开始说法是对的。至于在数字加减乘除运算过程中,有效数字可以多保留一位,但结果仍按修约规则处理。
为您推荐
您可能想找: 数据处理 询底价
专属顾问快速对接
立即提交
未来工程师
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
保留至整数位,修约就是按照0.5一级,保留至小数点第一位,修约按照0.05一级
ztyzb
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵

楼主看一下GBT 8170-2008 《数值修约规则与极限数值的表示和判定》,修约间隔指的是修约值的最小数值单位,所以一开始说法是对的。至于在数字加减乘除运算过程中,有效数字可以多保留一位,但结果仍按修约规则处理。
该帖子作者被版主 liqunqueen5积分, 2经验,加分理由:感谢分享,传递知识
JOE HUI
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
修约间隔其实就是修约值的最小数值单位。按照楼主提示20.2修约至20,其修约间隔是1才对,

例1:如修约间隔为0.1,修约值应为0.1的整数倍,也就是修约到小数点后一位。

例2:如修约间隔为100,修约值应为100的整数倍,也就是修约到百位。

修约步骤

确定修约间隔

常用间隔小数点后几位、个位、十位、百位、千位……

总之间隔是多少修约后的数值就是这个间隔的整数倍(尾数不再取舍)。
该帖子作者被版主 liqunqueen5积分, 2经验,加分理由:感谢分享,传递知识
品牌合作伙伴