主题:【讨论】标准曲线的相关系数应保留多少位有效数字?如何修约?

浏览0 回复7 电梯直达
tiger333
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
我们相关系数有时保留4位有效数字,有时是最末位是9后再保留多一位,究竟如何才合适呢?
相关系数是只舍不进,为什么?
为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
可能感兴趣
云☆飘☆逸
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
这个没有明确的规定吧,不过对于一些大数,是可以多保留一位的,这个是有文献报道的。
calfstone
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 tiger333(tiger333) 发表:
我们相关系数有时保留4位有效数字,有时是最末位是9后再保留多一位,究竟如何才合适呢?
相关系数是只舍不进,为什么?

GB5750.3-2006 8.2.7项有规定:
校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。
newdiablo007
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
lczhfj
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 calfstone(calfstone) 发表:
原文由 tiger333(tiger333) 发表:
我们相关系数有时保留4位有效数字,有时是最末位是9后再保留多一位,究竟如何才合适呢?
相关系数是只舍不进,为什么?

GB5750.3-2006 8.2.7项有规定:
校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。
《地下水环境监测技术规范》、《地表水和污水监测技术规范》也有这个规定。
zhangxl9900
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有没有什么英文的关于这方面的文献呢?要发英文的文章用。
chongzi36
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
HJ/T91-2002《地表水和污水监测技术规范》里10.2.7有规定的:“以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量xi的有效数字位数相等,或最多比xi多保留一位。”
chongzi36
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 chongzi36(chongzi36) 发表:
HJ/T91-2002《地表水和污水监测技术规范》里10.2.7有规定的:“以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量xi的有效数字位数相等,或最多比xi多保留一位。”


不好意思,看错了,是相关系数啊,呵呵,还是一样的出处,10.6.1:“校准曲线的相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989-0.9998。如果小数点后都是9时,最多保留4位。”
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴