主题:【分享】【我们不一YOUNG】校准曲线的斜率、截距保留几位有效数字

浏览0 回复1 电梯直达
Ins_d8c51cc1
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵



1、参考依据
参考标准HJ 630,其他行业参考使用。

2、相关系数r保留的有效数字
校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。

3、校准曲线斜率的有效位数
校准曲线斜率的有效位数,应与自变量的有效数字位数相等。

4、校准曲线截距的有效位数
校准曲线截距的最后一位数,应与因变量的最后一位数取齐。

5、自变量和因变量的有效数字
记录测定数值时,应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具,有效数字位数可以记录到最小分度值,最多保留一位不确定数字。

6、实例
相关系数:相关系数计算结果为:r=0.999945,按照规则,小数点后的9多余4个则,最多保留4个9,所以,r=0.9999斜率:
斜率计算结果为:14.48,按照规则,斜率和自变量的有效数字位数相等,自变量的有效数字的位数相同,自变量的有效数字有2位的(如,2.0),有三位的(如,16.0),保持曲线更精确,取有效数字多的位数,取3位。所以斜率取:14.5截距:
计算的截距为0.6442,按照规则,截距的最后一位数,应与因变量的最后一位数取齐,因变量的最后一位为效数点后一位。所以截距取 0.6
为您推荐
专属顾问快速对接
立即提交
西瓜猫猫西瓜
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
感谢分享
斜率的有效位数,这个我还是第一次听说,受教了
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴