主题:【已应助】大家做曲线的时候,一般斜率和截距都保存几位小数

浏览0 回复7 电梯直达
小白兔
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
如题所示,,主要是水质分析
推荐答案:JOE HUI回复于2022/09/01
其实GB5750.3-2006 8.2.7项有规定:
校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。所以曲线斜率r的平方就是曲线相关系数,最多保留小数点后四位,截距你可以跟斜率保持一致,最多保留四位可以
为您推荐
您可能想找: 技术咨询 询底价
专属顾问快速对接
立即提交
哈希
哈希公司(HACH)
4008316616-1405
123
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
截距和斜率可比最终检测结果要求的3位有效数字数多取一位
wuyuzegang
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
参考标准HJ 630,其他行业参考使用。
1.相关系数r保留的有效数字
校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。
2.校准曲线斜率的有效位数
校准曲线斜率的有效位数,应与自变量的有效数字位数相等。
3.校准曲线截距的有效位数


校准曲线截距的最后一位数,应与因变量的最后一位数取齐。

水质分析中上报结果一般是3位有效数字,考虑到斜率是参与结果计算的参数,因此按可多取一位的修约规则,斜率取4位有效数字为宜;而截距在后续结果计算中属加减运算,因此截距按小数比吸光度多取1位,最多保留到小数点后第4位即可。
赞贴
0
收藏
0
拍砖
0
2022/9/1 19:37:32 Last edit by dahua1981
JOE HUI
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
其实GB5750.3-2006 8.2.7项有规定:
校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.99989→0.9998。如果小数点后都是9时,最多保留小数点后4位。所以曲线斜率r的平方就是曲线相关系数,最多保留小数点后四位,截距你可以跟斜率保持一致,最多保留四位可以
oscar_2007
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
答案:
1.做曲线的时候,一般斜率和截距都保存4位小数。
2.根据标准GB5750.3-2006《生活饮用水标准检验方法 水质分析质量控制》中 8.2.7项有规定:校准曲线相关系数只舍不入,保留小数点后4位,如0.99989→0.9998。截距可以跟斜率保持一致,保留小数点后四位有效数据。
lsy268
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
ztyzb
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
引自HJ 91.1-2019
楼主,生态环境监测领域标曲斜率截距位数保留原则如上图,斜率b有效位数和横坐标即浓度有效位数相等或多一位,楼主看环保分析标准一般就能发现横坐标不管是以质量还是浓度都是XX.X、X.XX的样式即有三个数存在的情况居多,所以建议斜率保留三位或四位有效数字;截距a和吸光值最后一位取齐,一般吸光值是小数点后三位或者四位,所以截距一般保留到小数点后三位到四位或四位到五位,根据贵单位光度计来选择。个人比较推荐斜率保留三位有效数字,截距保留到小数点后第三位。
wazcq
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
如果是 斜率很大(比如色谱峰面积) 个人习惯取整数
品牌合作伙伴