实战宝典 原创大赛 仪器问答 仪友会 总帖：8080860今日发帖：7 我的社区 签到
快速导航 采购仪器 提醒
水质检测
版主:
入住本版
专家:
居民列表

主题：【讨论】标准曲线计算中保留位数？？

浏览0 回复29 电梯直达
可能感兴趣
老兵
wangliqian
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/10/4 10:55:17 11楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 zjchen3189 发表:
标准曲线计算中保留位数应该保留几位？
我们配置了一条氨氮标准曲线，
计算曲线：保留三位小数是：Y=0.004X-0.009  r=0.9998      回归方程1
计算曲线：保留四位小数是：Y=0.0036X-0.0087  r=0.9998    回归方程2
样品的吸光度是0.146  空白吸光度是0.017
经计算： 回归方程1    计算结果是0.69
经计算： 回归方程2    计算结果是0.74
我到底应该用哪个回归方程计算结果？？？
请大家讨论!!!


相关系数r取3～4位或取到4位后不为9的位数(如0.99996)；由于要继续参与计算，须分别比计算结果和分光光度计的读数多取一位，所以斜率应取4位有效数字，截距a一般取4位小数；比色法的计算结果一般应取三位有效数字,对于氨氮来说，≥0.1时取3位有效数字，＜0.1时取两位有效数字，注意有效数字不能等同于保留小数位数。
因此回归方程表述应正确为：Y=0.003600X-0.0087  r=0.9998
                    计算结果：0.XXX
赞贴
0
收藏
0
拍砖
0
举报
goodwww
hejianfei-2000
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/10/5 21:16:08 12楼 管理 分享 倒序浏览 只看楼主 回复 私聊
我觉得两种的差别不是很大啊！
赞贴
0
收藏
0
拍砖
0
举报
swan_chen
swan_CHEN
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/11/4 16:41:47 13楼 管理 分享 倒序浏览 只看楼主 回复 私聊
上面说的是HJ/T91-2002。
赞贴
0
收藏
0
拍砖
0
举报
jianpingzheng
jianpingzheng
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/11/4 18:44:52 14楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 zjchen3189(zjchen3189) 发表:
标准曲线计算中保留位数应该保留几位？
我们配置了一条氨氮标准曲线，
计算曲线：保留三位小数是：Y=0.004X-0.009  r=0.9998      回归方程1
计算曲线：保留四位小数是：Y=0.0036X-0.0087  r=0.9998    回归方程2
样品的吸光度是0.146  空白吸光度是0.017
经计算： 回归方程1    计算结果是0.69
经计算： 回归方程2    计算结果是0.74
我到底应该用哪个回归方程计算结果？？？
请大家讨论!!!


斜率按照有效数字来保留，一般和所用量器或信号值能达到的有效位数来计算。比如你的曲线用移液管（即使是取1ml溶液，记为1.00ml，3位有效数字）配制标准溶液（标准溶液有3~4位有效数字）、用比色管（比色管有效数字3位）盛装比色液、用光度计测量吸光度（一般可以有3位有效数字，个别低浓度的除外），所以校准曲线的斜率是3位有效数字，不是小数点后三位。当数据很小时，用科学计数法表示斜率。
截距的含义就是吸光度，所以和吸光度相同保留小数后3位，当然，如果有能读到小数点后4位的就保留小数点后4位啦。
也就是你的方程斜率应该是0.00360（也许不是这个数），而截距是0.009.
如果为了更加精密、准确，斜率截距都可以多保留一位
线性关系相关系数r保留所有9再加一位，最多保留4个9
还有，线性关系相关系数r的运算规则与其他数据运算规则不同，要舍去的数不管多大都是只退不进
如0.99978，记为0.9997而不是0.9998
0.99999记为0.9999而不是1.0000
该帖子作者被版主 jingsheng加 2积分， 2经验，加分理由：有一定的道理和正确性！
赞贴
0
收藏
0
拍砖
0
举报
Last edit by jianpingzheng
fb66
fb66
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/11/6 15:25:16 15楼 管理 分享 倒序浏览 只看楼主 回复 私聊
至少保留位数：截距——小数点后3位；斜率——三位有效数字；相关系数——第一位非9（不需要四舍五入，是多少就多少）数字。
赞贴
0
收藏
0
拍砖
0
举报
fancygirlm
zibohuakang
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2012/5/28 17:49:52 16楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 chemistryren(chemistryren) 发表:

1这是水质分析质量控制中的规定，适用于所有方法吗？液相、气相、原子吸收等
赞贴
0
收藏
0
拍砖
0
举报
梧桐烟火
v2744700
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/2/11 9:48:31 17楼 管理 分享 倒序浏览 只看楼主 回复 私聊
斜率 最多3位有效数字and同浓度有效位数相同或者多保留一位（浓度有效位数为4位）。
截距 3位有效数字and小数位数和吸光度对其或者多一位。
相关系数 最多4位小数，只舍不入。"and"表示前后两项要求都要满足。

所以 y=（3.60*10^-3 ）X-0.0087
赞贴
0
收藏
0
拍砖
0
举报
2014/2/11 10:34:53 Last edit by v2744700
hanxueyixiao
hanxueyixiao
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/4/8 21:09:20 18楼 管理 分享 倒序浏览 只看楼主 回复 私聊
斜率的保留位数应该比吸光度位数最多多一位，。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

这个问题我还没考虑过，一直都是电脑自己做出曲线，我直接超的。
赞贴
0
收藏
0
拍砖
0
举报
lczhfj
lczhfj
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/4/8 21:30:53 19楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 hanxueyixiao(hanxueyixiao) 发表:
斜率的保留位数应该比吸光度位数最多多一位，。比如吸光度是0.00X的。那么斜率最多可到小数点4位。截距与斜率位数一致/

这个问题我还没考虑过，一直都是电脑自己做出曲线，我直接超的。
斜率位数与吸光度无关，而与标准的浓度或质量有关；与吸光度有关的是截距的位数。电脑出的曲线或要修正。
赞贴
0
收藏
0
拍砖
0
举报
2014/4/8 21:32:37 Last edit by lczhfj
吕梁山
shih20j07
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/4/14 9:18:29 20楼 管理 分享 倒序浏览 只看楼主 回复 私聊
这个很困惑啊！
赞贴
0
收藏
0
拍砖
0
举报
手机版： 【讨论】标准曲线计算中保留位数？？
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁