快速导航采购仪器提醒

水质检测

版主:

入住本版

专家:

仪器信息网

居民列表

仪器社区 > 环境监测 > 水质检测帖子详情

快速回复发表新帖最新帖

主题：【讨论】关于斜率和截据的有效数字报出

浏览0 回复11 电梯直达

slingshot

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

发表于：2015/03/02 09:33:35 楼主管理分享倒序浏览只看楼主回复私聊

根据环境监测质量管理技术导则（hj630-2011）5.6数据处理中规定：
5.6.2.4 校准曲线相关系数只舍不入，保留到小数点后第一个非9 数字。如果小数点后多于4
个9，最多保留4 位。校准曲线斜率的有效位数，应与自变量的有效数字位数相等。校准曲线
截距的最后一位数，应与因变量的最后一位数取齐。
地表水和污水监测规范（hj/t91-2002）中规定：
10.2.7 以一元线性回归方程计算时，校准曲线斜率b 的有效位数，应与自变量xi 的有效数
字位数相等，或最多比xi 多保留一位。截距a 的最后一位数，则和因变量yi 数值的最后一
位取齐，或最多比yi 多保留一位数。
请问各位老师自变量的有效数字位数按那个算？
比如我氨氮的曲线如下：
含量ug 吸光度A-Ao
5.00 0.038
10.0 0.076
20.0 0.148
40.0 0.314
60.0 0.439
80.0 0.620
100.0 0.775
根据公式计算a=-0.003601 b=0.007731 r=0.9994 按照相关规定 a=-.0036 那么b如何处理呢？自变量的有效数字位数按那个算？（是按曲线的系列点的x的有效数字计算么）

该帖子作者被版主 过年杀只猪加 2积分， 2经验，加分理由：话题

0
赞贴
11
回帖
0
收藏
0
拍砖
版主
招募

为您推荐

近期热榜

热门活动

您可能想找: 气相色谱仪(GC) 询底价

选参数看心得找厂商查方案

专属顾问快速对接

立即提交

可能感兴趣

zyl3367898

禁止发帖修改昵称

ID：zyl3367898

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 10:57:11 沙发管理分享倒序浏览只看楼主回复私聊

a与y值的有效数值一样，应该是0.00360，B与X有效数值一样，应该是0.007731

该帖子作者被版主 jbcng加 1积分， 2经验，加分理由：讨论

赞贴

拍砖

slingshot

禁止发帖修改昵称

ID：slingshot

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 15:05:07 板凳管理分享倒序浏览只看楼主回复私聊

原文由 zyl3367898(zyl3367898) 发表:
a与y值的有效数值一样，应该是0.00360，B与X有效数值一样，应该是0.007731

x的有效数值不是有三位的么？

赞贴

拍砖

yxllzh

禁止发帖修改昵称

ID：yxllzh

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 15:18:44 马扎管理分享倒序浏览只看楼主回复私聊

校准曲线斜率b 的有效位数，应与自变量xi 的有效数
字位数相等，或最多比xi 多保留一位。
这是习惯多保留了一位。

赞贴

拍砖

slingshot

禁止发帖修改昵称

ID：slingshot

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 15:22:56 地毯管理分享倒序浏览只看楼主回复私聊

原文由 yxllzh(yxllzh) 发表:
校准曲线斜率b 的有效位数，应与自变量xi 的有效数
字位数相等，或最多比xi 多保留一位。
这是习惯多保留了一位。

请教老师：自变量x在一个系列里面同时有2位有效数字和3位有效数字的按那个算？比如系列点：0.50 1.00 2.00

赞贴

拍砖

weimiya

禁止发帖修改昵称

ID：weimiya

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 16:50:08 地板管理分享倒序浏览只看楼主回复私聊

以前听公司评审听专家提过，当时每明白，现在懂了，赞一个

赞贴

拍砖

李偲

禁止发帖修改昵称

ID：v2770921

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 17:02:48 6楼管理分享倒序浏览只看楼主回复私聊

之前老兵发过一次，有关部分理化实验的经验斜率值

赞贴

拍砖

slingshot

禁止发帖修改昵称

ID：slingshot

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 18:35:30 7楼管理分享倒序浏览只看楼主回复私聊

原文由v2770921发表：之前老兵发过一次，有关部分理化实验的经验斜率值

能给个链接么？

赞贴

拍砖

透明

禁止发帖修改昵称

ID：zsj201204

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/2 19:22:34 8楼管理分享倒序浏览只看楼主回复私聊

怎么那么多小数、、、

赞贴

拍砖

lczhfj

禁止发帖修改昵称

ID：lczhfj

行业：其他

积分：0升级还需100积分

声望：0升级还需100声望

注册时间：0000-00-00

最后登录时间：0000-00-00

进入iLog 私信关注

结帖率：

100%

关注：0 |粉丝：0

新手级：新兵

2015/3/3 9:10:07 9楼管理分享倒序浏览只看楼主回复私聊

原文由 zyl3367898(zyl3367898) 发表:
a与y值的有效数值一样，应该是0.00360，B与X有效数值一样，应该是0.007731

没有“a与y值的有效数值一样”的说法，hj630-2011、hj/t91-2002是说“校准曲线截距的最后一位数，应与因变量的最后一位数取齐”或者“截距a 的最后一位数，则和因变量yi 数值的最后一位取齐，或最多比yi 多保留一位数”，按两种说法，a应修约为0.004或0.0036。“校准曲线斜率的有效位数，应与自变量的有效数字位数相等”或"校准曲线斜率b 的有效位数，应与自变量xi 的有效数字位数相等，或最多比xi 多保留一位",b应修约为0.00773或0.007731。

赞贴

拍砖