主题:【讨论】标准曲线计算中保留位数??

浏览0 回复29 电梯直达
可能感兴趣
暴打奥特曼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

吕梁山
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
这个问题一直很纠结,可能就是分析化学的一个短板吧
lczhfj
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?
暴打奥特曼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?


说了啊·你没看到???
lczhfj
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?


说了啊·你没看到???

10.2.7 以一元线性回归方程计算时,校准曲线斜率 b的有效位数,应与自变量 x i 的有效数



字位数相等,或最多比 x i 多保留一位。截距 a的最后一位数,则和因变量 y i 数值的最后一

位取齐,或最多比 y i 多保留一位数。
暴打奥特曼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?


说了啊·你没看到???

10.2.7 以一元线性回归方程计算时,校准曲线斜率 b的有效位数,应与自变量 x i的有效数

字位数相等,或最多比 x i多保留一位。截距 a的最后一位数,则和因变量 y i数值的最后一

位取齐,或最多比 y i多保留一位数。




你稍等,我再去查看一下,去年我们技术负责人专门在复评的时候与专家讨论过这个问题
暴打奥特曼
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?


说了啊·你没看到???

10.2.7 以一元线性回归方程计算时,校准曲线斜率 b的有效位数,应与自变量 x i的有效数

字位数相等,或最多比 x i多保留一位。截距 a的最后一位数,则和因变量 y i数值的最后一

位取齐,或最多比 y i多保留一位数。




你稍等,我再去查看一下,去年我们技术负责人专门在复评的时候与专家讨论过这个问题


查到了 10.6 校准曲线

10.6.2 校准曲线a b最多保留三位有效数字。并且以幂的形式来表示。简单的说大家都是用科学计数法来表示

举例 0.9011  计为9.01*10的三次方
淡泊明志
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
lczhfj
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 暴打奥特曼(pony-013) 发表:
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
原文由 lczhfj(lczhfj) 发表:
原文由 暴打奥特曼(pony-013) 发表:
保留两位小数,

我提供依据是 请参考 地表水和污水监测技术规范上有相关说明部分。

地表水和污水监测技术规范上说保留两位小数了?


说了啊·你没看到???

10.2.7 以一元线性回归方程计算时,校准曲线斜率 b的有效位数,应与自变量 x i的有效数

字位数相等,或最多比 x i多保留一位。截距 a的最后一位数,则和因变量 y i数值的最后一

位取齐,或最多比 y i多保留一位数。




你稍等,我再去查看一下,去年我们技术负责人专门在复评的时候与专家讨论过这个问题


查到了 10.6 校准曲线

10.6.2 校准曲线a b最多保留三位有效数字。并且以幂的形式来表示。简单的说大家都是用科学计数法来表示

举例 0.9011  计为9.01*10的三次方
恩。最多保留三位有效数字和两位小数还是很不同的。如果保留两位小数,曲线斜率0.00763只能保留成0.01了,相差太大了。
赞贴
0
收藏
0
拍砖
0
2014/4/16 15:33:22 Last edit by lczhfj
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴