实战宝典 原创大赛 仪器问答 仪友会 总帖：8043344今日发帖：119 我的社区 签到
快速导航 采购仪器 提醒
数据处理
版主:
入住本版
专家:
居民列表

主题：【求助】检测结果的有效位数问题

浏览0 回复32 电梯直达
cynthiaian
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2009/06/30 15:11:00 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊

测量仪器出的数据是0.1，经过公式运算后，结果为0.0125，而标准≦0.8，想问一下，在报告中报出的值应该是0.01?  0.0? 还是未检出?
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
symmacros
jimzhu
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/6/30 15:21:58 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
在报告中报出的值应该是0.01。
赞贴
0
收藏
0
拍砖
0
举报
eee9999eee
eee9999eee
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/6/30 15:34:40 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
报告中出具0.01的数据。
赞贴
0
收藏
0
拍砖
0
举报
cynthiaian
cynthiaian
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/6/30 16:02:15 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
明白,谢谢!
赞贴
0
收藏
0
拍砖
0
举报
jennysing
jennysing
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/6/30 22:47:43 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 cynthiaian 发表:

测量仪器出的数据是0.1，经过公式运算后，结果为0.0125，而标准≦0.8，想问一下，在报告中报出的值应该是0.01?  0.0? 还是未检出?


仪器出的数据是0.1，公式运算如果是乘除法，结果的有效位数以公式中位数最少的为准，如果是加减法，以小数位数最少的为准。所以不管是那种情况，结果修约后也应该是一位有效数字，应该是0.01.
还是跟另外一个帖子的解释一样，你的结果跟标准规定的数值的有效位数无关
赞贴
0
收藏
0
拍砖
0
举报
poorlittle
poorlittle
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/5 18:29:20 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 jennysing 发表:
如果是加减法，以小数位数最少的为准。


此处小数位数最少的为小数後1位, 即是 #.#格式。 (小数後2、3、4位的格式分别为 #.##, #.###, #.####)

换言之, 0.0更合适。
赞贴
0
收藏
0
拍砖
0
举报
jennysing
jennysing
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/5 20:43:30 6楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 poorlittle 发表:
原文由 jennysing 发表:
如果是加减法，以小数位数最少的为准。


此处小数位数最少的为小数後1位, 即是 #.#格式。 (小数後2、3、4位的格式分别为 #.##, #.###, #.####)

换言之, 0.0更合适。


0.0都没有有效数字了哦。是不行的。所谓的加减法，以小数位数最少的为准是有效数字的修约法则，没有有效数字不在这个范围之内。
赞贴
0
收藏
0
拍砖
0
举报
liu999999
liu999999
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/5 21:21:45 7楼 管理 分享 倒序浏览 只看楼主 回复 私聊
0.01是正解的
赞贴
0
收藏
0
拍砖
0
举报
poorlittle
poorlittle
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/10 23:41:13 8楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 jennysing 发表:

0.0都没有有效数字了哦。是不行的。所谓的加减法，以小数位数最少的为准是有效数字的修约法则，没有有效数字不在这个范围之内。


以下是量度某液体温度变化的记录:

时间  温度
2:00  -2.1
3:00  -1.5
4:00    0.0
5:00    1.8
6:00    3.2

3:00 4:00 时量度的温度没有有效数字吗?

= = = = = =

2.3  : 2位有效数字, 精确至小数後1位
1.121 : 4位有效数字, 精确至小数後3位
3.41  : 3位有效数字, 精确至小数後2位

(A)
计算(1) : 2.1 + 1.221 + 3.31 =4.531
应报 4.5, 即2位有效数字, 精确至小数後1位, 小数後2、3位的数字都是可舍之怀疑数字。

(B)
计算(2) : 2.1 + 1.221 - 3.31 =0.011
小数後2、3位的数字还是可舍之怀疑数字吗?
若是, 应报0.0
若不是, 为什么?

赞贴
0
收藏
0
拍砖
0
举报
Last edit by poorlittle
jennysing
jennysing
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/12 23:37:26 9楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 poorlittle 发表:
原文由 jennysing 发表:

0.0都没有有效数字了哦。是不行的。所谓的加减法，以小数位数最少的为准是有效数字的修约法则，没有有效数字不在这个范围之内。


2.3  : 2位有效数字, 精确至小数後1位
1.121 : 4位有效数字, 精确至小数後3位
3.41  : 3位有效数字, 精确至小数後2位

(A)
计算(1) : 2.1 + 1.221 + 3.31 =4.531
应报 4.5, 即2位有效数字, 精确至小数後1位, 小数後2、3位的数字都是可舍之怀疑数字。

(B)
计算(2) : 2.1 + 1.221 - 3.31 =0.011
小数後2、3位的数字还是可舍之怀疑数字吗?
若是, 应报0.0
若不是, 为什么?



2,3位依然是可疑数字，这样的结果的确就是0.0。这样的加减运算在实际分析中出现的可能很小。
赞贴
0
收藏
0
拍砖
0
举报
Last edit by jennysing
jennysing
jennysing
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/12 23:52:23 10楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 poorlittle 发表:
原文由 jennysing 发表:

0.0都没有有效数字了哦。是不行的。所谓的加减法，以小数位数最少的为准是有效数字的修约法则，没有有效数字不在这个范围之内。


以下是量度某液体温度变化的记录:

时间  温度
2:00  -2.1
3:00  -1.5
4:00    0.0
5:00    1.8
6:00    3.2

3:00 时量度的温度没有有效数字吗?



这是个特殊的情况。这只是物理意义上的0，并非无法测量，例如它变换单位后就不再是0了，有别于我们通常意义上的数字上的0.因此它是有效数字。
赞贴
0
收藏
0
拍砖
0
举报
手机版： 【求助】检测结果的有效位数问题
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁