实战宝典 原创大赛 仪器问答 仪友会 总帖：8092677今日发帖：209 我的社区 签到
快速导航 采购仪器 提醒
数据处理
版主:
入住本版
专家:
居民列表

主题：【求助】检测结果的有效位数问题

浏览0 回复32 电梯直达
可能感兴趣
poorlittle
poorlittle
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/22 21:44:58 31楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 calfstone 发表:
3、如果以不确定度合成角度，运算过程都是在增加不确定度。解决问题的关键就是现在的趋势：报告结果+该结果的不确定度


很同意。

若在电子天秤上秤得A重0.1234 g, “有效数字”一词会令人联想到1、2、3是准确数字, 4估算数字, 误差范围是±0.00005 g。 但现实往往不是这样。 若此天秤的不确定度是U=0.002 g (k=2), 则0.12 g 是准确的, 4是没意义的。 A的真值在0.121 g 至 0.125 g之间, 应报 A=0.123 g ± 0.002 g (k=2)。  但有时客户不明± 0.002 g (k=2), 还说别家秤至小数後4、5位, 准很多。
赞贴
0
收藏
0
拍砖
0
举报
魅力星光
kikiaa
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2009/7/27 10:59:03 32楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 jennysing 发表:
原文由 cynthiaian 发表:

测量仪器出的数据是0.1，经过公式运算后，结果为0.0125，而标准≦0.8，想问一下，在报告中报出的值应该是0.01?  0.0? 还是未检出?


仪器出的数据是0.1，公式运算如果是乘除法，结果的有效位数以公式中位数最少的为准，如果是加减法，以小数位数最少的为准。所以不管是那种情况，结果修约后也应该是一位有效数字，应该是0.01.
还是跟另外一个帖子的解释一样，你的结果跟标准规定的数值的有效位数无关

同意!
我觉得还可以写<0.1
赞贴
0
收藏
0
拍砖
0
举报
手机版： 【求助】检测结果的有效位数问题
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁