实战宝典 原创大赛 仪器问答 仪友会 总帖：8086520今日发帖：863 我的社区 签到
快速导航 采购仪器 提醒
仪器检定/校准/计量
版主:
入住本版
专家:
居民列表

主题：【分享】仪器设备显示的数值的所有位数都要记录吗？

浏览0 回复5 电梯直达
刘彦刚
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2018/02/05 08:36:52 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
有版友问：
例如1级精度的电液伺服压力试验机，电脑显示的力值为384.79kN。

作为检测单位，非计量单位。

问题1：在记录的时候，是所有的数值都记录下来，还是修约后再记录。这个跟精度有关系吗？有的甚至384.792kN等小数点后有好几位。
问题2：现在还有有效数字的概念吗？
问题3：如果有的话，那么384.79kN，“9”这一位是不准确位，“7”这一位就是准确位，可是，1级精度的试验机，能准确到“7”这一位吗？
问题4：1级精度的试验机允许有±1%的示值误差，也就是“4”这一位上已经有误差了，这个理解对吗？
问题5：如果力值的记录的确要考虑有效数字而修约，那么相关的精度等级是不是要以计量院的检定证书为准，不能以设备厂家提供的信息为准？
问题6：1级精度试验机示值误差±1%，相对分辨力为0.5%，这是《电液伺服试验机》JJG 1063-2010上的要求。而设备厂家的技术合同上是分辨力优于10N。那么能以分辨力10N来使用吗？如果换算到相对分辨力，远优于0.5%

有高手能解答下吗？
该帖子作者被版主 西瓜猫猫西瓜加 2积分， 2经验，加分理由：蓝猫淘气三千问
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
刘彦刚
pxsjlslyg
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2018/2/5 8:38:26 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
路云专家说：
      1、试验机的分辨力并不能只能看试验机显示到小数后第几位，有的试验机的控制软件可以自己设置小数位数。但我们现在讨论的是“有效分辨力”，也就是说能够稳定显示的那一位的下一位是那一位是哪一位(对一稳定的被测量)。通常的判定方法对于数显仪器来说，是取变动范围的二分之一。
      2、除此之外，还要根据每一量程的测量下限FL。
      3、以上两点，是试验机的物理分辨力。还有一点不可忽略的因素是“鉴别力域”，或者说是“灵敏度”。有的情况稳定并不非真正的稳定，而是因为灵敏度过低所致。
      综上所述，真正应读到那一位，应当根据上级机构给出的“校准结果的不确定度”，来确定那一位开始是欠准数，读数读到那一位就OK了。位数少了可能误差太大引起误判，位数多了纯属无效。
补充内容 :
更正：第一段第二行的“…能够稳定显示的那一位的下一位是那一位是哪一位(对一稳定的被测量)。”应删除蓝色字部分。
该帖子作者被版主 vivi_vivi加 2积分， 2经验，加分理由：受益匪浅
赞贴
0
收藏
0
拍砖
0
举报
2018/2/5 8:40:30 Last edit by pxsjlslyg
刘彦刚
pxsjlslyg
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2018/2/5 8:43:30 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
      路云专家说得真好哦！
      特别是“也就是说能够稳定显示的那一位的下一位是那一位是哪一位(对一稳定的被测量)。通常的判定方法对于数显仪器来说，是取变动范围的二分之一。”让我涨知识了哦！
赞贴
0
收藏
0
拍砖
0
举报
2018/2/5 8:44:29 Last edit by pxsjlslyg
西瓜猫猫西瓜
vivi_vivi
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2018/2/5 9:35:07 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 刘彦刚(pxsjlslyg) 发表:
      路云专家说得真好哦！
      特别是“也就是说能够稳定显示的那一位的下一位是哪一位(对一稳定的被测量)。通常的判定方法对于数显仪器来说，是取变动范围的二分之一。”让我涨知识了哦！
那用此题目“电脑显示的力值为384.79kN”来举例的话，那就是0.01的1/2吗？
赞贴
0
收藏
0
拍砖
0
举报
刘彦刚
pxsjlslyg
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2018/2/5 9:45:03 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 西瓜猫猫西瓜(vivi_vivi) 发表:
那用此题目“电脑显示的力值为384.79kN”来举例的话，那就是0.01的1/2吗？
可爱的猫：据我理解路云专家的意思是：如果384.79kN的0.01位，从0.05变到0.09的话，那示值应为384.77kN（0.09－0.05＝0.04，0.04/2＝0.02，0.02+0.05＝0.07）。这一点对于检定过没有阻尼筒的机械天平的版友，会有很深的体会的。
赞贴
0
收藏
0
拍砖
0
举报
2018/2/5 10:00:17 Last edit by pxsjlslyg
西瓜猫猫西瓜
vivi_vivi
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2018/2/5 9:49:16 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 刘彦刚(pxsjlslyg) 发表:
可爱的猫：据我理解路云专家的意思是：如果384.79kN的0.01位，从0.05变到0.09的话，那示值应为384.77kN（0.09－0.05＝0.04，0.04/2＝0.02，0.02+0.05＝0.07）。


“从0.05变到0.09的话，”这个我还真没考虑到！
原来如此
赞贴
0
收藏
0
拍砖
0
举报
手机版： 仪器设备显示的数值的所有位数都要记录吗？
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁