实战宝典 原创大赛 仪器问答 仪友会 总帖：8032561今日发帖：266 我的社区 签到
快速导航 采购仪器 提醒
能力验证
版主:
入住本版
专家:
居民列表

主题：【已应助】方法标准中一般都有“应精确至***”这样的描述，如测量时“应精确至0.1mm”，计算结果“应精确至0.1mm”，同一个术语，前者一般认为读数分度值小于0.1mm也是满足要求，后者一般认为是应修约至1mm，说法有没有依据？

浏览0 回复3 电梯直达
物价真高
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2023/03/16 21:37:26 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
方法标准中一般都有“应精确至***”这样的描述，如测量时“应精确至0.1mm”，计算结果“应精确至0.1mm”，同一个术语，前者一般认为读数分度值小于0.1mm也是满足要求，后者一般认为是应修约至1mm，说法有没有依据？
推荐答案：123回复于2023/03/16
原始记录中如果这么说，那么就是说0.1mm就是最小精度，测量的时候可以估读一位，例如0.12mm等等。如果报告中有这样的，一般报告上会说保留几位有效数字，如果非这样说了，就修约到0.1mm可以了。
该帖子作者被版主 检测一家亲加 5积分， 2经验，加分理由：鼓励
为您推荐
近期热榜
热门活动
您可能想找: 技术咨询 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
相关阅读
123
m3149125
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2023/3/16 21:44:08 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
原始记录中如果这么说，那么就是说0.1mm就是最小精度，测量的时候可以估读一位，例如0.12mm等等。如果报告中有这样的，一般报告上会说保留几位有效数字，如果非这样说了，就修约到0.1mm可以了。
该帖子作者被版主 hou1210加 5积分， 2经验，加分理由：鼓励
赞贴
2
收藏
0
拍砖
0
举报
ppttmmyy
ppttmmyy
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2023/3/17 0:25:19 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
关键看原始记录的数据位数来定
该帖子作者被版主 hou1210加 5积分， 2经验，加分理由：鼓励
赞贴
1
收藏
0
拍砖
0
举报
hou1210
hou1210
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2023/4/2 12:42:52 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
修约的话一般是读取到下一位。
赞贴
1
收藏
0
拍砖
0
举报
猜你喜欢 最新推荐 热门推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁