实战宝典 原创大赛 仪器问答 仪友会 总帖：8024252今日发帖：268 我的社区 签到
快速导航 采购仪器 提醒
仪器检定/校准/计量
版主:
入住本版
专家:
居民列表

主题：【分享】计量数据有效位数的确定与修约

浏览0 回复4 电梯直达
xing-xing
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2011/03/15 21:30:34 楼主 管理 分享 倒序浏览 查看全部 回复 私聊
计量数据是计量检定校准工作的产品，是评价产品质量与工作质量的重要依据。要取得准确可靠的数据，除了科学认真负责的测量外，根据被测量计量器具的允许误差极限对测量数据进行正确的数据处理计算也是非常重要的一个环节。根据GB8170-87《数值修约规则》规定的修约方法有三种：整数倍、0.5倍和0.2倍修约。计量检定校准工作中一般采用整数倍修约方法，根据实际工作和误差理论相结合，简述如下。
一、修约数值有效位数的确定

    从左边起第一个非0数字算起所有有效数字的个数，即为有效数字的位数，简称有效位数。

  1.首先是上一级计量检定机构给出的有效位数作为确定有效位数的依据，其次是计量标准器能够读出的有效数据的位数作为确定有效位数的依据。

  2.数学运算中有效位数的确定。

  （1）加减法运算以各数据中小数部分位数最少的为准，运算结果比其多保留一位有效位数。

    例：5.89＋15.2551=21.145

  （2）乘除法运算以各数据中有效位数最少的为准，运算结果比其多保留一位有效位数。

    例：2.1×3.124=6.55

  （3）开方或乘方的数据中的有效位数比被开方或乘方的数多保留一位有效位数。

    例：1.42=1.96；1.232=1.861

  （4）对数运算的数据中的有效位数应与真数的有效位数相等。

    例：logl2.3＝1.09
为您推荐
近期热榜
热门活动
专属顾问快速对接
获取验证码
立即提交
吉普丽儿
xiaopianzi1209
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2011/3/16 16:32:35 沙发 管理 分享 倒序浏览 查看全部 回复 私聊
运算时要遵循先修约后运算的原则
赞贴
0
收藏
0
拍砖
0
举报
猜你喜欢 最新推荐 热门推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁