实战宝典 原创大赛 仪器问答 仪友会 总帖：8111708今日发帖：71 我的社区 签到
快速导航 采购仪器 提醒
数据处理
版主:
入住本版
专家:
居民列表

主题：【求助】有关数字修约的计算

浏览0 回复11 电梯直达
huishao
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2010/12/31 00:30:33 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
对于测试数据的修约计算问题请教大家，按以下条件把数据修约：
测量数据            有效数据位数            修约间隔                  修约结果
3.457                  1                                0.5                              ？
176.5342            2                                0.05                            ？
0.0012                1                                0.002                          ？
1800.32              2                                0.1                              ？
请问是怎么算的，希望提供计算的步骤，谢谢！
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
sunmei
sunmei
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 10:18:43 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
修约间隔是什么?
赞贴
0
收藏
0
拍砖
0
举报
善良的鬼
ygw8
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 10:40:51 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
不理解修约间隔，
赞贴
0
收藏
0
拍砖
0
举报
yzguo
yzguo
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 17:21:11 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 ygw8(ygw8) 发表:
不理解修约间隔，

修约间隔（rounding interval）—— 修约值的最小数值单位。属于确定修约保留位数的一种方式。

　　注：修约间隔的数值一经确定，修约值即为该数值的整数倍。
来自百度
赞贴
0
收藏
0
拍砖
0
举报
牛牛
wozhuanyong
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 17:34:18 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
2.1 修约间隔
修约间隔是确定修约保留位数的一种方式，也称为修约区间。修约间隔的量值一经确定，修约数只能是该修约间隔的整数倍。修约间隔一般以k×10n的形式，称为以“k”间隔修约，并由n确定修约到哪一位。当n为负整数时，表明将数值修约到n位小数，如n＝-1相当于将数值修约到一位小数;当n＝0时相当于将数值修约到个位;当n为正整数时，表明将数值修约到10ｎ数位，如n＝2相当于将数值修约到“百”位。大多数情况下，k＝1，即以“1”间隔修约。在某些特殊领域或特殊情况下，也有采用“2”间隔或者“5”间隔。
2.2 近似数的基本修约规则
由于“四舍五入”修约原则下的舍入误差较大，我们选用更合理的修约原则，具体如下。
（1） 对于“1”间隔修约:
a.拟舍弃的数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。
例如: 拟修约数15.24499，修约间隔0.01，则为
15.24499→15.24。
b.拟舍弃的数字的最左一位数字大于5时，则进1，即保留的末位数字加1。
例如: 拟修约数18.4601，修约间隔0.1，则为
18.4601→18.5。
c.拟舍弃的数字的最左一位数字等于5，且其后跟有并非全部为0的数字时，则进1，即保留的末位数字加1（不管5前面的数字是奇数还是偶数）。
例如: 拟修约数18.4501，修约间隔0.1，则为
18.4501→18.5。
d.拟舍弃的数字的最左一位数字等于5，且其后没有数字或皆为0时，若保留的数字为奇数（1，3，5，7，9），则进1，即保留的末位数字加1;若为偶数（0，2，4，6，8），则舍去，即保留的各位数字不变。
例如: 拟修约数18.45，修约间隔0.1，则为
18.45→18.4;
拟修约数18.55，修约间隔0.1，则为
18.55→18.6。
这个规则简称为：“4舍6入，遇5偶数法则”。
（2）非“1”间隔修约
对于非“1”间隔修约，例如“2”间隔或“5”间隔修约，我们可先将拟修约数分别乘以2或5，然后按“1”间隔进行修约，最后再将修约数除以2或5。
例如: 将下列数按0.05间隔修约:
拟修约数值 末位保留依修约间隔（0.05）

例如: 将下列数按0.2间隔修约:
拟修约数值 末位保留依修约间隔（0.2）

2.3 负数的修约
负数的修约按其绝对值进行，修约后再加上负号。
例如: 拟修约数-18.23，修约间隔0.02，则为

2.4 勿连续修约
数据修约应一步到位，不能连续修约，连续修约会导致修约不确定度增大。
例如: 拟修约数73.149，修约间隔0.1，则为
73.149→73.1。
而不能采用下述连续修约的方式:
73.149→73.15→73.2。
2.5 舍入误差
设a为拟修约的数，b为修约后的近似数，则修约的舍入误差|δ|应为

例如: 将数8750按100间隔修约，并求其舍入误差，
赞贴
0
收藏
0
拍砖
0
举报
2010/12/31 17:40:18 Last edit by wozhuanyong
牛牛
wozhuanyong
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 17:40:54 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
按照上面这个方法修约即可
赞贴
0
收藏
0
拍砖
0
举报
xing-xing
xingzhenhai
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/12/31 21:18:12 6楼 管理 分享 倒序浏览 只看楼主 回复 私聊
测量数据            有效数据位数            修约间隔                  修约结果
3.457                  1                                0.5                              3
1800.32              2                                0.1                              1800
赞贴
0
收藏
0
拍砖
0
举报
huishao
huishao
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2011/1/2 1:04:06 7楼 管理 分享 倒序浏览 只看楼主 回复 私聊
谢谢，就是那有效数字位数那不明白什么意思。
例如
测量数据 176.5342    有效数据位数  2    修约间隔 0.05    修约结果
是这样算吗：167.5342/5=33.50684→33.51*5=167.55
还是这样167.5342→0.17*10^3/5=0.034*10^3→0.03*10^3*5=0.15*10^3哪个对呢，请指导。感觉167.55是5位有效数字了，但0.15*10^3又太离谱了。
赞贴
0
收藏
0
拍砖
0
举报
xing-xing
xingzhenhai
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2011/1/3 20:11:09 8楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 huishao(huishao) 发表:
谢谢，就是那有效数字位数那不明白什么意思。
例如
测量数据 176.5342    有效数据位数  2    修约间隔 0.05    修约结果
是这样算吗：167.5342/5=33.50684→33.51*5=167.55
还是这样167.5342→0.17*10^3/5=0.034*10^3→0.03*10^3*5=0.15*10^3哪个对呢，请指导。感觉167.55是5位有效数字了，但0.15*10^3又太离谱了。


不是

176.5342x20= M    修约间隔 1  有效数据位数  2  得  m

然后 m/20    保留有效数据位数  2  就好了
赞贴
0
收藏
0
拍砖
0
举报
huishao
huishao
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2011/1/3 22:26:24 9楼 管理 分享 倒序浏览 只看楼主 回复 私聊
谢谢8楼。
赞贴
0
收藏
0
拍砖
0
举报
poorlittle
poorlittle
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2011/1/4 13:37:41 10楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 huishao(huishao) 发表:
例如
测量数据 176.5342    有效数据位数  2    修约间隔 0.05    修约结果


“测量数据 176.5342    有效数据位数  2    修约间隔 0.05”中“有效数据位数  2 ”与 “ 修约间隔 0.05”似乎有矛盾。

若改成“测量数据 176.5342    有效数据位数  2    修约间隔 0.05”, 则修约结果为 18×102 

原文原意可能为“测量数据 176.5342    数位为小数后 2位    修约间隔 0.05”, 则修约结果为 176.55

(“数位”和 “有效位数”的分别, 请看http://bbs.instrument.com.cn/shtml/20100705/2647290/  )
赞贴
0
收藏
0
拍砖
0
举报
手机版： 【求助】有关数字修约的计算
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁