实战宝典 原创大赛 仪器问答 仪友会 总帖：8043229今日发帖：2 我的社区 签到
快速导航 采购仪器 提醒
数据处理
版主:
入住本版
专家:
居民列表

主题：【求助】有效数字的运算与修约

浏览0 回复8 电梯直达
chenyl4518
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2014/01/15 23:11:11 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
在日常计算中，遇到这种问题小弟很困惑，希望哪位大虾帮我确定一下，下面的计算是否正确？

0.0231、24.57和1.16832三个数相乘，根据有效数字的运算规则，有效数字的位数取决于相对误差最大的数据的位数，

应该写成 0.0231×24.6×1.17=0.6648642≈0.665
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
【四季风】
gpwrx
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/16 8:26:54 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
要看这三个数是什么数据，如果是原始数据应该全部数据乘完后再修约吧。
赞贴
0
收藏
0
拍砖
0
举报
jiasheng
jiasheng
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/16 9:01:19 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
乘除法以有效数字最少的数据为基准，其他有效数修约至相同，再进行乘除运算，计算结果仍保留最少的有效数字。
也可以计算后在修约。
赞贴
1
收藏
0
拍砖
0
举报
chenyl4518
chenyuanlin
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/16 10:30:04 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 chenyl4518(chenyuanlin) 发表:
在日常计算中，遇到这种问题小弟很困惑，希望哪位大虾帮我确定一下，下面的计算是否正确？

0.0231、24.57和1.16832三个数相乘，根据有效数字的运算规则，有效数字的位数取决于相对误差最大的数据的位数，

应该写成 0.0231×24.6×1.17=0.6648642≈0.665


0.0231×24.6×1.17=0.6648642计算结果写成0.6648≈0.665？
赞贴
0
收藏
0
拍砖
0
举报
v2818455
v2818455
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/16 16:41:23 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
在乘除運算中，應以參加運算的各數據中相對誤差最大（即有效數字位數最少）的數據為標准，決定結果（積或商）的有效位數。中間算式中可多保留一位。
赞贴
1
收藏
0
拍砖
0
举报
zyl3367898
zyl3367898
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/16 22:37:17 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
这个结果是对的。
赞贴
0
收藏
0
拍砖
0
举报
whuisvfg
whuisvfg
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/1/17 20:15:16 6楼 管理 分享 倒序浏览 只看楼主 回复 私聊
计算错误
原因连续修约
按照近似计算的相关法则，0.0231、24.57和1.16832三个数相乘最终保留3位有效数字，在计算过程中，各位数字可先修约到比最终保留的有效数字多一位再进行计算 0.0231x24.57x1.168≈0.663
现在人们多使用office计算，可以在计算过程中不加修约，只在最后对计算结果进行修约即可。
顺便提醒一下：office软件中，如果你使用Access，则不用担心计算修约问题，因为Access是采用四舍六入的计算方法。如果你在word表或者Excel中计算，则要再最后手动修约，因为这两个软件的修约格式是四舍五入，不符合GB/T8170标准。
赞贴
0
收藏
0
拍砖
0
举报
千层峰
jxyan
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/2/10 13:59:43 7楼 管理 分享 倒序浏览 只看楼主 回复 私聊
不是应该保留2位小数么？
赞贴
0
收藏
0
拍砖
0
举报
lczhfj
lczhfj
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2014/2/15 23:35:59 8楼 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 千层峰(jxyan) 发表:
不是应该保留2位小数么？
3位有效数字。
赞贴
0
收藏
0
拍砖
0
举报
手机版： 有效数字的运算与修约
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁