实战宝典 原创大赛 仪器问答 仪友会 总帖：8042774今日发帖：634 我的社区 签到
快速导航 采购仪器 提醒
数据处理
版主:
入住本版
专家:
居民列表

主题：【讨论】数据的修约

浏览0 回复5 电梯直达
smantha
头像
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
发表于：2010/11/16 10:31:52 楼主 管理 分享 倒序浏览 只看楼主 回复 私聊
3.分析结果小数点后的位数，应与分析方法精密度小数点后的位数一致。

想来想去，也想不明白在分析过程中处理数据的时候应该怎么执行上面那一句话。这句话和下边的又怎么取舍呢？

在乘除法运算中，每数及它们的积或商的有效数字的保留，以每数中有效数字位数最少的为标准。在乘除法中，因是各数值相对误差的传递，所以结果的相对误差必须与各数中相对误差最大的那个相当。 
 
例如：13.92×0.0112×1.9723中  0.0112是三位有效数字，位数最少，它的相对误差最大，所以应以0.0112的位数为准，即：13.9×0.0112×1.97 = 0.307
为您推荐
近期热榜
热门活动
您可能想找: 气相色谱仪(GC) 询底价
选参数 看心得 找厂商 查方案
专属顾问快速对接
立即提交
可能感兴趣
。。。。。。。。。
s254895021
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/11/16 11:34:23 沙发 管理 分享 倒序浏览 只看楼主 回复 私聊
复习，复习。
赞贴
0
收藏
0
拍砖
0
举报
xing-xing
xingzhenhai
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/11/16 12:49:39 板凳 管理 分享 倒序浏览 只看楼主 回复 私聊
计算过程中越多越好
赞贴
0
收藏
0
拍砖
0
举报
zengzhengce163
zengzhengce163
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/11/16 19:52:59 马扎 管理 分享 倒序浏览 只看楼主 回复 私聊
个人觉得，不能把原始数据进行修约后再去计算，而应该在计算后把结果修约到相应的有效位数，上式应该是0.307489459修约为0.307
赞贴
0
收藏
0
拍砖
0
举报
戈壁明珠
zongguitang
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/11/20 22:19:18 地毯 管理 分享 倒序浏览 只看楼主 回复 私聊
原文由 zengzhengce163(zengzhengce163) 发表:
个人觉得，不能把原始数据进行修约后再去计算，而应该在计算后把结果修约到相应的有效位数，上式应该是0.307489459修约为0.307

实际上测定时得不到这么多位的精确结果 。
赞贴
0
收藏
0
拍砖
0
举报
青林
wyqql2060
结帖率：
100%
关注：0 |粉丝：0
新手级： 新兵
2010/11/21 17:51:36 地板 管理 分享 倒序浏览 只看楼主 回复 私聊
最好是一次性修约,步骤不要太多!
赞贴
0
收藏
0
拍砖
0
举报
手机版： 【讨论】数据的修约
猜你喜欢最新推荐热门推荐更多推荐
头像
高级回复 发表评论
品牌合作伙伴
岛津
日立科学仪器
珀金埃尔默仪器（上海）有限公司（PerkinElmer）
日本电子株式会社
丹纳赫
安捷伦
赛默飞世尔科技
普析通用
欧波同
天美
天瑞仪器
德国耶拿
海能技术
马尔文帕纳科
磐诺科技
上海仪电科仪
梅特勒托利多
聚光科技
莱伯泰科
盛瀚
多宁生物
丹东百特
科哲
卓立汉光
屹尧科技
华谱科仪
宝德仪器
优莱博
HORIBA
布鲁克核磁