主题:【讨论】计算中的有效位数确定

浏览0 回复11 电梯直达
cxdong96
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
各位好,工作的时候有时候会钻进死胡同。

有效位数的确定相信大家不会陌生,但是我们在计算含量的时候很多情况下都会稀释2倍,或者5倍,等等。

因此我们的计算公式中会除以2或者乘以2等等,那么根据乘(除)取有效位数最小的数字为准,那么液相最终的结果也只有一位是准确的?(以2为例)

欢迎大家讨论

就是有效数字保留的问题
(二)乘、除(或乘方、开方)运算
  乘除运算规则:在进行数的乘除运算时,以有效数字位数量少的那个数为准,其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算,则有效数字可多取一位。
  例如:1.1m×0.3 268m×0.10300m→1.1m×0.327m×0.103m=0.0370491m3≈0.037m3
  计算结果为0.037m3。若需参与下一步运算,则取0.0370m3。
为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
可能感兴趣
lxx5052
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
毛毛
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
〓猪哥哥〓
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
有效位数的决定最好是在最后结果的时候才决定取舍。

楼主说的,我也没看明白
老多_小多
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
楼主应该是想知道中间计算过程,比如浓度等的有效数字吧
有水有渝
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
其实深究这个稀释倍数来说也不是整数的,因为你的容量瓶与移液管其实都不是整数,它们的读数应该是小数点后两位(看一下容量器具的误差就知道,一般都会写正负0.01或0.05等),所以稀释倍数也应该保留至小数点后两位。这个纯属个人看法,欢迎指正。
cxdong96
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 有水有渝(xky0230699) 发表:
其实深究这个稀释倍数来说也不是整数的,因为你的容量瓶与移液管其实都不是整数,它们的读数应该是小数点后两位(看一下容量器具的误差就知道,一般都会写正负0.01或0.05等),所以稀释倍数也应该保留至小数点后两位。这个纯属个人看法,欢迎指正。


这样就对了  结果保留三位小数就可以了  呵呵
lxx5052
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 cxdong96(cxdong96) 发表:
这样就对了  结果保留三位小数就可以了  呵呵
为什么呢?没理解
djbhbez2004
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
若计算结果尚需参与下一步运算,则有效数字可多取一位。请注意是“可”,不多取也行。
有水有渝
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
原文由 〓猪哥哥〓(03yx2) 发表:
有效位数的决定最好是在最后结果的时候才决定取舍。

楼主说的,我也没看明白


支持,只要还没有到最终结果,不进行数值的修约,实在没有办法不修约的话,还就多保留几位,我如果遇到这咱情况一般至少保留5位有效数字。
支点
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
个人以为:
1、稀释倍数的2不可以当一位有效数字(实际上是与你使用的移液器具和容量瓶有关,简单可以认为是无限多位),应以其他测量的含有有效位数的最少为准。
2、前面感觉没有问题,就是“计算结果为0.037m3。若需参与下一步运算,则取0.0370m3”反正我都是Excel计算,觉得只要没有算完,我就不会去修约。
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴