各位好,工作的时候有时候会钻进死胡同。
有效位数的确定相信大家不会陌生,但是我们在计算含量的时候很多情况下都会稀释2倍,或者5倍,等等。
因此我们的计算公式中会除以2或者乘以2等等,那么根据乘(除)取有效位数最小的数字为准,那么
液相最终的结果也只有一位是准确的?(以2为例)
欢迎大家讨论
就是有效数字保留的问题
(二)乘、除(或乘方、开方)运算
乘除运算规则:在进行数的乘除运算时,以有效数字位数量少的那个数为准,其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算,则有效数字可多取一位。
例如:1.1m×0.3 268m×0.10300m→1.1m×0.327m×0.103m=0.0370491m3≈0.037m3
计算结果为0.037m3。若需参与下一步运算,则取0.0370m3。