原文由 poorlittle(poorlittle) 发表:
在 “计量检定测试题上得题目,看不懂” ( http://bbs.instrument.com.cn/shtml/20120701/4121483/ ) 中, 某题解是先修约再运算 :
原文由 zhuge(zhuge) 发表:
看到检定测试题上有个题目,看不懂,请帮忙解释一下,谢谢
0.115+3.04501-0.125+6.5+0.445解:≈0.12+3.05-0.12+6.5+0.44=9.99≈10.0
以该题为例,它是先对式中各数保留两位,算出结果后保留一位。
0.115 > 0.12(奇进)。
0.125 > 0.12; 0.445 > 0.44(偶不进)。
我觉得, 应先运算再修约, 不应先修约再运算, 这样可尽量减低修约带来的误差 (尽管结果有时相同, 但有时会有分别)。有效数字运算,一般要求先进行计算后修约。加减法:结果以小数点后位数最少者为标准。乘除法:结果以有效位数最少者为标准。例 : 0.3 + 0.144+0.244+0.344+0.444+0.544+0.644
若先修约再运算(
按原题解修约至最少位那个数多一位; 最少是0.3, 那末修约至小数后2位),
则0.3 + 0.144+0.244+0.344+0.444+0.544+0.644
≈ 0.
3+0.
14+0.
24+0.
34+0.
44+0.
54+0.
64= 0.3 + 2.34 = 2.64
≈ 2.6
若先运算再修约,
则0.3 + 0.144+0.244+0.344+0.444+0.544+0.644 = 0.3 + 2.364 = 2.664
≈ 2.7