主题：【求助】计量检定测试题上得题目，看不懂

原文由 zhuge(zhuge) 发表:
看到检定测试题上有个题目，看不懂，请帮忙解释一下，谢谢

0.115+3.04501-0.125+6.5+0.445解：≈0.12+3.05-0.12+6.5+0.44=9.99≈10.0
以该题为例，它是先对式中各数保留两位，算出结果后保留一位。
0.115  >  0.12(奇进)。

0.125  >  0.12；    0.445  >  0.44(偶不进)。


13.65+0.0082-1.632+0.002      解：＝12.028≈12.03

703.21×0.35/4.022            解：＝61.2≈61

4л/0.16                      解：＝4×3.14/0.16=78.5

1.5´10⁵+16000´2.6  解：＝1.5´10⁵+1.60´10⁴´2.6≈1.5´10⁵+0.42´10⁵=1.92´10⁵≈1.9´10⁵

0.15´10⁴´0.1051    解：＝0.15´10⁴´0.105≈1.58´10³≈1.6´10³

2π/0.16          解：＝2´3.14/0.16≈39.3≈39

100.0+1.000´10^-3´10.000+1000.00解：＝100.0+10.00´10^-3+1000.00≈100.0+1000.00=1100.0


这个是按照什么进行修约的？为什么保留的位数都不一样啊

原文由 吉普丽儿(xiaopianzi1209) 发表:
加减法按小数位最少的修约，乘除按有效位数最少的修约

原文由 路云(luyunnc) 发表:
有效数字的修约不应该将常数纳入，公式中的整数、圆周率π、自然对数的底数e等，都应视为常数。

原文由 路云(luyunnc) 发表:
有效数字的修约不应该将常数纳入，公式中的整数、圆周率π、自然对数的底数e等，都应视为常数。

原文由 poorlittle(poorlittle) 发表:
请看GB/T8170。  不单理工科, 凡涉及计算的各行业, 这几乎都是必读标准。

= = = = = =

对2π/0.16 解：＝2×3.14/0.16≈39.3≈39 的商榷:

设某个与周期有关的公式H=2π/L; 当L=0.16m, 求H。
H=2π/L=2×3.1415926/0.16= 6.2831852/0.16=39.2699075≈39.27 m^-1
(2在这里是精确值。是实上, 不少数学、物理学、工程的公式中都出现2π, 实指6.2831852……)

出题者亦不算错, 若题中的2是估算值并修约至个位。不过, 最好写成2. 。

.