晚上先说一下三篇文章中在数据处理或表示上的问题:
1、有效数的问题:
例1:标准亚硝酸盐溶液:GBW(E)0802230504水中亚硝酸盐-氮,浓度:100mg/mL(有可能是100μg/mL),并逐级稀释为0.9857μg/mL的标准贮备液;
浓度为3位有效数的亚硝酸盐氮,是不可能配置成4位有效数的!
例2:取 6个50mL容量瓶,分别加入浓度为0.9857μg/mL的亚硝酸钠标准贮备液0.1,0.5,1.0,2.0,5.0,10.0mL,加水至20mL,并做空白试验,然后依次加入3mL显色液1,2.5mL显色液2,混合均匀后,静置5min,加1mL显色液3, 静置5min,用去离子水定容至刻度,此溶液浓度分别为0.00、1.96、 9.86、19.72、59.14、98.56、197.14μg/L。
吸取的标液体积只有1~3位有效数,可最后得到的却是3~5位的有效数!
例3:工作曲线方程为A=0.0011C+0.0026
方程斜率为2位有效数有点不妥,按照实验过程,标液是可以达到2~3位有效数的,如0.10与0.50mL的可配成2位有效数,1.00¬10.00mL可配成3位有效数,所以斜率应取3位有效数,这样检测结果才有可能取到3位有效数,否则只能最多是2位数的结果。同样检测结果最多也只能取3位有效数,表1中取的4位有效数是不符合要求的。
2、取的位数问题:
例1:表2精密度试验中,如纯牛奶测定值在0.21¬0.22mg/kg,,标准偏差为0.010mg/kg。
标准偏差的最后一位应与测定平均值的最后一位看齐,多取了无任何意义,而在表2中都多取了一位!
例2:表3中,回收率的表示,如纯牛奶的为104.63%
在论文写作中,回收率约定俗成,没有有效数的制约,但一般是取小数点后一位即可,很少看到取2位的。