二、数据处理
1、有效数字和数值修约
(1)有效数字
0,1,2,3,4,5,6,7,8,9这些数码叫数字,一个以上的数字组合构成一个数值。
在一个数值中每个数字所占位置叫数位,小数点后的第一位叫十分位,以下依次为百分位、千分位••••;小数点前的第一位叫个位,其前位依次为十位、百位、千位••••。一个数值中每个数位上的数字都应是有效的,只有末位数允许是估计数字,但其波动辐度不得大于±1。例如末位数字为5时可能是4 或6,而其余的各个数字都是可信的数字(定位的0例外)。
表达一个数值中由几个数字组成的,叫有效数字位数。位数多少,除了反映量值的大小之外,在分析领域中还反映该数值的准确程度。例如0.6705g草酸钠,这个数值在量值上为0.6~0.7g之间,在准确程度上,可信数字截取在千分位上的0,在万分位的数字5是可疑的,但其波动范围小于0.000 2g。数码“0”的作用变化比较多,一个数值中“0”是否为有效数字,要根据“0”的位置及其前后的数字状况而定。常见的有以下四种情况:
①位于非“0”数字之间的“0”,如2.005,1.025两个数值中的三个“0”都是有效数字。
②位于非“0”数字后面的一切“0”都是有效数字(全整数尾部“0”除外),
如2.250 0,1.025 0。
③前面不具非零数字的“0”,如0.002 5中的三个“0”都不是有效数字,只起定位作用。
④整数中最后的“0”可以是有效数字,也可以不是。例如用普通天平称取1.5g试剂,若必须用mg表示,则要写成1 500mg,此数值中最后两个“0”从表观上是有效数字,但实际上不是,因为粗天平不能达到如此高的准确度。为了避免误解,可用指数形式表示,上例可记为1.5×103mg,或记为1 500mg±100mg这便明白地表示出只有两位有效数字。
(2)数据的原始记录
数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度,从正确地记录原始数据开始,对任何一个有计算意义的数据都要审慎地估量,正确地记载有效数字的位数。
例如50 ml滴定管的最小分度值为0.1ml,又因为允许增加一位估计数字,可以记录到两位小数,如12.34ml。记下这一数值表明十分位上的3是刻度指示值,确切可信;百分位的4则是估计判读的,是可疑数字,并知其波动范围为0.02ml,
其相对误差为(0.02/12.34)×100%=0.16%。若在原始记录中仅记为12.3ml,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。但也不可能任意增加有效数字的位数。如前例记成12.340则是明显失真,因为不可能估计出两位数字。原始记录的有效数字位数,即不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分度值如实记录并允许增加一位估计数字。
实验室通用的计量仪表可记取的位数如下:万分之一天平小数点后第四位即万分位。上皿天平小数点后第二位即百分位。分光光度计吸收值记到小数点后第三位即千分位。玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定。
如:一等无分度吸管(移液管)2~50ml的容量记取的准确容量应为保留小数点后两位,100ml的记取小数点后一位;一等量入式量瓶,容量10~50ml的记取准确容量应为保留小数点后两位,100~2 000ml 的应为保留小数点后一位。在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。
(3)表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1~2位有效数字。
(4)分析结果有效数字所能达到的位数不能超过方法最低检测质量浓度的有效位数所能达到的位数。例如,一个方法的最低检测质量浓度为0.02mg/L,则分析结果报0.088mg/L就不合理,应报0.09mg/L。
(5)校准曲线相关系数只舍不入,保留到小数点后出现非9的一位,如0.999 89时取值为0.999 8。如果小数点后都是9时,最多保留小数点后4位。校准曲线斜率b的有效位数,应与自变量x的有效数字位数相等,或多比x多保留一位。截距a的最后一位数,则和因变量y数值的最后一位取齐,或最多比y多保留一位数。
(6)近似计算规则
为了确保最终结果的数值中只包含有效数字(定位的“0”例外),在运算中要遵守下列原则:
①加减运算
最终计算结果中保留的小数点有效位数,应与参加运算的数值中小数位数最少者相同。
例:
11.14+5.912=17.052 25→17.05
11.14-5.912 25=5.227 75→5.23
上例最终结果只能保留两位小数,因为11.14的末位数字4 本身就不可信,其后的数字则更不可信。
②乘除运算
得数经修约后,保留的有效数字位数应与参与运算的几个数值中有效数字位数最少者相同。
③对数运算
对数的有效数字位数应和原数(真数)的相同。
④平方、立方、开方计算结果的有效数字位数应和原数的相同。
⑤π、е等的有效位数,须参照与之相关的数据决定保留的位数。
⑥来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。
⑦用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位,当测定次数很多时可取两位,且最多只能取两位。
⑧报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分之一个标准差的首数所在位数,应为分析结果的尾数。例如某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位数字所在数位是十分位,即定为该结果的末位,即报为25.4。
(7)数值修约
数值修约原则:四舍六入五留双。
五后面完全为零的五舍弃,五前面的双数留下;五后面不完全为零的五就往前进一。修约时须一次性修约出结果,不得连续进行修约。
2、异常值的统计检验
一组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实验操作中出现过失,将产生于正常数据有显著性差别的数据,此类数据称为离群数据或异常值。
仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,数据为可疑值。
剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群数据,虽由此得到认为满意的数据,但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则处理。
①仔细回顾和复查产生可疑值的试验过程,如果是过失误差,则舍弃。
②如果未发现过失,则要按统计程序检验,决定是否舍弃。
(2)异常值的判断准则
计算的统计量不大于显著性水平α=0.05的临界值,则可疑数据为正常数据,应保留。
计算的统计量大于α=0.05的临界值但又不大于α=0.01的临界值,此可疑数据为偏离数据,可以保留,取中位数代替平均数值。
计算的统计量大于α=0.01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检验,直到数据中无异常值为止。
(3)异常值的检验方法
①Dixon检验法
用于一组测定数据的一致性检验和剔除异常值检验。
②Grubbs检验法
用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一致性检验。
③Cochran最大方差检验法
用于多组测定值的方差一致性检验和剔除离群方差检验。
检出限(XN):
分析方法的检出限是指95%概率,能定性区别于零的最低浓度或量。
测定下限(XB):
是具有给定的概率(如95%),在定量上可检出非零的最低浓度或量。
未检出:
低于检出限(XN)的测定结果。