主题:数据处理,大家来看看

浏览0 回复31 电梯直达
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
该帖子已被tanghuizhi01设置为精华;
5  数据处理
5.1  有效数字和数值修约
5.1.1  有效数字
0,1,2,3,4,5,6,7,8,9这些数码叫数字,一个以上的数字组合构成个数值。在一个数值中每个数字所占位置叫数位,小数点后的第一位叫十分位,以下依次为百分位、千分位……;小数点前的第一位叫个位,其前位依次为十位、百位、千位……。
一个数值中每个数位上的数字都应是有效的,只有末位数字允许是估计数字,但其波动幅度不得大于±1。例如末位数字为5时可能是4或6,而其余的各个数字都是可信的数字(定位0例外) 。
表达一个数值中由几个数字组成的,叫有效数字位数。位数的多少,除了反映量值的大小这外,在分析领域中还反映该数值的准确程度。例如0.6705 g草酸钠,这一数值在量值上为0.6~0.7g之间,在准确程度上,可信数字截取在千分位上的0,在万分位的数字5是可疑的,但其波动范围小于0.0002g。
数码“0”的作用变化较多,一个数值中“0”是否为有效数字,要根据“0”的位置及其前后的数字状况而定。常见的有以下四种情况:
5.1.1.1  位于非“0”数字之间的“0”,如2.005,1.025两个数值中的三个“0”都是有效数字。
5.1.1.2  位于非“0” 数字后面的一切“0”都是有效数字(全整数尾部“0”除外) 。如2.250 0,1.025 0。 
5.1.1.3  前面不具非零数字“0”,如0,002 5中的三个“0”都不是有效数字,只起定位作用。
5.1.1.4  整数中最后的“0”,可以是有效数字,也可以不是。例如用普通天平1.5g试剂,若必须用mg表示,则要写成1 500mg,此数值中最后两个“0”从表观上是有效数字,但实际上不是,因为粗天平不能达到如此高的准确程度。为了避免误解,可用指数形式表示,上例可记为1.5×103mg,或记为1 500mg±100mg这便明白地表示出只有两位有效数字。
5.1.2  数据的原始记录
数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度,从正确地记录原始数据开始,对任何一个有计算意义的数据都要审慎地估量,正确地记载有效数值的位数。例如50mL滴定管的最小分度值为0.1mL,又因为允许增加一位估计数字,可以记录到两位小数,如12.34mL。记下这一数值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0.02mL,其相对误差为(0.02/12.34) ×100%=0.16%。若在原始记录中仅记为12.3mL,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真,因为不可能估计出两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器,仪表指示的最小分度值如实记录并允许增记一位估计数字。
实验室通用的计量仪表可记取的位数如下:
万分之一天平  小数点后第四位即万分位。
上皿天平  小数点后第二位即百分位。
分光光度计  吸光值记到小数点后第三位即千分位。
玻璃量器  记取的有效数字位数须根据量器的允许误和读数误差决定。
常见的一等量器准确容量的记录按表3和表4。

                  表3  一等无分度移液管准确容量的表示                mL
为您推荐
您可能想找: 气相色谱仪(GC) 询底价
专属顾问快速对接
立即提交
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
容量示值    允许差    准确容量
2    ±0.006    2.00
3    ±0.006    3.00
5    ±0.01    5.00
10    ±0.02    10.00
15    ±0.03    15.00
20    ±0.03    20.00
25    ±0.04    25.00
50    ±0.05    50.00
100    ±0.08    100.0
                    表4  一等量入式量瓶准确容量的表示                    mL
容量示值    允许差    准确容量
10    ±0.02    10.00
25    ±0.03    25.00
50    ±0.05    50.00
100    ±0.10    100.0
200    ±0.10    200.0
250    ±0.10    250.0
500    ±0.15    500.0
1 000    ±0.30    1 000.0
2 000    ±0.50    2 000.0
5.1.3  近似计算规则
为了确保最终结果的数值中只包含有效数字(定位“0”例外),在运算中要遵守下列规则:
5.1.3.1  加减运算  最终计算结果中保留的小数有效位数,应与参加运算的数值中小数位数最少者相同。例:
11.14+5.912 25=17.052 25→17.05
11.14-5.912 25=5.227 75→5.23
上例最终结果只能保留两位小数,因为11.14的末位数字4本身就不可信,其后的数字则更不可信。
5.1.3.2  乘除运算  得数经修约后,保留的有效数字位数应与参加运算的几个数值中有效数字位数最少者相同。
5.1.3.3  对数运算  对数的有效数字位数应和原数(真数)的相同。
5.1.3.4  平方,立方,开方运算  计算结果的有效数字位数应和原数的相同。
5.1.3.5  π,e和 、 、 等的有效位数,须参照与之相关的数据决定保留的位数。
5.1.3.6  来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。
5.1.3.7  用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位;当测定次数很多时可取两位,且最多只能取两位。
5.1.3.8  报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分之一个标准差的首数所在数位,定为分析结果的尾数。例如某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25.4。
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
5.1.4  数值修约
数值修约详见GB 8170-87有关规定。
5.1.4.1  在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时则舍去,即拟保留的末位数字不变。
例如将14.3432修约到保留一位小数:
修约前      修约后
14.2432    14.2
5.1.4.2  在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字加一。
例如将26.4843修约到只保留一位小数:
修约前    修约后
26.4843    26.5
5.1.4.3  在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字并非全部为”0”,则进一;若5的右边皆为”0”,拟保留的末位数字若为奇数则进一,若为偶数(包括”0”)则不进。
例如将下列数值修约到只保留一位小数:
修约前    修约后
0.3500      0.4
0.4500      0.4
1.0500      1.0
5.1.4.4  所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边第一个数字的大小,按上述规定一次修约出结果。
例如将15.4546修约成整数。
正确的做法是:
    修约前        修约后(结果)
15.4546            15
不正确的做法:
  修约前            一次修约            二次修约
  15.4546            15.455              15.46
三次修约        四次修约(结果)     
15.5              16
在修约计算过程中对中间结果不必修约,将最终结果修约到预期位数。
5.2  异常值的统计检验
一组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实验操作中出现过失,将产生与正常数据有显著性差别的数据,此类数据称为离群数据或异常值。
仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,称此数据为可疑数据。
5.2.1  可疑数据的检验
剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群数据,虽由此得到认为满意的数据,但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则处理。
5.2.1.1 仔细回顾和复查产生可疑值的试验过程,如果是过失误差,则舍弃。
5.1.2.2  如果未发现过失,则要按统计程序检验,决定是否舍弃。
5.2.2  异常值的判别准则
5.2.2.1  计算的统计量不大于显著性水平a=0.05的临界值,则可疑数据为正常数据,应保留。
5.2.2.2  计算的统计量大于a=0.05的临界值但又不大于a=0.01的临界值,此可疑数据为偏离数据,可以保留,取中位数代替平均数值。
5.2.2.3  计算的统计量大于a=0.01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检验,直到数据中无异常值为止。
5.2.3  异常值的检验方法
常用的检验方法如下。
5.2.3.1  Dixon检验法
用于一组测定数据的一致性检验和剔除异常值检验。
步骤:
a.将重复n次的测定值从小到大排列为X1,X2,X3……Xn;
b.按表5列公式,求算Q值;
c.根据选定的显著水平a和重复测定次数n,查表6得临界值Qa;
d.按5.2.2条的判别准则,决定取舍。若Q>Q0.01,则可疑值为异常值,舍弃。
若Q0.05<Q≤Q0.01,则可疑值为偏离值,可以保留,取中位数代替平均数值。
若Q≤Q0.05,则可疑值为正常值,保留。
例:一组测定值按从小到大的顺序排列为14.56,14.90,14.90,14.92,14.95,14.96,
15.00, 15.00,15.01,15.02。
检验最小值14.56是否为异常值。
可疑值为最小值X1时,按下式计算统计量Q:

Q=
当n=10,显著水平a=0.01,查表6临界值为0.597,
                                  0.755>0.597
                                  Q>Q0.01
判定最小值X1为异常,应予剔除。

表5  Dixon检验统计量(Q)计算公式
n值范围    可疑数值为最小值X1时    可疑数值为最大值Xn时
3~7         
8~10         
11~13         
14~25         

表6  Dixon检验临界值(Qa)表
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
N    显著性水平(a)    n    显著性水平(a)
    0.10    0.05    0.01        0.10    0.05    0.01
34567    0.8860.6790.5570.4820.434    0.9410.7650.6420.5600.507    0.9880.8990.7800.6980.637    1516171819202122232425    0.4720.4540.4380.4240.4120.4010.3910.3820.3740.3670.360    0.5250.5070.4900.4750.4620.4500.4400.4300.4210.4130.406    0.6160.5950.5770.5610.5470.5350.5240.5140.5050.4970.489
8910    0.4790.4410.409    0.5540.5120.477    0.6830.6350.597               
11121314    0.5170.4900.4670.492    0.5760.5460.5210.546    0.6790.6420.6150.641               
5.2.3.2  Grubbs检验法
用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一致性检验。
步骤:
设有L组数据,各组平均值分别为 , ,…… 。
1)将L个均值按大小顺序排列,最大均值记为 mix,最小均值记为 min;
2)由L个均值( )计算总均值 和标准偏差s:
        S=

式中:  i--代表各组均值
    3)根据可疑值 mix或 min分别按下式计算统计量t1或t2;
                t1=      t2=
    4)根据给定的显著性水平a和组数L查表7得临界值;
    5)按5.2.2条的判别准则,决定取舍;
    6)若本法用于实验室内一组数据检验时,将组数L改为测定次数n,将各组平均值 i改为单次测定值Xi。
例:有10个实验室分析同一样品,其平均值分别为4.41,4.49,4.30,4.51,4.64,4.75, 4.81,4.95,5.01,5.39,检验最大值5.39是否为离群值。

tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
S=
t1=
当L=10,a=0.05,查表7临界值(Ta)为2.18;
判定:2.11<2.18,t1<Ta,最大值5.39为正常值。
表7  Grubbs检验临界值(Ta)值
显著性水平(a)    显著性水平(a)
L    0.05    0.025    0.01    0.005    L    0.05    0.025    0.01    0.005
3    1.153    1.155    1.155    1.155    30    2.745    2.908    3.103    3.236
4    1.463    1.481    1.492    1.496    31    2.759    2.924    3.119    3.253
5    1.672    1.715    1.749    1.764    32    2.773    2.938    3.135    3.270
6    1.822    1.887    1.944    1.973    33    2.786    2.952    3.50    3.286
7    1.938    2.020    2.097    2.139    34    2.799    2.965    3.164    3.301
8    2.032    2.126    2.221    2.274    35    2.811    2.979    3.178    3.316
9    2.110    2.215    2.323    2.387    36    2.823    2.991    3.191    3.330
10    2.176    2.290    2.410    2.482    37    2.835    3.003    3.204    3.343
11    2.234    2.355    2.485    2.564    38    2.846    3.014    3.216    3.356
12    2.285    2.412    2.550    2.636    39    2.857    3.025    3.228    3.369
13    2.331    2.462    2.607    2.699    40    2.866    3.036    3.240    3.381
14    2.371    2.507    2.659    2.755    41    2.877    3.046    3.251    3.393
15    2.409    2.549    2.705    2.806    42    2.887    3.057    3.261    3.404
16    2.443    2.585    2.747    2.852    43    2.896    3.067    3.271    3.415
17    2.475    2.620    2.785    2.895    44    2.905    3.075    3.282    3.425
18    2.504    2.651    2.821    2.932    45    2.914    3.085    3.292    3.435
19    2.532    2.681    2.854    2.968    46    2.923    3.094    3.302    3.445
20    2.557    2.709    2.881    3.001    47    2.931    3.103    3.310    3.455
21    2.580    2.733    2.912    3.031    48    2.940    3.111    3.319    3.464
22    2.603    2.758    2.939    3.060    49    2.948    3.120    3.329    3.474
23    2.624    2.781    2.963    3.087    50    2.956    3.128    3.336    3.483
24    2.644    2.082    2.987    3.112    60    3.025    3.199    3.411    3.560
25    2.663    2.822    3.009    3.135    70    3.082    3.257    3.471    3.622
26    2.681    2.841    3.029    3.157    80    3.130    3.305    3.521    3.673
27    2.698    2.859    3.049    3.178    90    3.171    3.347    3.563    3.716
28    2.714    2.876    3.068    3.199    100    3.207    3.383    3.600    3.754
29    2.730    2.893    3.085    3.218                   
5.2.3.3  Cochran最大方差检验法
用于多组测定值的方差一致性检验和剔除离群方差检验。
步骤:
设有L组数据,每组测定n次,标准差分别为S1,S2,S3,……SL;
1)将L个标准差(Si)按大小顺序排列,最大者记为Smax;
2)计算统计量C;

若n=2,即每组只有两次测定时,各组内差值分别为R1,R2,R3,……RL,则要按下式计算统计量C;

3)根据选定的显著性水平α,组数L,测定次数n查表8得临界值Ca;
4)按5.2.2条异常值的判别准则,决定取舍。
例1  6个实验室分析同一样品,各实验室5次测定的标准差分别为0.84,1.30,1.48, 1.67,1.79,2.17。检验6个实验室是否为等精度。
其中: Smax=2.17

根据选定水平α=0.05,L=6,n=5,查表8得临界Cα为0.480;
判定:0.308<0.480,C<C0.05。6个实验室的测定数据为等精度,2.172为正常方差,应予保留。
例2  7个实验室分析同一样品,各实验室两次测定的差分别为0.0,0.1,0.1,0.2,0.2 0.2,0.9。检验极差0.9的实验室与其他实验室的测定是否为等精度。

选定显著性水平a=0.01,L=7,n=2,查表8得临界值Cα为0.838。
判定:0.850>0.838,>C0.01,0.92属于离群方差,0.9与其他实验室的测定精度不等,应予剔除。
表8  Cochran最大方差检验临界值(Cα)表
L    n=2    n=3    n=4    n=5    n=6
    α=0.01    α=0.05    α=0.01    α=0.05    α=0.01    α=0.05    α=0.01    α=0.05    α=0.01    α=0.05
2345678910111213141516171819202122232425    0.9930.9680.9280.8830.8380.7940.7540.7180.6840.6530.6240.5990.5750.5530.5320.5140.4960.4800.4650.4500.4370.4250.413    0.9670.9060.8410.7810.7270.6800.6380.6020.5700.5410.5150.4920.4710.4520.4340.4180.4030.3890.3770.3650.3540.4340.334    0.9950.9420.8640.7880.7220.6640.6150.5730.5360.5040.4750.4500.4270.4070.3880.3720.3560.3430.3300.3180.3070.2970.2870.278    0.9750.8710.7680.6840.6160.5610.5160.4780.4450.4170.3920.3710.3520.3350.3190.3050.2930.2810.2700.2610.2520.2430.2350.228    0.9790.8830.7810.6960.6260.5680.5210.4810.4470.4180.3920.3690.3490.3320.3160.3010.2880.2760.2650.2550.2460.2380.2300.222    0.9390.7980.6840.5980.5320.4800.4380.4030.3730.3480.3260.3070.2910.2760.2620.2500.2400.2300.2200.2120.2040.1970.1910.185    0.9590.8340.7210.6330.5640.5080.4630.4250.3930.3660.3430.3220.3040.2880.2740.2610.2490.2380.2290.2200.2120.2040.1970.190    0.9060.7460.6290.5440.4800.4310.3910.3580.3310.3080.2880.2710.2550.2420.2300.2190.2090.2000.1920.1850.1780.1720.1660.160    0.9370.7930.6760.5880.5200.4660.4230.3870.3570.3320.3100.2910.2740.2590.2460.2340.2230.2140.2050.1970.1890.1820.1760.170    0.8770.7070.5900.5060.4450.3970.3600.3290.3030.2810.2620.2460.2320.2200.2080.1980.1890.1810.1740.1670.1600.1550.1490.144
                   
                                       
262728293031323334353637383940    0.4020.3910.3820.3720.3630.3550.3470.3390.3320.3250.3180.3120.3060.3000.294    0.3250.3160.3080.3000.2930.2860.2800.2730.2670.2620.2560.2510.2460.2420.237    0.2700.2620.2550.2480.2410.2350.2290.2240.2180.2130.2080.2040.2000.1960.192    0.2210.2150.2090.2030.1980.1930.1880.1840.1790.1750.1720.1680.1640.1610.158    0.2150.2090.2020.1960.1910.1860.1810.1770.1720.1680.1650.1610.1570.1540.151    0.1790.1730.1680.1640.1590.1550.1510.1470.1440.1400.1370.1340.1310.1290.128    0.1840.1790.1730.1680.1640.1590.1550.1510.1470.1440.1400.1370.1350.1310.128    0.1550.1500.1460.1420.1380.1340.1310.1270.1240.1210.1180.1160.1130.1110.108    0.1640.1590.1540.1500.1450.1410.1380.1340.1310.1270.1240.1210.1190.1160.114    0.1400.1350.1310.1270.1240.1200.1170.1140.1110.1080.1060.1030.1010.0990.097

5.3  两均数差异的显著性检验
运用统计检验程序,以判别两组数据之间的差异是否显著,从而更合理地使用数据,做出正确的结论。
程序中承认并采用了统计学的理论和假设,用以估计检验数据的可信程度。环境分析工作,会经常遇到需要进行显著性检验的数据,为此选取了t检验,F检验等检验方法。这些方法各有不同的应用领域和应用条件,足能适应大部分正态分布数据的统计检验。
正确无误地处理数据,是分析质量保证的组成部分。
5.3.1  两组均数之间的显著性检验--t检验法
t检验法适用于样本容量较少,总体方差未知但要等精度两组数据的比较检验。此法的应用范围和应用条件,适用环境分析领域。T检验法可有三种计算公式选择,分别满足不同目的和不同类型的统计检验,见表9。
表9  各计算公式适用领域
名      称    公    式    适用领域
5.3.1.2  成对数据的比较         不同分析方法对比,改变分析条件,反应条件对比,不同时间,空间变化前后对比
5.3.1.3  两样本均值比较    t=     同一方法不同样品,或同一样品不同方法比对,贮存条件的对比
5.3.1.4  样本均值与总体均值比较         两级标准物质,标准溶液对比,回收率检验
5.3.1.1  t检验法的判定准则
1)t<ta(0.05),判别不显著;
2)ta(0.05)<t<ta(0.01),判别较显著;
3)t>ta(0.01),判别很显著;
4)检验µ<µ0:双侧检验;查t值表中P2;
5)检验µ<µ0(或µ>µ0):单侧检验;查t值表P1。
5.3.1.2  成对数据的比较
5.3.1.2.1  应用本法的条件
1)两组测定数据随机配对,不得人为地选择匹配。如果是实验设计中所预期配对比较则应先配对后测定。
2)测定过程中除对比的因素不同外,其他一切因素都是相同的。
3)两组重复测定次数(n)相等。
例  选用新的分析方法和原方法同时测定同一均匀样品,各重复测定9次,结果列表10,问新方法较原方法有无显著性差异。
5.3.1.2.2  步骤:
1)检验假设:新法与原法无显著性差别(µ=µ0)
2)随机配对,排序列表。表10。
3)计算统计量



4)自由度γ=n-1=8,查表22t值表P2,t(0.05,8)=2.31
5)判定:0.697<2.31,t<ta,两个方法差异不显著,接受检验假设(µ=µ0)
表10  新法与原法测定结果ωm(10-6)
序  号    原  法(1)    新  法(2)    d(1)-(2)    d2
123456789    4.434.024.634.584.114.214.504.304.57    4.504.274.534.304.214.104.314.524.12    -0.07-0.250.100.28-0.100.110.19-0.220.45    0.00490.06250.01000.07840.01000.01210.03610.04840.2025
n=9    ∑d=0.49  ∑d2=0.465
5.3.1.3  两样本均值的比较
两个样本的测定次数(n)可以不相同。
5.3.1.3.1  计算公式:
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
1)合并标准差S

2)两样本均值标准误差 
=

3)

例  同一样品采用甲,乙两种消解方法,甲法测定8次(n1),乙法测定6次(n2),分别测得两组均值如表11。问两种消解方法,有无显著性差别。
5.3.1.3.2  步骤:
1)检验假设:差异不显著(µ=µ0);
2)计算统计量S、 、t。
合并标准差


标准误差
=

3)查表22t值表P2得(自由度γ=n1+n2-2=12):
ta(0.05,12)=2.18
ta(0.01,12)=3.06
4)判定:5.00>3.06,t>ta(0.01),两者差异显著,拒绝接受检验假设。


                              表11  两组测定值                          mg|L
X1         X2    
4.304.373.693.014.014.813.865.53    18.490 019.096913.61619.060116.080123.136114.899630.5809    2.322.341.971.792.873.10    5.382 45.47563.88093.20418.23699.6100
∑X1=33.58                ∑ =144.96            n2=6                    ∑X2=14.39
=4.20                                                         =2.40
n1=8                                                                ∑ =35.79
5.3.1.4  样本均值与总体均值比较
本方法适用于测定总体均值为已知的标准物质,用以验证分析方法。计算统计量标准差s,标准误差S ,t值。
 


例  某一标准物质中含镉的保证值Wm为12.24×10-6,选用分析方法B共重复测定8次,结果列于表12,问分析方法B所测结果与保证值有无显著差别。
步骤:
1)检验假设:  (双侧)
表12  B法测定结果Wm(10-6)
序    号    Xi    
12345678    12.2411.4812.1512.4012.7111.5612.3411.93    149.817131.790147.622153.760161.544133.633152.275142.324
                                ∑Xi=96.81                    ∑ =1 172.8
                                
2)统计量计算
标准差 
标准误差   
t值 
3)查表22t值表P2
ta(0.05,7)=2.365
4)统计推断
0.946<2.36,t<t0.05
接受检验假设:用B法所测结果与保证值无显著差异。
例  回收率P的检验:向海水样品中添加一定量标准物质,加标形成的浓度为3.98mg/L。用B方法对此加标样品重复测定10次,测定结果列表13,问方法B的回收率是否与100%的回收率无显著差异。
表13  回收率测定结果
序  号    Xi    
12345678910    4.123.653.794.163.604.073.694.103.733.67    16.97413.32214.36417.30512.96016.56413.61616.81013.91213.468
                                ∑Xi=38.58                    ∑ =149.3
                                                     s=0.226
步骤:
1)检验假设:μ≥100%,μ0=3.98mg/L。
2)统计量计算

回收率 

3)查表22t值表P1
ta(0.05,9)=1.83
4)统计推断
1.65<1.83,t<ta(0.05)
接受检验假设,B法的回收率与100%无显著差异。
5.3.2  方差:一致性检验--F检验法
此方法常用于两组数据是否具有相同的精密度或方差的齐性检验,即检验在不同的分析条件下(不同的时间,空间,人员,设备,方法以及不同的反应条件等)所得两组数据之间有无显著性差异。例如用于进行t检验之前预测总体方差是否相等的检验,只有两方差相等时方可进行t检验。
进行方差一致性检验时,系假定与样本I相同的总体均值及其方差,分别为μ1及 ;与样本II相同的总体均值及其方差分别为μ2及  ;μ1-μ2=0, = 。
在日常工作中以样本均值 、 代表总体均值μ1、μ2,以样本方差 、 代替总体方差 、 的估算值。
                 =          =


两个方差中较大者 作分子,较小者 作分母,按下式算出两方差比值--F值。

例  分别用X1型和X2型测汞仪,共测同一海水外控样。X1型测8次(n1=8),X2型测6次(n2=6),测得汞的浓度值列表14,检验两种仪器的精密度是否相等。
                      表14  汞浓度测定值                            mg/L
序    号    X1    X2
12345678    2.432.362.452.642.352.382.612.41    2.812.862.532.332.652.58
                                 =2.454                     =2.627
                                 =0.012 4                     =0.037 6

步骤:
1)统计假设:两种型号测汞仪所得结果的精密度相同。
2)计算统计量
=
=


2)查表15F值表15较大均方为 其自由度γ=6-1=5;较小均方为 ,其自由度γ=8-1=7。F0.05(5,7)=3.97。
3)统计推断  3.03<3.97,F<F0.05(5,7),接受检验假设:两种型号测汞仪所测结果的精密度相等。
P=0.05                         表15  F值表
γ2    γ1 (较大均方的自由度)    γ2
    1    2    3    4    5    6    7    8    9    10    12    14    16    18    20   
1234567891011121314151617181920    16118.510.17.716.615.995.595.325.124.954.844.754.674.604.544.494.454.414.384.35    20019.09.556.945.795.144.744.464.264.103.983.893.813.743.683.633.593.553.523.49    21619.29.286.595.414.764.354.073.863.713.593.493.413.343.293.243.203.163.133.10    22519.29.126.395.194.534.123.843.633.483.363.263.183.113.063.012.962.933.903.87    23019.39.016.265.054.393.973.693.483.333.203.113.032.962.902.852.812.772.742.71    23719.48.896.094.884.213.793.503.293.143.013.002.922.852.792.742.702.662.632.60    23719.48.896.094.884.213.793.503.293.143.012.912.832.762.712.662.612.582.542.51    239’19.48.856.044.824.153.733.443.233.072.952.852.772.702.642.592.552.512.482.45    24119.48.816.004.774.103.683.393.183.022.902.802.712.652.592.542.492.462.422.39    24219.48.795.964.744.063.643.353.142.982.852.752.672.602.542.492.452.412.382.35    24419.48.745.914.684.003.573.283.072.912.792.692.602.532.482.422.382.342.312.28    24519.48.715.874.643.963.533.243.032.862.742.642.552.482.422.372.332.292.262.22    24619.48.695.844.603.923.493.202.992.832.702.602.512.442.382.332.292.252.212.18    24719.48.675.824.583.903.473.172.962.802.672.572.482.412.352.302.262.222.182.15    24819.48.665.804.563.873.443.152.942.772.652.542.462.392.332.282.232.192.162.12    1234567891011121314151617181920
P=0.01
γ2    γ1 (较大均方的自由度)    γ2
    1    2    3    4    5    6    7    8    9    10    12    14    16    18    20   
1234567891011121314151617181920    4 05298.534.121.216.313.712.211.310.610.09.659.339.078.868.688.538.408.298.188.10    5 00099.030.818.013.310.99.558.658.027.567.216.936.706.51.6366.236.116.015.935.85    5 40399.229.516.712.1.039.788.457.596.996.556.225.955.745.565.425.295.185.095.014.94    5 62599.328.716.011.49.157.857.016.425.995.675.415.215.044.894.774.674.584.504.43    5 76499.328.215.511.08.757.466.636.065.645.325.064.864.704.564.444.344.254.174.10    5 85999.427.915.210.78.477.196.375.805.395.074.824.624.464.324.204.104.103.943.87    5 92899.427.715.010.58.266.996.185.615.204.894.644.444.234.144.033.933.813.773.70    5 98199.427.514.810.38.106.846.035.475.064.744.504.304.144.003.893.793.713.683.56    6 02299.427.314.710.27.986.725.915.354.944.634.394.194.033.893.783.683.603.523.46    6 05699.427.214.510.17.876.625.815.264.854.544.304.103.943.803.693.593.513.433.37    6 10699.427.114.49.897.726.475.675.114.714.404.163.963.803.673.553.463.373.303.23    6 14299.426.914.29.777.606.365.565.004.604.294.053.863.703.563.453.353.273.193.13    6 16999.426.814.29.687.526.275.484.924.524.213.973.783.623.493.373.273.193.123.05    6 19099.426.814.19.617.456.215.414.864.464.153.913.713.563.423.313.213.133.052.99    6 20999.426.714.09.557.406.165.364.814.414.103.863.663.513.373.263.163.083.002.94    1234567891011121314151617181920


zhiguo77
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
zhiguo77
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
zyz202
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
tanghuizhi01
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
你还想知道什么?

只要是我知道的,我都会告诉你的

呵呵~~~~~~~
chinesejoe
结帖率:
100%
关注:0 |粉丝:0
新手级: 新兵
猜你喜欢最新推荐热门推荐更多推荐
品牌合作伙伴