当被测量X的估计值是由实验数据通过最小二乘法拟合的直线或曲线得到时,则任意预期的估计值,或拟合曲线参数的标准不确定度均可以利用已知的统计程序计算得到。
一般说来,若寻求两个物理量X和Y之间的关系问题,且估计x和y之间有线性关系y=a+bx。对x和y,独立测定n组数据,其结果为(x1,y1)、…(xn,yn),且n>2.同时假定x测量不确定度远小于y的测量不确定度(即x的测量不确定度u(x)可以忽略不计),则可利用最小二乘法得到参数a,b(拟合直线方程的截距和斜率)以及他们的标准不确定度u(a)和u(b)。
由于测定的yi存在误差,因而通常y≠a+bxi,于是y=a+bx的误差方程可以写为:
v1=y1-(a+bx1)
v2=y2-(a+bx2)
…
vn=yn-(a+bxn)
将以上各等式两边平方后相加,可得残差vi的平方和为