关于多元线性回归的毕业论文(7)

多元线性回归

（5）解释变量Xi(i 1, ,r)是确定性变量而非随机变量。当存在多个解释变量（r>1）时假设不同解释变量之间不存在线性关系，包括严格的线性关系和强的近似线性关系。 （6）误差项 i服从正态分布[7]。

2.3 多元线性回归参数估计

2.3.1 最小二乘估计和正规方程组

这里直接根据回归残差平方和最小的准则，推导多元线性回归模型参数的最小二乘估计量。对于多元线性回归模型Y 0 1z1 kzk ，

Y b0 b1z1 bkzk回归残差平方和为：

如果用b0， ，bk分别表示模型参数 0， , k的估计，那么样本回归方程就是

V

i

2i

[Y

i

i

-(b0 b1z1i bkzki)]

2

(2.3)

当V对b0， ，bk的一阶偏导数都等于0，即下列方程组： 2[Yi-(b0 b1z1i bkzki)](-1) 0,

2[Yi-(b0 b1z1i bkzki)](-z1i) 0，

i

i

2[Yi-(b0 b1z1i bkzki)](-zki) 0，

同时成立时,V有最小值。对这个方程组整理，可得到如下的正规方程组：

b0 Y -(b11 bkk) ,

S11b1 S12b2 S1KbK S10,

i

SK1b1 SK2b2 SKKbK SK10,

其中

Sk0

(z

i

ki

-k) (Yi-Y),k,i 1, K，

Skj

(z

i

ki

-k) (zji-j),k,j 1, K.

bk

上述正规方程组有K+1个方程，未知数也是K+1个。只要系数矩阵非奇异即满足 的唯一的一组解，就是 0， ， k的最小二乘估计[8]。

解释变量矩阵Z列满秩：R(Z) k。此时，有R(Z'Z) k，Z'Z可逆。可以解出b0， ，

2.3.2 最小二乘估计的矩阵形式

引进参数估计量，解释变量回归值和回归残差的下列向量表示：