多元线性回归模型公式().docx
二、多元线性回归模型
在多要素的地理环境系统中，多个（多于两个）要素之间也存在着相互影响、相互关联的情况。因此，多元地理回归模型更带有普遍性的意义。
（一）多元线性回归模型的建立
假设某一因变量 y 受 k 个自变量 x 1, x 2 ,..., x k 的影响，其 n 组观测值为（
y a , x 1 a , x 2 a ,..., x ka ），
a 1,2,..., n 。那么，多元线性回归模型的结构形式为：
y
a 0 1
x
1a 2
x
2 a
...
k
x
ka a
（）
式中：
0 , 1 ,..., k 为待定参数； a 为随机变量。
如果 b 0 , b 1 ,..., b k 分别为 0 , 1 , 2 ..., k 的拟合值，则回归方程为
?=
b 0 b 1x 1 b 2 x 2 ... b k x k
（）
式中：
b 0 为常数；
b 1, b 2 ,..., b k 称为偏回归系数。
偏回归系数 b i （ i 1,2,..., k ）的意义是，当其他自变量 x j （ j
i ）都固定时，自变量 x i 每变
化一个单位而使因变量 y 平均改变的数值。
根据最小二乘法原理，
i （ i
0,1,2,..., k ）的估计值 b i （ i
0,1,2,..., k ）应该使
n
2
n
2
Q
y a y a
y a
b 0
b 1 x
1a
b 2 x
2a
...
b k x ka min （）
a 1
a 1
有求极值的必要条件得
Q
n
2
y a y a
b 0
a
1
（）
Q n
2
y a
y a x
ja
0( j
1,2,..., k)
b j
a 1
将方程组（）式展开整理后得：
n n n n
nb 0 (
x 1a )b 1 (
x 2a )b 2 ... ( x ka )b k
y a
a 1 a 1
a 1
a 1
n
n
n
n
n
( x 1a )b 0 ( x 12a )b 1 (
x 1a x 2a )b 2 ...
( x 1a x ka )b k
x 1a y a
a 1
a 1 a 1
a
1 a 1 n
n n
n
n
（）
(
x 2a )b 0 (
x 1a x 2a
)b
1
( x 22a )b 2 ...
(
x 2 a x ka
)b
k
x 2a y
a
a 1
a
1 a
1
a
1
a 1
...
n n
n
n
x ka 2 )b k n
(
x ka )b 0 ( x 1 a x ka )b 1
( x 2a x ka )b 2
... (
x ka y a
a
1
a
1
a
1
a
1
a 1
方程组（）式，被称为正规方程组。
如果引入一下向量和矩阵：
则正规方程组（）式可以进一步写成矩阵形式
Ab B （ 3.2.15 ’）
求解（ 3.2.15 ’）式可得：
b
A 1
B (X T X ) 1 X T Y （）
如果引入记号：
则正规方程组也可以写成：
L 11b 1 L 12b 2 ... L 1k b k L 1 y
L 21b 1
L 22
b
2
... L 2k
b k
L
2 y
............
（ 3.2.15 ’’）
L k 1
b 1
L k 2
b
2
...
L kk
b k
L
ky
b 0 y b 1 x 1 b 2 x 2 ... b k x k
（二）多元线性回归模型的显著性检验
与一元线性回归模型一样，当多元线性回归模型建立以后，也需要进行显著性检验。与前
面的一元线性回归分析一样，因变量
y 的观测值 y 1, y 2 ,..., y n 之间的波动或差异，是由两个因
素引起的， 一是由于自变量 x 1, x 2 ,..., x k 的取之不同， 另一是受其他随机因素的影响而引起的。
为了从 y 的离差平方和中把它们区分开来，就需要对回归模型进行方差分析，也就是将的离差平方和 S T 或（ L yy ）分解成两个部分，即回归平方和 U 与剩余平方和 Q ：
y
在多元线性回归分析中，回归平方和表示的是所有
k 个自变量对 y 的变差的总影响，它可
以按公式
计算，而剩余平方和为
以上几个公式与一元线性回归分析中的有关公式完全相似。它们所代表的意义也相似，即
回归平方和越大，则剩余平方和Q就越小，回归模型的效果就越好。不过，在多元线性回
归分析中，各平方和的自由度略有不同，回归平方和U 的自由度等于自变量的个数k，而剩余平方和的自由度等于n k 1 ，所以F统计量为：
当统计量 F 计算出来之后，就可以查 F 分布表对模型进行显著性检验。