高斯-马尔可夫定理

对于简单（一元）线性回归模型，

${\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i}+\varepsilon _{i};\quad i=1,\dots n.}$

其中${\displaystyle \beta _{0}}$和${\displaystyle \beta _{1}}$是非随机但不能观测到的参数，${\displaystyle x_{i}}$是非随机且可观测到的一般变量，${\displaystyle \varepsilon _{i}}$是不可观测的随机变量，或称为随机误差或噪音，因此${\displaystyle y_{i}}$是可观测的随机变量。

高斯-马尔可夫定理的假设条件是：

• ${\displaystyle {\rm {E}}\left(\varepsilon _{i}\right)=0}$ ，${\displaystyle \forall i}$（零均值），
• ${\displaystyle {\rm {Var}}\left(\varepsilon _{i}\right)=\sigma ^{2}<\infty }$，${\displaystyle \forall i}$（同方差），
• ${\displaystyle {\rm {Cov}}\left(\varepsilon _{i},\varepsilon _{j}\right)=0}$，${\displaystyle \forall i\not =j}$（不相关）。

则对${\displaystyle \beta _{0}}$和${\displaystyle \beta _{1}}$的最佳线性无偏估计为，

${\displaystyle {\hat {\beta }}_{1}={\frac {\sum {x_{i}y_{i}}-{\frac {1}{n}}\sum {x_{i}}\sum {y_{i}}}{\sum {x_{i}^{2}}-{\frac {1}{n}}(\sum {x_{i}})^{2}}}={\frac {\operatorname {Cov} (x,y)}{\sigma _{x}^{2}}},\quad {\hat {\beta }}_{0}={\overline {y}}-{\hat {\beta }}_{1}\,{\overline {x}}\ .}$

对于多元线性回归模型，

${\displaystyle y_{i}=\sum _{j=0}^{p}\beta _{j}x_{ij}+\varepsilon _{i}}$, ${\displaystyle x_{i0}=1;\quad i=1,\dots n.}$

使用矩阵形式，线性回归模型可简化记为${\displaystyle \mathbf {Y} =\mathbf {X} {\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }}}$，其中采用了以下记号：

${\displaystyle \mathbf {Y} =(y_{1},y_{2},\dots ,y_{n})^{T}}$ (观测值向量，Vector of Responses),

${\displaystyle \mathbf {X} =(x_{ij})={\begin{bmatrix}1&x_{11}&x_{12}&\cdots &x_{1p}\\1&x_{21}&x_{22}&\cdots &x_{2p}\\\vdots &\vdots &\vdots &\ddots &\vdots \\1&x_{n1}&x_{n2}&\cdots &x_{np}\end{bmatrix}}}$ (设计矩阵，Design Matrix),

${\displaystyle {\boldsymbol {\beta }}=(\beta _{0},\beta _{1},\dots ,\beta _{p})^{T}}$ (参数向量，Vector of Parameters),

${\displaystyle {\boldsymbol {\varepsilon }}=(\varepsilon _{1},\varepsilon _{2},\dots ,\varepsilon _{n})^{T}}$ (随机误差向量，Vectors of Error)。

高斯-马尔可夫定理的假设条件是：

• ${\displaystyle {\rm {E}}\left({\boldsymbol {\varepsilon }}\mid \mathbf {X} \right)=0}$ ，${\displaystyle \forall \mathbf {X} }$（零均值），
• ${\displaystyle {\rm {Var}}\left({\boldsymbol {\varepsilon }}\mid \mathbf {X} \right)={\rm {E}}\left({\boldsymbol {\varepsilon }}{\boldsymbol {\varepsilon }}^{T}\mid \mathbf {X} \right)=\sigma _{\varepsilon }^{2}\mathbf {I_{n}} }$，（同方差且不相关），其中${\displaystyle \mathbf {I_{n}} }$为n阶单位矩阵(Identity Matrix)。

则对${\displaystyle {\boldsymbol {\beta }}}$的最佳线性无偏估计为

${\displaystyle {\hat {\boldsymbol {\beta }}}=(\mathbf {X} ^{T}\mathbf {X} )^{-1}\mathbf {X} ^{T}\mathbf {Y} }$