看了 求回归系数的标准误 的讨论，，

请问

  1. 从“ Cb=CB+C(X'X)-1X'e ”到“ Var(Cb)=C(X'X)-1X' Var(e) X(X'X)-1C' ”
    是怎么推导过去的？

  2. 从“ Var(Cb)=C(X'X)-1X' Var(e) X(X'X)-1C' ” 又是怎么推导到
    求回归系数的标准误 第二和三行说的
    系数标准误的通用公式的 “ hat{sigma2} C(X'X)-1C' ”的？

  3. 整个推导过程在哪本书上能看到呢？

先谢谢各位了。

  1. 我得先确定回归系数的标准误是不是指回归系数的分布的标准差
  2. 如果是的话，我只会一元线性方程的情况

    s609078902 谢谢回复哈

    这个标准误就是回归结果里面（例如Eviews/R的回归结果）显示的std error

    或者是回归方程里面每个系数下面括号里面的那个误差

        jimyokl 我算了下，就是系数的分布的标准差。我只知道一元线性方程的怎么算

            s609078902 谢谢再次回复

            能贴下大概的过程吗？一元的是不是等于 sigma2/∑(xi2)，这里xi = Xi - 均值

                jimyokl
                lxx=∑(xi−xˉ)2 l_{xx}=\sum(x_i-\bar{x})^2
                β^1=∑(xi−xˉ)(yi−yˉ)lxx=∑(xi−xˉ)lxxyi \hat{\beta}_1=\dfrac{\sum(x_i-\bar{x})(y_i-\bar{y})}{l_{xx}}=\dfrac{\sum(x_i-\bar{x})}{l_{xx}}y_i
                D(β^1)=D(∑(xi−xˉ)lxxyi)=∑(xi−xˉlxx)2D(yi)=σ2lxx D(\hat{\beta}_1)=D\left(\dfrac{\sum(x_i-\bar{x})}{l_{xx}}y_i\right)=\sum\left(\dfrac{x_i-\bar{x}}{l_{xx}}\right)^2D(y_i)=\dfrac{\sigma^2}{l_{xx}}

                    s609078902 不用LaTeX，大概写下就行

                    再请问你下，第1问里面的对矩阵求方差，例如A，var(Ae)是不是就等于 Avar(e)A' 呢?
                    就是在后面加一个矩阵的转置

                        在你的记号里，BB是真实系数向量，bb是对BB的估计，从形式b=B+(X′X)−1X′eb = B+(X'X)^{-1}X'e上你可以发现这是一个无偏估计，而后面(X′X)−1X′e(X'X)^{-1}X'e就是估计误差。再考虑线性组CbCb，代入计算即可得到Cb=CB+C(X′X)−1X′eCb=CB+C(X'X)^{-1}X'e，同样的，这里的随机性来自于C(X′X)−1X′eC(X'X)^{-1}X'e，算方差只需要关注这里就行。

                        C(X′X)−1X′eC(X'X)^{-1}X'e其实就是一个axax的形式，其中aa是某个固定的系数向量（注意到这里是行向量），xx是随机向量（并且由于实际上这里是误差项，一般模型都会认为个体间独立，也就是误差向量内各元素独立），axax的结果是一个数值型随机变量，于是有如下结论
                        Var(ax)=a⋅var(x)⋅aTVar(ax) = a \cdot var(x)\cdot a^T

                        想推导其实很简单，照着方差的定义展开即可。

                        Var(ax)=Var(∑iaixi)=∑iVar(aixi)=∑iai2var(xi)=a⋅Var(x)⋅aT Var(ax) = Var(\sum_i a_i x_i) = \sum_i Var(a_ix_i) = \sum_i a_i^2var(x_i) = a\cdot Var(x)\cdot a^T

                        这个推导用到了xx中元素的独立性。但实际上即使xx中元素不独立Var(ax)=a⋅var(x)⋅aTVar(ax) = a \cdot var(x)\cdot a^T也是正确的，只是此时var(x)var(x)是协方差矩阵，其中第i行第j列的元素就是xix_i与xjx_j之间的协方差。至于证明依然是按照定义展开，只不过求和符号里的东西多一些。