shenbo_1985
最近看人大版的《应用回归分析》,遇到了一个小问题,就是一元线形回归中的残差的方差怎么得到的?好象有些书跟这里面的公式不一样,貌似很简单的问题,可是就把我卡住了,大家能帮帮忙吗?谢谢!
rtist
residuals are linear functions of the data, and hence linear functions of the error.
so all you need to know is how to calculate the variance of a linear combination of random variables to check whether the formula is right or not in the book you are reading.
shenbo_1985
是啊,可是就是觉得正负号有些问题,自己推导的与书里的不一样,可是用多元线形回归矩阵推导又和书里的一样,所以不知道怎么办了。
shenbo_1985
就是由一元直接推导和通过多元到一元得出的结果不一样。
yihui
多元的情况推导应该比较顺利啊
y=Xb+epsilon,设H为“帽子”矩阵,H=X(X'X)^(-1)X'
残差e=y-yhat=y-Hy=(I-H)y,I是单位阵,不难知道(I-H)也是等幂矩阵,即(I-H)^2=(I-H)
那么Var(e)=E[((I-H)y) (y'(I-H)')]=...=(I-H)*sigma^2,在一元的情况下把(1 X)代进去就算出来了
如果你非要推导一元的情况,那么每一步都对照上面多元的情况推导就是了,先不要急着把系数的估计用x表示,不然式子一团糟:)
shenbo_1985
谢谢了!用多元回到一元确实跟书上一样,可是有的书就把残差表成Yi的线性函数然后用方差的性质推结果就不一样,我也看不出哪里有问题。可能是理解错了吧