3、Cross Sectional Regression

3.1 最小二乘法

有三种方式可以实现最小二乘法的简单线性回归，假设数据byu

（1）lm(byu$salary ~ byu$age + byu$exper)

（2）lm (salary ~ age + exper, data= byu)

（3）attach(byu)

lm(salary~age+exper)

lm()只能得出回归系数，要想得到更为详尽的回归信息，应该将结果作为数据保存或者使用“拟合模型”（fitted model）

result<-lm(salary~age+ exper + age*exper, data=byu)

summary(result)

myresid<-result$resid #获得残差

vcov(result) ＃针对于拟合后的模型计算方差－协方差矩阵

回归中允许使用诸如log（）和sqrt（）等相对复杂的项目作为自变量，但如果设计幂，就必须先计算，然后才能回归；或者使用I（），它可以在对公式估值前强制完成计算

salary$agesq <- (salary$age)^2

result <- lm(salary ~ age + agesq + log(exper) + age*log(exper),data=byu)

或者

result <- lm(salary ~ age + I(age^2) + log(exper) + age*log(exper),data=byu)

如果我们要进行无常数项，一般在回归中引入0

result <- lm(smokes ~ 0 + male + female ,data=smokerdata)

3.2 从回归中提取统计量

一些统计量和参数都被存储在lm或者summary中

output <- summary (result)

SSR<- deviance（result）＃残差平方和；（另一种方法：RSquared <- output$r.squared)

LL<- logLik(result) #对数似然统计量

DegreesOfFreedom<- result$df #自由度

Yhat<- result$fitted.values #拟合值向量

Resid<- result$residuals

s<- output$sigma #误差标准差的估计值（假设同方差）

CovMatrix <- s^2*output$cov #系数的方差－协方差矩阵（与vcov()同）

3.3 异方差及相关问题

3.3.1 异方差的Breusch－Pagan检验

为了检验异方差是否存在，我们可以用lmtest包中的Breusch－Pagan检验。或者利用car包中的ncv.test()函数。二者工作的原理都是相同的。在回归之后，我们可以对拟合的模型采用bptest（）函数

unrestricted<- lm(z~x)

bptest(unrestricted)

这将得到检验的“学生化的”（studentized）结果。如果为了保持与其他软件结论的一致性（包括ncv.test())，我们可以设置studentize=FALSE

3.3.2 异方差（自相关）稳健性协方差矩阵

在存在异方差的情况下，ols的估计是无偏的，但是所得到的关于β系数方差的估计则是不正确的。为了计算异方差一致性的协方差矩阵，我们可以利用car包中的hccm（）函数，而不是vcov()。

sandwich包中的vcovHC()命令可以实现同样的功能。同时利用vcovHAC()或者NeweyWest（）函数可以进行异方差和自相关稳健性Newey—West估计。