eshanzi
请教各位:在一个多元回归中,如何分析一个自变量对其他自变量的影响程度与方向?有那几种方法?
colinisstudent
相关阵?
anita_jiu
如何分析多元回归中一个变量对其他变量的作用 - depends on what you want to find out from your data.
I think there are 3 kinds of multiple regression, standard or simultaneous regression, hierarchical or sequential regression, and stepwise regression. All these regression technicques work on different procedures. For example, in standard regression, all the independent variables (IV) are entered into the formulation simulataneously, regardless the individual IV's statistical importance (e.g. IV1 has more prediction power than IV2). However, stepwise regression enables you (or the software) to select the IV that has the most prediction power and input this IV into the equation in the first 'round', then select the 2nd most powerful variable and input it into the 2nd 'round' etc. Within stepwise regression, it also has several differnt 'methods'/order to input the IVs: forward selection, backward deletion, and stepwise regression. I think it may be helpful if you could do some readings on regression techniques. One book I'd recommend is 'Using multivariate statistics', by Tabachnick and Fidell (2001). This book has covered lots of statistic techniques and would be a good start.
eshanzi
谢谢,但是该变量引入时,会同时对其他几个变量形成冲击,但要把每个既存变量受到该变量的影响拆分出来,我不知道该怎么做。
anita_jiu
[quote]引用第3楼eshanzi于2006-10-11 21:58发表的“”:
谢谢,但是该变量引入时,会同时对其他几个变量形成冲击,但要把每个既存变量受到该变量的影响拆分出来,我不知道该怎么做。[/quote]
喔?请问你指的冲击是什么呢?我觉得你指的`冲击`是stepwise regression可以避免的吧?冒昧问一句,你有读过stepwise regression的书吗?
eshanzi
读过,我不需要避免,我主要是想分析出来在模型已经正确的情况下,其中某个自变量对其他自变量系数的影响
eshanzi
当自变量只有两个的情况,我可以搞定,如果超过两个,但只有某一个自变量与该自变量相关时也有办法,但其他情况我就没办法了
anita_jiu
我在想,在multiple regression里,那些IVs(在入方程前)不是都是独立的吗?被regressed之后,它们是有可能相关,但这也不过说明了其中一些IVs之间存在关联啊,那现在看来是我不明白你的问题了。。。
anita_jiu
Colinisstudent讲得没错,你应该可以在regression之后的coefficient matrix里看到不同变量的关系啊?
shoeda
建议看一下路径分析的内容。。
anita_jiu
[quote]引用第9楼shoeda于2006-10-12 17:46发表的“”:
建议看一下路径分析的内容。。[/quote]
agree
eshanzi
谢谢,变量放进去是不会完全独立的,谢谢各位的建议
eshanzi
伍德里奇说,对多个变量,这是个难点
eshanzi
[quote]引用第11楼eshanzi于2006-10-13 08:57发表的“”:
谢谢,变量放进去是不会完全独立的,谢谢各位的建议[/quote]
在此表达有误,见谅,应为放进去的变量是不一定能保证完全相互独立的,而且似乎不一定必须如此
waterhorse
You can regress the target dependent varialbe (one of the regressors) on the rest of the regressors to filter out collinearity. Then regress the dependent variable on the residual from the previous regression result. The R-square from the second regression is what you need.
wk1984
逐步回归就可以剔除变量了
dreamingb
[quote]引用第7楼anita_jiu于2006-10-12 17:05发表的“”:
我在想,在multiple regression里,那些IVs(在入方程前)不是都是独立的吗?被regressed之后,它们是有可能相关,但这也不过说明了其中一些IVs之间存在关联啊,那现在看来是我不明白你的问题了。。。[/quote]
如果存在变量之间的相关性,多元回归中也称多重共线性,那么,它们是客观存在的,并非引入之后才出现。所以,需要用适当的方法——逐步回归去处理这个问题。逐步回归的结果是保留贡献程度较大的变量,而剔除导致共线程度较高而影响模型拟合水平的变量。也就是说,留下的变量也存在共线的情况,只是在所要求范围内可以忽略罢了。
对于分析交叉影响的问题,我觉得看协差阵或相关阵是比较精确的。但还有个方法可以看个大概,就是在你“已经确认正确的模型”中,去掉那个变量,看其变量的变化——可从系数看出。
harryarpe
既然要考虑变量之间的相互影响,可以使用偏相关系数阵来看看变量之间的关系是怎样的。。。
mars
yeah, partial correlation works well to help you out.
yuanting
回复 第7楼 的 eshanzi:你好,我做的是二元回归分析,两个自变量之间相关较高,与因变量也都有高相关,回归方程也显著,但是其中一个的回归系数显著,另一个却不显著,这样的结果要怎么分析,然后就是可不可以分析这两个变量之间的影响关系。非常感谢啦!