windwail 有个小错误，LARS加速的是forward stagewise 但是看一些实验比较也就2~3倍的提高，LARS对于其他Penalized Regression的lambda选择有很大启发 另外，对于这类线性的自带feature选择的模型，Coordinate Descent要快的多的多
bigknife 回复 第6楼 的 windwail：感谢感谢。我继续看了一写关于lasso和LARS的文章，发现了LARS作为一种算法，可以提高lasso estimation的计算速度。对于forward stagewise也有加速作用。至于你说的penalized regression，我没有看过相关的文章，能否推荐些文章条目？本人的方向是DOE，对于建模这部分不是很熟。最近也是临时抱佛脚，希望能有进一步的探讨哈。
windwail 回复 第7楼 的 bigknife： Coordinate Descent有个简短的Tutorial，Fast Regularization Paths via Coordinate Descent 其他方法我觉得Least Angle and ℓ1 Penalized Regression A Review这篇写的蛮全的
Ihavenothing 回复 第8楼 的 bigknife： 太棒了，关于主站作者，可以看这里：http://cos.name/2008/11/how-to-work-with-cos/。 主要的步骤就是给contact (at) cos.name发封邮件介绍一下自己，然后把这篇文章稍微整理一下，我们会给你创建主站的帐号，接下来你就能在主站上发文章了。排版上有什么问题的话编辑部的同志们会热心帮忙的。[s:11]
idoget 回复 第6楼 的 windwail：我记得解lars只需要用到几次最小二乘，而infinite increment forward stagewise 的速度取决于所选的步长，所以可能会做很多次的最小二乘。 快2至3倍指的是神马…………
windwail 回复 第15楼 的 bootstrap：我第一次看到thresholding的那个图还以为lasso只要在β上做thresholding就行了。。。觉得自己太naive了。。。看，人家用了个奇妙的算法来解 不过看到CD被重新发现的历史，乐不可支。。。
