ypchen
由Laplace主张的最小平均绝对偏差（LAD）估计（最小一乘法）与由Gauss主张的最小二乘法（LS）（最小均方误差估计）之争，历经近200年而不衰。这牵涉到用中位数m或均值μ对分布的中心趋势作表征，也牵涉到样本中位数与样本均值的统计性质。最小二乘法与均值的优势在于有良好的数字特征，也便于计算，其最终的理论基础为Hilbert空间的投影理论，已应用到数不尽的领域。LAD与中位数的主要优点在于稳健性，稳健性要求的提出是20世纪后半叶统计学的主要进展之一，在计算机时代将日趋重要，另外关于LAD的计算方法叶也有所改善，预计两者之争还会日趋激烈。
（1） 最小一乘问题：
使平均绝对偏差E{|X-a|}达到最小值的解是X的中位数m
（2） 最小二乘问题：
使平均平方误差E{(X-a)^2}到达最小值的解是X的均值μ
andy
还有个加权最小二乘是怎么回事？介绍一下
yihui
最小一乘也是一种方法，不过看起来统计学基本上是被最小二乘给“占领”了，我只是在陈希孺老师的文章中看到过对最小一乘比较系统的介绍。
加权最小二乘法（Weighted Least Square，WLS）的意思就是给普通最小二乘（OLS）的每个平方项上乘以一个权重Wi，然后再求使得加权平方和最小的参数值。
hcq930
又长见识了，最小一乘法！
micro@
头一次听说这个“最小一乘法”的翻译，感觉就像“最小二乘法”一样难懂，看了英文才知道什么意思。谁知道当年“最小二乘法”这个词儿是怎么制造出来的？
中位数和均值都可以看作M-estimate。
yihui
呵呵，“最小一乘法”肯定是根据“最小二乘法”翻译而来的，本来“最小二乘法”的翻译就有问题，台湾的叫法为“最小平方法”还算是比较贴切的。
hcq930
哦，原来是翻译有问题啊
yihui
名称最好看英文：LAD应该就是Least Absolute Deviation，LS是Least Square
ypchen
在万方上搜了一下 LAD的论文还是有一些的
yihui
肯定比最小二乘法要少得多：）
colinisstudent
一乘法不好计算啊。。。
abel
[quote]引用第10楼colinisstudent于2006-07-09 18:17发表的“”:
一乘法不好计算啊。。。[/quote]
事实上是数学处理的时候，涉及到了绝对值，解析方面的性质比二乘法要复杂多多了。
解析的时候，希望都是几乎处处无限次连续可微的才好（这个描述不准确，呵呵）
涉及到计算的时候呢，倒是计算机可以帮忙。不过没有解析方面性质的证明，计算机也不好随便计算，总是要给出一个性质证明先。
colinisstudent
我用过跟一乘法类似的方法，计算的时候我是采用的先在一定范围内穷举，然后找最小值。自己感觉在计算数学如此发达的今天用这种方法来算数丢人丢大了。。。
ypchen
那么加权最小一乘法岂不是更难算？有没有人看了帖子后查查论文看看国外把最小一乘法用到哪儿了？
xuly
就是,又长见识了----最小一乘法
谢谢了
飘飘～
今天晚上我们上实验的设计与分析，才讲的最小二乘法．
hcq930
上周我们老师说最小二乘的时候还刻意说了一下最小一乘，不过没详谈，听语气还是有它特别的用处的
yihui
大家有兴趣的去看看分位数回归吧，最小一乘是其中的一个特例。
lzclym68
我们当时上稳健统计的时候介绍过一乘，但这个算法实现起来好像比较困难。
friend
能详细介绍下LAD吗？
