https://cos.name/2011/07/we-never-know-randomness/

1. 刚看完《缩水》和谢老大这篇文章，想起前段时间看的一个谈“Unbiased Look at Dataset Bias”的文章http://www.cvchina.info/2011/06/23/cvpr-nb-paper/。真实的试验数据集多多少少总会带上主观选择的色彩，这个很难避免，即使随机化了，由于数据获取的问题，小样本下，多次重复试验时出现的统计显著性当然会不同，因此需要调整P值，需要这个FDR(话说第一次听这个，真是离统计越来越远了，汗..)，于是统计确实像是在赌博，赌承受能力有多大，赌有生之年会不会被小概率事件给砸死...不知我的理解是否正确 2. 我觉得说到期望，必须得与方差联系在一起，一次实验，赌的更多的是承受这个波动的能力有多大 3. 依稀记得课本中说，对于连续型变量，似然函数是一个与参数无关的邻域与概率密度的乘积所得到的概率，所以求极大值时候省掉了那个邻域，直接变成了概率密度的乘积。当然当初没有认真想这个问题，还是去看看那篇40的论文去... 4. 对于这篇文章，赞一下！

George Box的“任何模型都是错的，但有些是有用的”的这个名言太赞了。另外，统计里面的一个基本概念是说，小概率事件在一次试验中不可能发生。众多的假设检验也正式基于此。其实对于一次试验的结果，要么是发生了要么是没有，如果关注某次试验的结果，概率还是很无力。

我几乎完全同意本文的所有观点。我个人有个建议，大家可以做一些模拟的训练，来加强对于随机问题直觉。比如随机生成1000组数据，每组数据包含500个观测值，每个观测值都是用均值为5，方差为5的正态分布来独立生成。每组数据计算平均值，然后把结果记录下来。然后用均值，方差，直方图之类的你所知道的所有技术对这1000个平均值进行分析，尤其注意的是那些“反常的”平均值，特别大的或者特别小的。接下来可以把500个观测值逐步减小，比如减到50或者20，再重复上述的过程。有了这样的经历会让你在直觉上对上帝的骰子有更深入的把握。也能够理解可重复性在科研中的重要。

真理没有缩水，而是探索真理的方法出现了迷失。以金融市场为例，由于人们对时间序列的执着，想当然地认为对时间采取固定间隔的划分可以窥视数据的全貌，其结果就是上帝在掷骰子。

谢兄想得很深啊，呵呵。。。这些看似最基本的一些统计学概念/问题对于真正搞懂统计，正确用统计思考问题解决问题是及其关键的。我也很同意你的观点。。。统计近多少年来在理论上已经很难有突破了，所谓的新方法一般也就是把简单问题变复杂，然后再把复杂的方法，算法再近似成“简单”。。。对简单的模型用精确的算法，比之对复杂的模型用近似的方法，孰优孰劣呢，很多时候难说。希望，在不久，真的会有另一个Fisher出现。

很精彩！在我没有看Lindsey的paper之前，我并不同意似然是一种近似或者与积分中值定理有关。连续随机变量和离散随机变量并没有本质区别，只是一个相对counting measure，一个相对lebesgue measure。不过我同意似然并非万能，比如Cauchy分布的似然就表现很奇特。指数分布族下，似然应该接近完美。似然的观点其实可以和纯频率学派划清界限。Pearson用矩估计，可以看成正统的频率学派；Fisher用似然，其实更和Bayes相近。只是我们的教科书证明最大似然估计的渐近性质，用到了大数定律和中心极限定理（+泰勒展开），把似然的观点弄成频率学派。另外，“渐进”->“渐近”。

[未知用户] 谢谢纠正错别字，我居然把所有的渐近都写错了，汗。你说的也有道理，我以前也是这么想的：尽管密度不直接是概率，但它在某种程度上也体现了概率的相对大小。Lindsey的文章里提了说Fisher老爷子当年定义似然函数的时候在这里非常小心，Fisher用的就是领域内的积分来表示似然函数（这是真正意义上的概率），并不是直接用的密度函数。（如2楼高涛所说）似然与Bayes更近这说法我也同意，矩估计的基础是期望，而期望则是频率学派的典型特征。

很喜欢小谢的文章。我上统计学课的时候，给学生介绍统计软件，还引用过小谢的话。还直接得到过他的帮助。作为一个概率出身的人，想说几句关于概率论的话。概率论是一个数学理论，她象任何一个数学理论一样，有她的三个方面的内容：直观，形式逻辑，应用。而随机变量是为了形式逻辑部分的研究而存在的。相对于其他数学中的对象，她应该算是比较直观的了。概率论的直观和应用都非常丰富，但这不能作为她的全部，她的中心应该还是形式逻辑的部分。概率论不能专门为哪一个应用而存在。象任何的理论一样，她应该是普适性的。这就要求她应该有自己的理论体系。这也不可避免的会损害她的直观性。但这不是概率论理论的问题，而是任何想应用这个理论的人应该考虑的问题。概率论说到底也只是个工具而已。好比一个锤子，你拿来用可能是不趁手的，因为这个锤子不是为某个人造的。但是这毕竟是一个锤子，可以在很多地方用上。不知道这些话发在这里是否合适，因为看到了，就有些话想说了。关于上面的话，其实在W.Feller的书里有更多的话。因为恰好反映了我想说的话，有些就直接拿来用了。

[未知用户] 很高兴看到张老师的评论，因为我在数学方面功底不行，所以我一直都想听听数学出身的人怎么想。关于形式逻辑，让我想起来当年张波老师教我们实变函数，当时我心里是八百个痛苦，因为那玩意儿没办法从直观角度去考虑，或者非要从直观角度考虑的话，就会学得很慢很慢，后来我心想算了，这定理套定理的东西只管逻辑就行了，追求直观是自找麻烦。到现在我还是很怵形式逻辑，测度论学得一塌糊涂。有一次我斗胆问了我们系一位测度论老大师（老大+大师+老师），您在概率论或数理统计中见过不可测的集合吗？估计老爷子心里很不高兴，说没有，但你若需要我可以给你造一个。从我的角度来说，我看到的是我们花了很多时间和精力在定义（外）测度、可测集合、可测函数，但当我们步入概率论的领域时，这些基本概念都成了“理所当然”的东西，谈论的对象都是可测的；讲Lebesgue积分时常引用那个Riemann积分不存在的例子，可是那种“奇怪的”函数（Dirichlet）只是从逻辑中构造出来的而已，当我们步入概率论时，看到的都是“乖乖听话”的函数，积分仍然都是Riemann积分。这些都是我的困惑，当然，也可能只是因为我比较懒，于是自欺而已。抽象肯定有抽象的好处，就算是编程序写代码也需要抽象，否则代码很容易陷入杂乱无章的状态。统计图形界的大佬Antony Unwin去年在ASA的一份Newsletter中写了一篇文章 Getting into hot water over hot graphics ，当时我读的时候对其中一句话印象比较深刻：让严谨的数学家远离数据分析是件好事（后半句我就不翻译了）。无论如何，谢谢分享观点，闲暇之余，还想请张老师在这里写两篇小文章，推动咱们学院老师的上网工程啊：）

真理在缩水，还是上帝在掷骰子？

John-john_fu

"让多个检验全都不犯错和单个检验不犯错（指第一类错误）显然是有区别的，比如假设所有的检验都是独立的，一个检验不犯错的概率是95%，两个都不犯错的概率就变成了95% * 95% = 90.25%，检验越多，不犯错的概率就越小。把整体的第一类错误率控制在某个alpha值之下，就意味着单个检验必须更“严格”，因此我们不能再以0.05去衡量每个检验是否显著，而要以更小的值去衡量"

这一段与我们的直觉相反, 理论上看起来没错, 但解释错了: 多个检验都不犯错的概率变小是指如果事实是A, 但越多的检验方法,越有可能把事实为A否定掉. 反过来说如果多个检验方法都通过了A(95%的置信水平), 则A为事实的可能性越大(1-0.05*0.05*0.05...)

« 上一页