存在不可观测常量θ\theta。为了估计θ\theta,构造估计量θ^=f(λ)\hat{\theta}=f(\lambda),其中λ\lambda是关于可观测数据XX的函数。

我想验证θ^\hat{\theta}θ\theta是否无偏。推导发现E(θ^X)=g(λ)E(\hat{\theta} \mid X)=g(\lambda),此时g(λ)g(\lambda)无法再化简。

但同时又发现基于某些假设下,E(λ)=λ0E(\lambda)=\lambda_0,而g(E(λ))=g(λ0)=θg(E(\lambda))=g(\lambda_0)=\theta。经蒙特卡罗模拟验证,这个假设基本上是合理的,θ^\hat{\theta}的样本均值非常接近θ\theta

所以如何将E(λ)=λ0E(\lambda)=\lambda_0这个信息运用到估计量θ^\hat{\theta}性质的推导中呢?我苦于E(θ^X)E(\hat{\theta} \mid X)的推导过程中只出现了λ\lambda而没有出现E(λ)E(\lambda),所以无法实现E(λ)=λ0E(\lambda)=\lambda_0的惊险一跃。

如果你想证明的是 E(θ^X)=θE (\hat{\theta} | X) = \theta
它要求等号对 X 的所有(满足模型设定的) realization 都成立. 我认为这里可能无法仅凭借 E(λ)=λ0E (\lambda) = \lambda_0 证明无偏性, 因为它只涉及到 X 的一阶矩.

举个例子, 在 Gauss-Markov 定理的 setting 里, 我们有无偏性 E[β^X]=βE [\hat{\beta} | X] = \beta, 这里等号右边是不包含 X 的, 所以它对矩阵 X 的任意 realization 都成立.

你不妨再详细说说你的模型设定? 因为你有关于 lambda 期望的信息, 所以应该是有假设 X 的 prior distribution.

    albert-R 你的回答好认真……感谢感谢。

    我这个帖子(和之前的帖子)都对我真实遇到的问题进行了一定程度的简化和抽象。一来这样只要3分钟而不是30分钟就能把问题说清楚,二来毕竟这是想投出去的期刊文章。

    我想证明的确实是E(θ^X)=θE(\hat{\theta} \mid X)=\theta,好比高斯—马尔科夫设定下的E(bX)=βE(b \mid X)=\beta一样,只对XX做出很有限的要求。

    我这里的λ\lambda其实就是XX的杠杆值,投影诱导矩阵(帽子矩阵,HH)主对角线上的元素。
    在给定XX的时候,杠杆值就是常量了,所以g(λg(\lambda)没法再化简。
    但是如果我假定每个杠杆值的期望都是kn\frac{k}{n},就能证明θ^\hat{\theta}是无偏的。
    (统计小白如我斗胆觉得这不是一个离谱的前提吧……毕竟杠杆值的个数和总和都是确定的)

    这也就是我为什么绞尽脑汁想用E(λE(\lambda)替换λ\lambda的原因。