Markov Chain蒙特卡洛:不需要老化

2021-01-29 19:00:43

但是严格来说,使用初始瞬态概念来描述问题是数学上的胡说。如果运行足够长时间,则x = 10是采样器最终必须访问的可能状态。在平衡分布下,P(X> 10)小于10 -23。因此,问题不在于我们根本不应该看到x = 10,而是问题在于我们不应该在短时间内看到它,因此我们从这样的示例得出的结论是我们不希望在平衡分布的尾部开始。但这与说老化是一个有用甚至有趣的想法不同。从零开始的第二次运行没有相同的问题。显然不需要老化。进行老化的大多数理由都认为有必要从平衡链开始。当然,烙印实际上并没有做到这一点,但它可能会很接近,即使它没有被使用,它也会在希望的情况下使用。绝不是巧合的是,大多数热衷于老化的论文也可以从固定过程文献中吸引到LLN和CLT,并且是在Meyn和Tweedie(1993)的书出现之前(或者如果以后写的话)是由那些没有赶上马尔可夫链不必具有LLN和CLT的事实。 LLN和CLT不需要平稳性是一件好事,因为老化实际上并不能达到平稳性。给出这种老化的理由的作者确实吸引了一个非定理,即几乎所有但并非全部平稳过程的中心极限几乎但不完全定理。老化的另一种说法是使用无偏性,如果链条是固定的,那么每个蒙特卡洛估计量都将是无偏的,因为总和的期望是期望的总和,而不管总和的条件是否独立。几乎没有,但完全没有偏见(或用户希望如此)。由于通常认为无偏是一件好事,因此有必要进行老化。这种公正的观点是垃圾。如果您从x开始,而我从x开始,那么您的MCMC运行并不比我的好。如果您使用了烙印,而我没有,那么您有权对近似无偏向求知,而我没有。但是,这一点并不能使您的估算器变得更好。当贝叶斯提出无偏论时,这尤其离奇。贝叶斯主义者一直坚持推断必须以数据为条件,它不能涉及从未观察到的可能数据。在MCMC中,这意味着我们应该以实际起点为条件,而不是对未使用的可能起点进行规避。当然,不必一定要是贝叶斯才能看到当起点上的一个条件实际使用了起点时,无偏性的概念变得完全不相关。那么我们应该怎么做而不是老化呢?一个无可争辩的规则是:在典型的应用程序中,没有一个对马尔可夫链进行数学分析的方法,该数学分析无法说明良好的起点在哪里(达到良好的起点也需要多少燃烧力)。关于起点的所有决策均基于一些初步运行的输出,这些运行似乎已经趋于平稳。有人认为(希望?)代表这些均衡分布的任何部分都是与其他任何一个起点一样好的起点。因此,我经常遵循的一个规则是在上次运行结束的地方开始下一个运行。这是大多数权威机构建议使用的随机数生成器种子的规则。用户尝试使用随机种子开始可能会破坏生成器的随机性。只有当发生器用作一个连续流时,它才具有要求的任何特性。可能比将相同的原理应用于MCMC还要糟糕。另一个可能的规则是从某个点(例如模式)开始,已知该点具有相当高的概率。如果不知道这一点,则该规则将无用,但实际使用频率可能更高。我没有断言这两个规则是执行MCMC的唯一且唯一正确的方法。我只声称老化不会好转,而且往往会更糟。 Meyn,S.P.和R.L. Tweedie(1993)。马尔可夫链和随机稳定性。伦敦:施普林格出版社。