基于MCMC方法的贝叶斯AR(p)模型分析,本文主要内容关键词为:模型论文,方法论文,MCMC论文,AR论文,贝叶斯论文,此文献不代表本站观点,内容供学术参考,文章仅供参考阅读下载。
中图分类号:O212.8文献标识码:A
引言
运用贝叶斯方法进行经济时间序列分析,不仅充分利用了模型信息和样本数据信息,而且也融合了模型总体分布中未知参数的信息。它克服了传统的静态模型难以处理突发事件的缺陷,具有灵活、易于适应外部变化的特点,它可以很好的解决传统统计方法的样本不足及样本质量不佳问题,更适合进行模型的预测,更能反映现实问题。文献[2][3][7]对此问题做了研究论证。
但正如运用贝叶斯方法分析其它统计模型一样,在时间序列模型的贝叶斯分析过程,对总体参数的统计推断,同样会遇到对高维概率分布作积分的复杂问题。这使贝叶斯方法的应用受到了极大的限制。随着计算机技术的发展和贝叶斯方法的改进,特别是马尔科夫链蒙特卡罗(Markov chain Monte Carlo,MCMC)方法以及WinBUGS(Bayesian inference Using Gibbs Sampling)软件的发展和应用,原先异常复杂的高维计算问题随之迎刃而解,很大程度上方便了参数的后验推断问题,这使现代贝叶斯理论日趋成熟,也极大地促进了贝叶斯理论地推广应用。
运用贝叶斯方法进行AR(p)分析,已经有不少的文章做过专门的介绍[1,2,7]。本文基于Gibbs抽样的MCMC方法,通过实证数据利用WinBUGS软件进行贝叶斯AR(p)的建模分析。
一、数学模型
(一)贝叶斯AR(p)模型
附图
附图
由于上述的贝叶斯推断中,涉及到高维概率的积分,计算十分复杂。本文通过运用MCMC仿真的方法来进行上述的贝叶斯统计推断,借助WinBUGS软件,使得运用贝叶斯方法进行时间序列更加简便可行。
(二)MCMC方法与Gibbs抽样
MCMC是在贝叶斯理论框架下,通过计算机进行模拟的Monte Carlo方法。它提供了从待估参数的后验分布抽样的方法,从而使我们获得对待估参数或其函数值及其分布的估计。马尔可夫链蒙特卡罗方法是与统计物理有关的一类重要随机方法,广泛使用在贝叶斯推断和机器学习中。广义贝叶斯体系的一个基本目标是计算高维概率分布的期望值。其中是模型参数或隐变量或观测数据。MCMC涉及的两个基本思想。第一个基本思想是采用蒙特卡罗方法估计期望值,
附图
附图
(三)WinBUGS软件
WinBUGS(Bayesian inference Using Gibbs Sampling)是由英国的Imperial College和MRC(Medical Research Council)联合开发的用MCMC方法进行贝叶斯推断的专用软件包。使用WinBUGS可以很方便地对许多常用的模型和分布进行Gibbs抽样,编程者不需要知道参数的先验密度或似然的精确表达式,只要设置好变量的先验分布并对所研究的模型进行一般性的描述,就能很容易实现对模型的贝叶斯分析,而不需要复杂的编程。在WinBUGS中可以使用有向图模型方式(directed graphical model)对模型进行直观的描述,也可以直接编写模型程序,并给出参数的Gibbs抽样动态图、用Smoothing方法得到的后验分布的核密度估计图、抽样值的自相关图及均数和置信区间的变化图等,使抽样结果更直观、可靠。Gibbs抽样收敛后,可以得到参数的后验分布的均数、标准差、95%置信区间和中位数等信息[6]。
二、数据仿真
(一)数据
附图
迭代从第1001次开始至10000的WinBUGS运行结果见表2(表略),不难得到的均值为0.4009,95%置信区间为(0.1961,0.6096),的均值为0.0683,95%置信区间为(-0.1371,0.2733),τ的均值为1.077,95%置信区间为(0.7812,1.42)(如表2)。
在模型的分析过程中,MCMC收敛性诊断是很重要的,模拟时绝不能简单通过大量迭代作为预迭代。在检验模型参数的收敛性方面,WinBUGS可对参数进行多层链式迭代分析,即输入多组初始值,形成多层迭代链,当参数模型收敛,则迭代图形结果趋于重合[4]。本例中输入两组初始值分别进行1000次迭代分析,可以看出两组初始值的迭代形成两条链的轨迹以及在收敛性诊断图中趋于重合(多层迭代的参数链轨迹见图6、7、8,收敛诊断见图9、10、11)。
三、结束语
MCMC技术为贝叶斯统计的理论发展和实际应用带来了革命性的突破,特别是WinBUGS软件的推广应用,使贝叶斯方法的实际应用更加简便可行。在AR(p)时间序列模型贝叶斯推断过程中,基于MCMC方法的WinBUGS软件的应用,使模型参数的贝叶斯推断摆脱了繁琐的高维积分计算,程序化了贝叶斯方法的分析应用。然而,在应用WinBUGS对AR(p)时间序列模型贝叶斯分析过程中,还需继续在一下几个问题进行发展完善:(1)模型参数先验信息的设定合理与否仍有争论;(2)MCMC方法依赖于模拟的收敛性,而收敛性的判断是困难的,至今没有得到完全可靠的诊断方法;(3)需补充贝叶斯时间序列AR(p)模型的预报分析方法的构建。本文的研究也为贝叶斯方法分析其它时间序列模型提供了模型参考和研究思路。