MCMC中的深入论题

目录
3.6 辅助变量采样器
3.6.1 混合蒙特卡洛（详见PRML）
3.6.2 切片采样
3.6.3 模拟回火
3.7 可逆跳跃MCMC

3.6 辅助变量采样器

思路：从增广分布p(x,u)中采样往往比从p(x)中采样更容易，其中u是辅助变量。然后，根据p(x,u)抽样(x(i),u(i))，然后忽略样本u(i)，就可以得到边际样本x(i)。

在这里，我们将重点介绍两个众所周知的辅助变量方法的例子，即混合蒙特卡罗和切片抽样。

3.6.1 混合蒙特卡罗（HMC）

Duane（1987）和尼尔（1996）概述的“跨越【leapfrog】”HMC算法。混合蒙特卡罗（HMC）是一种MCMC算法，包含关于目标分布梯度信息以改善高维混合。

汉密尔顿蒙特卡洛（HMC）采样是一种动力学采样方法，也是现如今最通用的采样方法。由于MH算法与吉布斯采样方法中下一个样本点与当前样本点之间的相关性都不可避免会很强，因为当前样本点是下一个样本点的条件。这样的采样路径是随机游走的，对目标分布的探索效率比较低下。

通过引入 辅助的动量变量，把待采样的变量作为位置变量，把二者纳入一个势能与动能守恒的动力学系统，通过采样点在动力学系统中随机的游走来得到两个

总结

以上是生活随笔为你收集整理的8. An Introduction to MCMC for Machine Learning (4)的全部内容，希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错，欢迎将生活随笔推荐给好友。