作词 : LonE

作曲 : LonE

吉布斯采样常用于统计推断（尤其是贝叶斯推断）之中。

这是一种随机化算法，与最大期望算法等统计推断中的确定性算法相区别。

与其他MCMC算法一样，吉布斯采样从马尔科夫链中抽取样本，

可以看作是Metropolis–Hastings算法的特例，

可以由马尔科夫链和概率转移矩阵的性质推出其采样分布最终收敛于联合分布。

该算法的名称源于约西亚·威拉德·吉布斯，

由斯图尔特·杰曼与唐纳德·杰曼兄弟于1984年提出。

吉布斯采样适用于条件分布比边缘分布更容易采样的多变量分布。

在统计学和统计物理学中，

gibbs抽样是马尔可夫链蒙特卡尔理论（MCMC）中用来获取一系列近似等于指定多维概率分布（比如2个或者多个随机变量的联合概率分布）观察样本的算法。吉布斯采样算法识别模体的基本原理通过随机采样不断更新模体模型及其在各条输入序列中出现的位置，优化目标函数，当满足一定的迭代终止条件或者达到最大迭代次数时就得到了最终所求的模体。吉布斯采样算法是一种启发式学习方法，它假定每一条序列只包含一个特定长度的模体实例，在各条序列上随机选取一个模体的起始位置，这样便得到了初始训练集，然后通过更新步骤和采样步骤迭代改进模体模型 [1] 。假设我们需要从联合分布 中抽取 的 个样本，记第i个样本为 。吉布斯采样的过程则为：

确定初始值 ；

假设已得到样本 ，记下一个样本为 ，于是可将其看作一个向量，

对其中某一分量 ，

可通过在其他分量已知的条件下该分量的概率分布来抽取该分量。

对于此条件概率，我们使用样本 ，中已得到的分量 到 以及上一样本

中的分量 到 ，即 。重复上述过程 k次。如果仅考虑其中部分变量，

则可以得到这些变量的边缘分布。

此外，我们还可以对所有样本求某一变量的平均值来估计该变量的期望。