贝叶斯所有内容

一、贝叶斯公式的密度函数形式

1．依赖于参数 的密度函数在经典统计中记为或p(x; )或p (x)，它表示

在参数空间 { }中不同的 对应不同的分布。可在贝叶斯统计中记为p(x/ )，

它表示在随机变量 给定某个值时，总体指标X的条件分布。

2. 根据参数 的先验信息确定先验分布。

3．从贝叶斯观点看，样本x (x1,...,xn)的产生要分二步进行。首先设想从

先验分布产生一个样本 '，这一步是“老天爷”做的，人们是看不到的，故用“设

想”二字。第二步是从总体分布p(x/ ')产生一个样本，这个样本是具体的，人

们能看得到的，此样本x发生的概率是与如下联合密函数成正比。

这个联合密度函数是综合了总体信息和样本信息，常称为似然函数，记为。频率

学派和贝叶斯学派都承认似然函数，二派认为：在有了样本观察值 后，总体和

样本中所含 的信息都被包含在似然函数 之中。

4．由于 ' 是设想出来的，它仍然是未知的，它是按先验分布 ( ) 而产生

的，要把先验信息进行综合，不能只考虑 ' ，而应对 的一切可能加以考虑。

故要用 ( ) 参与进一步综合。这样一来，样本x 和参数 的联合分布

把三种可用的信息都综合进去了。

5．我们的任务是要对未知数 作出统计推断。在没有样本信息时，人们只

能据先验分布对 作出推断。在有样本观察值x=(x1,x2,...,xn) 之后，我们应根

据h(x, ) 对 作出推断。为此我们需把h(x, ) 作如下分解：

其中m(x) 是x 的边缘密度函数。

它与 无关，或者说，m(x) 中不含 的任何信息。因此能用来对 作出推断的

仅是条件分布 ( /x) 。它的计算公式是