deepbayes lecture1: 贝叶斯框架简介

贝叶斯框架简介

今天我们来聊聊贝叶斯学习。在机器学习领域，贝叶斯方法提供了一种概率的视角来理解和处理问题。与传统的频率主义方法不同，贝叶斯方法强调对模型参数的不确定性进行建模，并利用先验知识来指导学习过程。

什么是贝叶斯框架？

贝叶斯框架的核心思想是利用贝叶斯定理，通过观察数据来更新我们对模型参数的信念。 简单来说，就是将我们的先验认知和观测到的数据相结合，从而得出更加合理的结论。

如何处理概率分布？

在贝叶斯框架中，我们需要处理各种概率分布。以下是一些基本概念和公式：

• 条件概率：

  $$Conditional=\frac{Joint}{Marginal},p(x|y)=\frac{p(x,y)}{p(y)}$$

  这个公式描述了在给定事件y发生的情况下，事件x发生的概率。

• 乘法法则（Product Rule）：任何联合分布都可以表示为一维条件分布的乘积。

  $$p(x,y,z)=p(x|y,z)p(y|z)p(z)$$

  这个公式用于分解联合概率分布，方便计算。

• 加法法则（Sum Rule）：任何边缘分布都可以通过对联合分布积分得到。

  $$p(y)=\int p(x,y)dx$$

  这个公式用于计算边缘概率分布，消除不关心的变量。

举例说明

假设我们有三个变量x，y和z，并且我们对x的观测值感兴趣，想要预测y的值。如果z的值未知且与我们不相关，我们如何从联合概率分布p(x, y, z)中估计p(y|x)？

根据乘法法则和加法法则：

$$p(y|x)=\frac{p(x,y)}{p(x)}=\frac{\int p(x,y,z)dz}{\int p(x,y,z)dzdy}$$

通过这个例子，我们可以看到如何使用乘法法则和加法法则从联合分布中推导出任意条件分布。

贝叶斯定理

贝叶斯定理是贝叶斯框架的基石。它描述了在观察到数据后，如何更新我们对参数的先验信念。公式如下：

$$p(y|x)=\frac{p(x,y)}{p(x)}=\frac{p(x|y)p(y)}{p(x)}=\frac{p(x|y)p(y)}{\int p(x|y)p(y)dy}$$

其中：

• $p(y|x)$ 称为后验概率（Posterior），表示在观察到数据x后，我们对参数y的信念。
• $p(x|y)$ 称为似然（Likelihood），表示在给定参数y的情况下，数据x出现的可能性。
• $p(y)$ 称为先验概率（Prior），表示在未观察到数据前，我们对参数y的初始信念。
• $p(x)$ 称为证据（Evidence），用于对后验概率进行归一化。

用更简洁的语言表达：

$$Posterior=\frac{Likelihood\times Prior}{Evidence}$$

贝叶斯定理为我们提供了一种在获得新信息时转换不确定性的规则。

统计推断

在统计推断中，我们通常需要根据独立同分布的数据 $X=(x_1,...,x_n)$，从分布 $p(x|\theta )$ 估计参数 $\theta$。

频率主义框架（Frequentist Framework）

频率主义方法使用最大似然估计（MLE）来估计参数 $\theta$。

$${\theta }_{ML}=\arg \max p(X|\theta )=\arg \max \prod _{i=1}^{n}p(x_i|\theta )=\arg \max \sum _{i=1}^n\log p(x_i|\theta )$$

贝叶斯框架（Bayesian Framework）

贝叶斯方法则通过先验概率 $p(\theta )$ 编码我们对 $\theta$ 的不确定性，然后应用贝叶斯推断。

$$p(\theta |X)=\frac{{\prod }_{i=1}^{n}p(x_i|\theta )p(\theta )}{\int {\prod }_{i=1}^{n}p(x_i|\theta )p(\theta )d\theta }$$

抛硬币示例

让我们通过一个简单的抛硬币的例子来说明贝叶斯框架的应用。

假设我们有一枚硬币，我们想估计它正面朝上的概率 $\theta$。我们进行了两次试验，结果都是正面朝上（H, H）。

频率主义方法

使用最大似然估计，我们会得到 ${\theta }_{ML}=1$，也就是说，这枚硬币每次都会正面朝上。

贝叶斯方法

在贝叶斯方法中，我们会先对 $\theta$ 设定一个先验分布。例如，我们可以使用一个均匀分布作为先验，表示我们一开始认为硬币是公平的可能性最大。

随着我们观察到数据（两次正面朝上），我们会更新我们的后验分布。这个后验分布会向 $\theta =1$ 移动，但不会完全等于 1，因为它受到了先验分布的影响。在1000次试验中观察到489次反面和511次正面，那么贝叶斯和频率主义方法都会得出硬币是公平的结论。

频率主义 vs. 贝叶斯

下表总结了频率主义和贝叶斯框架的区别：

	频率主义（Frequentist）	贝叶斯（Bayesian）
变量	随机和确定性	一切都是随机的
适用性	n >> d	∀n

• 频率主义方法假设参数是固定的，数据是随机的。
• 贝叶斯方法则假设参数和数据都是随机的，并且我们可以对参数的不确定性进行建模。

当数据量足够大时，频率主义方法是贝叶斯方法的一个极限情况。

$$\underset{n/d\to \infty }{\lim }p(\theta |x_1,...,x_n)=\delta (\theta -{\theta }_{ML})$$

贝叶斯框架的优势

• 可以编码先验知识或期望的最终解决方案属性。
• 先验是一种正则化形式。
• 除了点估计之外，后验还包含有关估计不确定性的信息。

贝叶斯框架只提供了一种替代的观点，它并不矛盾或否定频率主义框架。

概率机器学习模型

对于数据中的每个对象：

• $x$ - 观测变量集（特征）。
• $y$ - 隐藏/潜在变量集（类别标签/隐藏表示等）。
• $\theta$ - 模型参数（例如，线性模型的权重）。

我们可以分为判别模型和生成模型。

判别模型

判别模型直接对 $p(y,\theta |x)$ 进行建模。通常假设 $\theta$ 上的先验概率与 $x$ 无关：

$$p(y,\theta |x)=p(y|x,\theta )p(\theta )$$

判别模型无法生成新的对象，因为它需要 $x$ 作为输入。例如，分类或回归任务就属于判别模型。

生成模型

生成模型对联合分布 $p(x,y,\theta )$ 进行建模：

$$p(x,y,\theta )=p(x,y|\theta )p(\theta )$$

生成模型可以生成新的对象，即 $(x,y)$ 对。但是，由于观测空间通常比隐藏空间复杂得多，因此训练起来可能非常困难。例如，文本生成、语音生成、图像生成等都属于生成模型。

训练贝叶斯机器学习模型

给定训练数据 $(X_{tr},Y_{tr})$ 和一个判别模型 $p(y,\theta |x)$，训练阶段的目标是对 $\theta$ 进行贝叶斯推断：

$$p(\theta |X_{tr},Y_{tr})=\frac{p(Y_{tr}|X_{tr},\theta )p(\theta )}{\int p(Y_{tr}|X_{tr},\theta )p(\theta )d\theta }$$

结果是一个算法集成，而不是一个单一的最佳模型 ${\theta }_{ML}$。

• 集成通常优于单一的最佳模型。
• 后验可以捕获模型可以从训练数据中提取的所有依赖关系，并且可以用作新的先验。

预测贝叶斯机器学习模型

在测试阶段：

• 我们有一个来自训练的后验分布 $p(\theta |X_{tr},Y_{tr})$。
• 一个新的数据点 $x$ 到达。
• 我们需要计算其隐藏值 $y$ 的预测分布。

对参数 $\theta$ 的后验进行集成：

$$p(y|x,X_{tr},Y_{tr})=\int p(y|x,\theta )p(\theta |X_{tr},Y_{tr})d\theta$$

完全贝叶斯推断

• 训练阶段：$$p(\theta |X_{tr},Y_{tr})=\frac{p(Y_{tr}|X_{tr},\theta )p(\theta )}{\int p(Y_{tr}|X_{tr},\theta )p(\theta )d\theta }$$
• 测试阶段：$$p(y|x,X_{tr},Y_{tr})=\int p(y|x,\theta )p(\theta |X_{tr},Y_{tr})d\theta$$

完全贝叶斯推断可能难以处理。

共轭分布（Conjugate Distributions）

如果先验概率 $p(y)$ 和条件概率 $p(x|y)$ 是共轭的，那么后验概率 $p(y|x)$ 与先验概率属于相同的参数族：

$$p(y)\in A(\alpha ),p(x|y)\in B(y)⟹p(y|x)\in A({\alpha }^{\prime })$$

直观理解：

$$p(y|x)=\frac{p(x|y)p(y)}{\int p(x|y)p(y)dy}$$

在这种情况下，贝叶斯推断可以以闭合形式完成。

共轭先验示例：抛硬币

• 我们有一个硬币，它可能不是公平的。
• 任务是估计 $\theta$ 的概率。
• 数据： X = ( x 1 , . . . , x n ) , x ∈ { 0 , 1 } X = (x_1, ..., x_n), \quad x \in \{0, 1\} X=(x1​,...,xn​),x∈{0,1}。

概率模型：

$$p(x,\theta )=p(x|\theta )p(\theta )$$

• 似然函数（Likelihood）：$$Bern(x|\theta )={\theta }^x(1-\theta {)}^{1-x}$$
• 先验（Prior）：我们需要选择一个合适的先验分布。

如何选择先验分布？

• 正确的定义域：$\theta \in [0,1]$。
• 包括先验知识：硬币很可能是公平的。
• 推断复杂性：使用共轭先验。

Beta 分布 满足所有要求：
$$Beta(\theta \mid a,b)=\frac{1}{B(a,b)}{\theta }^{a-1}(1-\theta {)}^{b-1}$$

Beta分布也可以用于硬币最有可能不公平的情况。

让我们检查一下，我们的似然函数和先验概率是否是共轭的：
$$p(x\mid \theta )={\theta }^x(1-\theta {)}^{1-x}$$

$$p(\theta )=\frac{1}{B(a,b)}{\theta }^{a-1}(1-\theta {)}^{b-1}$$

思路是检查先验概率和后验概率是否位于相同的参数族中：

$$p(\theta )=C{\theta }^{\alpha }(1-\theta {)}^{\beta }$$$$p(\theta \mid x)=C^{\prime \prime }{\theta }^{{\alpha }^{\prime }}(1-\theta {)}^{{\beta }^{\prime }}$$

贝叶斯推断（Bayesian Inference）在接收到数据 $X=(x_1,...,x_n)$ 后：

$$p(\theta \mid X)=\frac{1}{Z}p(X\mid \theta )p(\theta )=\frac{1}{Z}\prod _{i=1}^{n}p(x_i\mid \theta )p(\theta )=\frac{1}{Z}\prod _{i=1}^n{\theta }^{x_i}(1-\theta {)}^{1-x_i}\frac{1}{B(a,b)}{\theta }^{a-1}(1-\theta {)}^{b-1}=\frac{1}{Z^{\prime }}{\theta }^{a+{\sum }_{i=1}^n{x}_i-1}(1-\theta {)}^{b+n-{\sum }_{i=1}^n{x}_i-1}=Beta(\theta \mid a^{\prime },b^{\prime })$$

新的参数：

$$a^{\prime }=a+\sum _{i=1}^n{x}_i{b}^{\prime }=b+n-\sum _{i=1}^n{x}_i$$

常见共轭分布：

似然函数 $p(x|y)$	$y$	共轭先验 $p(y)$
高斯分布 (Gaussian)	$\mu$	高斯分布 (Gaussian)
高斯分布 (Gaussian)	${\sigma }^{-2}$	Gamma 分布 (Gamma)
高斯分布 (Gaussian)	$(\mu ,{\sigma }^{-2})$	高斯-Gamma (Gaussian-Gamma)
多元高斯 (Multivariate Gaussian)	${\Sigma }^{-1}$	Wishart 分布 (Wishart)
伯努利 (Bernoulli)	$p$	Beta 分布 (Beta)
多项式 (Multinomial)	$(p_1,...,p_m)$	Dirichlet 分布 (Dirichlet)
泊松 (Poisson)	$\lambda$	Gamma 分布 (Gamma)
均匀分布 (Uniform)	$\theta$	Pareto 分布 (Pareto)

如果没有共轭性怎么办？

最简单的方法是在 ${\theta }_{MP}$ 中用 delta 函数近似后验概率：

$${\theta }_{MP}=\arg \max p(\theta \mid X_{tr},Y_{tr})=\arg \max p(Y_{tr}\mid X_{tr},\theta )p(\theta )$$

在测试阶段：

$$p(y\mid x,X_{tr},Y_{tr})=\int p(y\mid x,\theta )p(\theta \mid X_{tr},Y_{tr})d\theta \approx p(y\mid x,{\theta }_{MP})$$

我们不需要计算归一化常数。
我们无法计算真实的后验。

总结

总的来说，贝叶斯框架为我们提供了一种灵活和强大的方法来处理机器学习问题。通过结合先验知识和观察数据，我们可以更好地对模型参数的不确定性进行建模，并做出更加合理的预测。

Reference

https://github.com/bayesgroup/deepbayes-2019/blob/master/lectures/day1/1.%20Dmitry%20Vetrov%20-%20Bayesian%20framework.pdf