深入浅出全面理解贝叶斯框架(Bayesian Framework)
下面给出一份“由浅入深、由概念到应用”的系统性叙述,力求把贝叶斯框架(Bayesian Framework)讲透。全文分八大部分,既给出数学形式,也给出思想渊源、计算技术、实际案例与常见误区。
下面给出一份“由浅入深、由概念到应用”的系统性叙述,力求把贝叶斯框架(Bayesian Framework)讲透。全文分八大部分,既给出数学形式,也给出思想渊源、计算技术、实际案例与常见误区。
------------------------------------------------
一、思想源头:从逆概率到信念更新
------------------------------------------------
1. 逆概率问题(Thomas Bayes, 1763)
已知“结果”反推“原因”的概率。典型例子:
若观察到连续 5 次抛硬币都是正面,问硬币是否公平?
频率学派只能回答“在硬币公平时出现 5 正面的概率是 1/32”,而贝叶斯学派进一步回答“硬币偏向正面的后验概率是多少”。
2. 核心信条
• 把模型参数 θ 视作随机变量而非固定常数。
• 用概率分布 P(θ) 表示“对 θ 的信念”(degree of belief)。
• 观测数据 D 只负责“更新”信念,而非“定义”真理。
------------------------------------------------
二、数学骨架:三条