因果论（一）概率论基础（贝叶斯概率）

本文主要是介绍因果论（一）概率论基础（贝叶斯概率），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

一、贝叶斯公式

全概率公式: $p(A) = \Sigma p(A,B_{i})$ 其中Bi式完备的互斥命题(划分或者变量)

边缘概率：上式中的概率求和操作称为“边缘化于B”，p(A)称为A的边缘概率。

条件概率：p(A|B) 在B的背景下A发生的概率

联合概率公式： $p(A,B) = p(A|B)p(B)$

条件概率公式： $p(A|B) = \frac{ p(A,B)}{p(B)}$

贝叶斯学派认为条件公式比概率公式更基本，即更符号人类知识结构的特点。

链式法则公式： $p(E_{1},E_{2},...,p_{n}) = p(E_{n}|E_{n-1},...,E_{1})p(E_{n-1}|E_{n-2},...,E_{1})...p(E_{2}|E_{1})p{E_{1}}$

反演公式（贝叶斯公式）： $p(H_{i}|e) = \frac{p(e|H_{i})p(H_{i})}{p(e)}$

后验概率:上式p(H|e)为后验概率，由果求因，即知道结果的情况下，推断某件事情发生概率是多大。

先验概率:上式p(H)为先验概率，能够直接测量或者直接推断的概率

似然值：上式的P(e|H)为似然值（似然函数）

数据分布：上式的p(e) 为数据分布, $p(e) = p(e|H_{1})p(H_{1})+p(e|H_{2})p(H_{2})+...+p(e|H_{n})p(H_{n})$ ，此为全概率公式

贝叶斯学派将反演公式看做依据证据更新信念的标准规则，将条件概率公式看做语言的基本形式、语言表达的“假定我知道A,...”的忠实翻译。

二、预测支持和诊断支持结合

对贝叶斯公式 $p(H|e) = \frac{p(e|H)p(H)}{p(e)}$ 除以其互补式 $p(\sim H|e) = \frac{p(e|\sim H)p(\sim H)}{p(e)}$ 可以得到公式 $\frac{p(H|e)}{p(\sim H|e)} = \frac{p(e|H)p(H)}{p(e|\sim H)p(\sim H)}$

定义H的先验概率： $O(H)=\frac{p(H)}{p(\sim H)}=\frac{p(H)}{1-p(\sim H)}$

定义H的似然比： $L(e|H)=\frac{p(e|H)}{p(e|\sim H)}$

定义H的后验概率: $O(H|e)=\frac{p(H|e)}{p(\sim H|e)}$

因此可得到公式： $O(H|e) = L(e|H)O(H)$

第一个因子L(e|H)衡量的是仅通过背景知识(先验知识K)获得的对H的预测性支持或预期性支持，而第二个因子O(H)表示实际观察到的证据(e)对H的诊断性支持或回顾性。因此，贝叶斯法则说明了基于先验知识 K 和观察到的证据 e, 我们对于假设 H 的总体信念强度应该是两个因素的乘积：先验概率O(H)和似然比L(e|H)。严格来说，似然比L(e|H) 可能依赖于隐性知识库 K 的内容。然而，贝叶斯方法的影响主要来自事实：在因果推理中，关系 P(e|H) 是非常局部的关系 — — 由于 e 通常不依

赖于知识库中的其他命题，因此假定 H 为真，那么 e 的概率就可以很自然地被估计出来。例如，一旦我们确定病人患有给定的疾病那么可以很自然地估计他将出现某种症状 e 的可能性。医学知识的组织在于这样一种范式：症状是疾病的一种稳定特征，因此应该与其他因素相互独立，例如流行状况、疾病史和有缺陷的诊断设备。出于这个原因，条件概率 P(e|H) 而非 P(e|H) 是贝叶斯分析中的原子关系。前者具有类似逻辑规则的模块化特征，传达了类似"如果 H 则 e ” 的具有逻辑化的信念强度，这是一种不管知识库中存在什么其他规则或事实都能成立的信念。