一、不确定推理预备知识
1.不确定性推理的含义
不确定性推理实际上是一种从不确定的初始证据出发,通过运用不确定性知识,最终推出具有一定程度的不确定性但却又是合理或基本合理的结论的思维过程。
2.不确定推理基本问题
1)不确定性的表示:
知识的不确定性表示:一个数值,表示相应知识的确定性程度,知识的静态强度。
证据的不确定性表示:证据的不确定性可以用概率来表示,也可以用可信程度等来表示。
2)组合证据不确定性的计算:
最大最小方法、概率方法和有界方法
T(E1 AND E2)= min{T(E1), T(E2)}
T(E1 OR E2)= max{T(E1), T(E2)}
T(E1 AND E2)= T(E1)*T(E2)
T(E1 OR E2)= T(E1)+ T(E2)- T(E1)*T(E2)
T(E1 AND E2)= max{0, T(E1)+T(E2)-1}
T(E1 OR E2)= min{1,T(E1)+ T(E2)}
3)结论不确定性的合成:
在不确定性推理过程中,很可能会出现由多个不同知识推出同一结论,且该结论的不确定性程度有多个不相同的情况。这时,需要采用某种算法对该结论的不确定性进行合成。
二、证据理论
1.可信度方法(也叫确定性方法)
不采用严格的统计理论。使用的是一种接近统计理论的近似方法。
用专家的经验估计代替统计数据,尽量减少需要专家提供的经验数据,尽量使少量数据包含多种信息。专家数据的轻微扰动不影响最终的推理结论。
1)知识不确定性的表示:
IF E THEN H ( CF(H,E))
可信度 CF(Certainty Factor)的取值范围是[-1,1],表示E所对应的证据为真时,该前提条件对结论H为真的支持程度。
2)证据的不确定性表示:
CF( E) :-1 ≤ CF( E) ≤ 1
3)组合证据不确定性的计算:
E=E1 AND E2 AND… AND En
CF(E)= min{ CF(E1), CF(E2), …, CF(En)}
E=E1 OR E2 OR… OR En,
CF(E)= max{ CF(E1), CF(E2), …, CF(En)}
4)不确定性的更新:
CF(H)=CF(H,E)* max{ 0, CF(E)},若CF(E)<0,即相应证据以某种程度为假,则 CF(H)=0。
5)二元结论不确定性的合成:
用如下公式求E1与E2对H的综合可信度:
![在这里插入图片描述](https://img-blog.csdnimg.cn/2021010419525647.png#pic_center)
6)带阈值限度的可信度推理:
IF E THEN H (CF(H,E),λ) (0<CF(H,E) <=1, 0<λ<=1)
当CF(E)>= λ, CF(H)=CF(H,E)*CF(E)
7)多元结论不确定性的合成:
IF E1 THEN H (CF(H, E1)λ1)
IF E2 THEN H (CF(H, E2)λ2)
IF En THEN H (CF(H, En)λn)
若CF(Ei) >= λi,首先计算CFi(H)
(1)求极大值法:
CF(H)=max{ CF1(H), CF2(H), …, CFn(H)}
(2)加权求和法:
CF(H)=(∑CFi(H, Ei)*CF(Ei))/∑ CFi(H, Ei))
(3)有限和法:
CF(H)=min{∑CFi(H), 1}
8)带加权因子的可信度推理:
IF E1(ω1) AND E2 (ω2) AND … AND En(ωn) THEN H CF(H,E)
先求CF(E)= CF(E1)*ω1 +CF(E2)*ω2+……+CF(En)*ωn
2.D-S理论(证据理论)
1)概率分配函数:
设函数:2Ω→[0,1],且满足m(Φ)=0;∑m(A)=1 (A包含于Ω) ,则称m是2Ω上的概率分配函数,m(A)称为A的基本概率数。
m(A)表示了证据对Ω的子集A成立的一种信任度,当A∈Ω,且A≠Ω, m(A)表示对A的精确信任度,当A=Ω时,m(A)表示不知道该如何分配。
2)信任函数:
Bel(A)=∑m(B) ,对所有的 B ∈ A ∈ Ω
3)似然函数:
Pl(A)=1-Bel(﹁A)
4)信任函数与似然函数:
A(Bel(A), Pl(A)):对命题A的信任程度上下限
5)概率分配函数的正交和:
若m1和m2是两个不同的概率分配函数,则正交和记作m=m1⊕ m2满足:m(Φ)=0
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104203957592.png#pic_center)
6)类概率函数:
![在这里插入图片描述](https://img-blog.csdnimg.cn/2021010420411885.png#pic_center)
3.一种特殊的概率分配函数模型
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104205210696.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0dXSF85OA==,size_16,color_FFFFFF,t_70#pic_center)
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104205311218.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0dXSF85OA==,size_16,color_FFFFFF,t_70#pic_center)
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104205341936.png#pic_center)
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104205347132.png#pic_center)
4.D-S理论计算步骤
知识不确定性的表示:
IF E THEN H={h1,h2,……,hn} CF={c1,c2,……,cn}
证据不确定性的表示:
CER(E)∈[0,1] ,初始证据;中间证据
组合证据不确定性的表示:
E=E1 AND E2 AND AND En:
CER(E)=min{CER(E1), CER(E2),…,CER(En)}
E=E1 OR E2 OR… OR En:
CER(E)=max{CER(E1), CER(E2),…,CER(En)}
不确定性的更新:
①求H的概率分配函数:
m({h1},{h2},……,{hn}) = (CER(E)×c1, CER(E)×c2 ,…, CER(E)×cn)
m=m1⊕m2
②求 Bel(H)、Pl(H)及f(H)
③求 CER(H)
CER(H)=MD(H|E)×f(H)(如果H所要求的证据都已出现MD(H|E)=1)
三、概率论预备知识
1.贝叶斯公式
全概率公式:
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104215734988.png#pic_center)
贝叶斯公式:
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104215805621.png#pic_center)
P(Ai)是事件Ai的先验概率,P(B|Ai)是后验概率,在事件Ai发生条件下事件B的条件概率。
另一种形式:
![在这里插入图片描述](https://img-blog.csdnimg.cn/20210104215912268.png#pic_center)
四、贝叶斯网络概率推理
1.贝叶斯网络概述
贝叶斯网络是一种以随机变量为节点,以条件概率为节点间关系强度的有向无环图(Directed Acyclic Graph,DAG)是描述事物之间因果关系或依赖关系的直观图形。
网络结构:每个节点表示领域变量,每条边表示变量间的概率依赖关系,条件概率表Condition Probability Table,缩写CPT :该变量与父节点之间概率依赖的数量关系。
2.预测和诊断推理
预测:全概率公式
推理:贝叶斯公式