贝叶斯动态模型及其预测算法在数据挖掘中的应用研究

!"

数据库与信息处理

!!!!!!!!"

贝叶斯动态模型及其预测算法在

数据挖掘中的应用研究

吕林涛%

李军怀%

吕

晖!

宋

昕%

张

杰%

%

（西安理工大学计算机学院，西安>%""#?）!

（重庆大学土木工程学院，重庆#"""#@）

摘要通过对贝叶斯预测过程的研究，提出了应用于数据挖掘的%"类贝叶斯动态模型及其预测算法、并解决了非线

性动态模型的线性化问题。以该模型及算法建立的数据挖掘系统经过实例测试其效果很好，有较高的理论和实用价值，可以在政府、企业等领域内推广应用。关键词

贝叶斯动态模型

预测算法

数据挖掘

文献标识码F

中图分类号GH!>#

（!""#）文章编号%""!)?33%)!")"%>%)"#

!"#"$%&’()*$+"#,$)-+)$.,&/(0"1$)02(%"&$#3,)4514(%,3’.,)-$3$/,),)45661,&$3,()

787,)3$(97,:;)’;$,978<;,=>()4?,)9@’$)4:,"9

%（4+I7=C8+,C’JK’8IEC+=7,:A,L.,++=.,L，M.N7,O,.B+=/.C6’JG+9P,’;’L6，M.N7,>%""#?）

!（K’;;+L+’JK.B.;A,L.,++=.,L，KP’,LQ.,LO,.B+=/.C6，KP’,LQ.,L#"""#@）

5A#3%$&3：&7/+:’,CP+7,7;6/./’J&76+/.7,J’=+97/C.,LI=’9+:E=+/，CP./I7I+=/ELL+/C/C+,:.JJ+=+,C-.,:/’J&76+/.7,:6,78.98’:+;/7,:J’=+97/C.,L7;L’=.CP8/RP.9P876S+E/+:.,:7C78.,.,L7II;.97C.’,/，7,:L.B+/’ECCP+7,/R+=C’

CP+;.,+7=.T7C.’,I=’S;+8/.,,’,);.,+7=:6,78.98’:+;$47C75.,.,LU6/C+8/SE.;:.,L’,CP+/+8’:+;/7,:7;L’=.CP8/P7B+S++,C+/C+:7,:I=’B+:C’S+B+=6E/+JE;.,I=79C.9+7,:.,CP+’=6$F,:CP+697,S+7II;.+:C’CP+J.+;:/’JL’BV+=,8+,C7,:+,C+=I=./+/$

B"+C(%0#：&76+/.7,46,78.95’:+;，J’=+97/C.,L7;L’=.CP8，:7C78.,.,L

!"

A)87.;：;B;.,C7’D(7EC$+:E$9,

!!!!!!!!"%

引言

往往是非平稳时间序列，此时&’()*+,-.,/方法要求有足够的数据，但这个要求往往是困难的。而贝叶斯预测方法通过人的主观经验给出先验分布，使得数据的要求大大减少，而能得到同样精度的预测0%1。

目前，英、美等国关于贝叶斯的预测理论和应用研究，取得了一批重要的成果。而国内的研究成果很少。

近年来，政府、企业积累的数据越来越庞大。激增的数据背后隐藏着许多重要的信息，对它的整体理解已远远超过了人类大脑的能力，而数据挖掘便成了研究的热点。

数据挖掘是指一个完整的过程，该过程从大型数据库中挖掘先前未知的、有效的、可实用的信息，并使用这些信息做出决策或丰富知识。贝叶斯动态模型及其预测算法是预测突发事件的需要，而发展起来的一种预测方法。贝叶斯动态模型及其预测算法不仅仅是依赖于!时刻以往的历史数据和根据模型的知识进行预测，而且包括专家的经验信息以及主观的判断来进行预测，这对于预测突发事件特别有用，而历史数据以及预先规定的模型并不能完全反映它们。当发现模型性能不好时，可求助于专家的经验和信息，对模型进行改进。这种贝叶斯预测有它的优方法，相对于&’()*+,-.,/传统的时间序列方法而言，点。它不必假设&’()*+,-.,/方法所必须的平稳性假设，如果非平稳，还必须利用差分法转化平稳序列进行研究。而实际问题

基金项目：国家?W3高技术研究发展计划资助（编号：!""%FF%%3%?!）

!贝叶斯动态模型及其预测算法的分类及处理模型

由于贝叶斯预测过程非常复杂，一般有线性和非线性过程

问题0!2#1。为了处理简便，该文提出将非线性问题通过线性化来处理。其分类及处理模型如图%所示。

3贝叶斯动态模型及其预测算法

通过实际工程（如电信等）应用分析，贝叶斯预测模型建立

其关键取决于的动态模型45（46,78.95’:+;/）建立，但其基（46,78.9<.,+7=5’:+;/）。础是动态线性模型4<5

作者简介：吕林涛（%X@#)），男，副教授，研究方向为电子商务、网络安全、数据挖掘。李军怀（%XWX)），男，博士，研究方向为分布式计算、KUKY。

吕晖、宋昕、张杰，硕士研究生。

%>%

（#）%时刻的后验分布：（!%4!%0%）!--2%，3%.记:%)(%08%

有2%)5%+;%:%)&%2%0%/;（%(%0$*%&%2%0%）

3%)6%0;%;%9%

其中：;%)6%$%

%

因此，从（!）到（#）完成了从（2%0%，到（2%，的递推过3%0%）3%）程。

递推算法描述为：定义1若’%未知时，观测方程：(%,$%*!%+,%，,%2--"，’.

!，!状态方程：，!%,$%!%0%/"%"%2--"1%.

图%

贝叶斯动态模型及其预测算法分类和处理模型

信息：（!%0%4!%0%）2<.-2%0%，3%0%.

%0%

该文提出，（观察方程、状态方程）确定&’(是由两个方程的系统，并具有如下性质：

过程的观测随机地依赖于当前的状态参数；（%）

状态参数随时间变化时，产生了系统内部的动态变化（!）和随机扰动。

（!%4!%0%）2<.-5%，6%.，5%)&%2%0%

%0%

6%)&%&%0%&*%+1%

（$3!%0%）（2%

.%0%=%0%=

），>%0%)%0%%0%

%0%

一步向前预测：（(%4!%0%）2<.-8%，9%.，8%,$%*5%

)$%

)$%$%

动态线性模型&’(定义

定义%动态线性模型&’(描述为： !"#*$%，&%，’%，+观察方程

定义!观察方程：(%)$%*!%+,%，,%,--"，’%.

其中$%*是./%常向 …… 此处隐藏：4998字，全部文档内容请下载后查看。喜欢就下载吧 ……