大規(guī)模數(shù)據(jù)集中快速檢測離群點算法的研究.pdf

1、近年來，隨著數(shù)據(jù)收集與存儲技術的提高，人們收集到的數(shù)據(jù)量呈指數(shù)速度增長，傳統(tǒng)的離群點檢測方法在處理大規(guī)模數(shù)據(jù)集時已開始表現(xiàn)出極大的局限性。大規(guī)模數(shù)據(jù)集具有數(shù)據(jù)數(shù)量大、類型繁多等特點，同時蘊藏著大量的信息或知識，而這些信息或知識只有被及時地從數(shù)據(jù)中檢測出來才有可能給人們帶來效益。因此，需要研究從大規(guī)模數(shù)據(jù)集中快速檢測離群點的新方法，為決策提供支持。
　　現(xiàn)有的從大規(guī)模數(shù)據(jù)集中檢測離群點的加速方法存在的主要局限是:(1)在進行數(shù)據(jù)劃分

2、時大多沒有考慮數(shù)據(jù)之間的關聯(lián)性，致使每個數(shù)據(jù)最近鄰的確定涉及整個數(shù)據(jù)集;實際上，數(shù)據(jù)的最近鄰只存在于某個較小范圍內。(2)在分布式檢測方法中，未能給出有效的終止規(guī)則和合理的數(shù)據(jù)傳遞模式，導致節(jié)點間的通信量大，降低了算法的總運行效率。
　　針對以上兩個問題，本文采用BIRCH(Balanced Iterative Reducing andClustering using Hierarchies，BIRCH)聚類方法對原始數(shù)據(jù)集進行劃

3、分，并在此基礎上利用簇中所包含的統(tǒng)計概要信息計算簇與簇之間的距離，再根據(jù)該距離給出縮小數(shù)據(jù)塊查找范圍的方法、數(shù)據(jù)塊處理的優(yōu)化方法、簇內索引的構建方法以及數(shù)據(jù)傳遞和數(shù)據(jù)處理順序的優(yōu)化策略。本文的主要工作如下:
　　(1)分析比較了幾種具有代表性的傳統(tǒng)離群點檢測方法;歸納總結了現(xiàn)有針對大規(guī)模數(shù)據(jù)集離群點檢測技術的現(xiàn)狀和發(fā)展趨勢。
　　(2)針對現(xiàn)有大規(guī)模數(shù)據(jù)集中檢測離群點的加速方法沒有將數(shù)據(jù)集進行合理劃分導致離群點檢測過程計算量

4、大、磁盤I/O頻繁等問題，提出基于聚類劃分的離群點檢測算法。算法采用BIRCH聚類方法對數(shù)據(jù)集進行劃分后，根據(jù)簇與簇之間的距離給出縮小數(shù)據(jù)塊查找范圍的方法和數(shù)據(jù)塊處理的優(yōu)化方法。縮小數(shù)據(jù)塊的查找范圍可以減少數(shù)據(jù)點之間的比較次數(shù)從而減少距離的計算量，優(yōu)化的數(shù)據(jù)塊處理方法可以減少磁盤I/O次數(shù)，兩者相結合可有效提高算法的檢測效率。
　　(3)針對現(xiàn)有基于分布式的離群點檢測方法沒有對原始數(shù)據(jù)集進行合理劃分，且未能給出合理的終止規(guī)則和有效

5、的數(shù)據(jù)傳遞模式的問題。本文提出一種基于聚類和索引的分布式離群點檢測算法(Distributed Outlier Detection based onClustering and Indexing，DODCI)。該算法既考慮了數(shù)據(jù)的劃分，又考慮了數(shù)據(jù)的處理順序以使后續(xù)剪枝過程的剪枝因子能在初始階段獲得一個較高的值，進而提高剪枝效率。同時，算法在分布計算的過程中還結合了兩個優(yōu)化策略和兩條剪枝規(guī)則，以減少節(jié)點之間的通信消耗。
　　(4)