面向海量氣象數(shù)據(jù)的緩存機制與數(shù)據(jù)庫優(yōu)化研究.pdf

1、隨著社會各領(lǐng)域科學技術(shù)的競相發(fā)展，各行各業(yè)的信息量呈現(xiàn)了爆發(fā)式增長。在氣象行業(yè)中，全國直轄市、自治區(qū)、省、特別行政區(qū)以及各大中型主要城市的氣象服務數(shù)據(jù)和產(chǎn)品的數(shù)據(jù)量非?？捎^，形成了氣象數(shù)據(jù)來源復雜、格式多樣、數(shù)量巨大、形式各異等特點。氣象大數(shù)據(jù)和氣象服務時效性之間矛盾使得氣象數(shù)據(jù)的存儲、管理、使用的復雜程度和難度與日俱增;現(xiàn)有氣象數(shù)據(jù)網(wǎng)絡(luò)的異構(gòu)性和地域分布性使得氣象數(shù)據(jù)的訪問陷入困境，比如雷達基數(shù)據(jù)的上傳是每5分鐘一次，但是很多時候5分

2、鐘的間隔并不能滿足數(shù)據(jù)節(jié)點之間的網(wǎng)絡(luò)傳輸時延，數(shù)據(jù)傳輸和訪問都暴露出了很大的問題。因此，本文以此為切入點，針對上面提到的問題提出合理的數(shù)據(jù)存儲、數(shù)據(jù)訪問方案，進而優(yōu)化氣象行業(yè)的服務質(zhì)量;同時針對訪問過程中的性能問題，將數(shù)據(jù)庫優(yōu)化技術(shù)加入到系統(tǒng)實現(xiàn)。本文具體完成了以下工作:
　　(1)設(shè)計了一種基于分布式文件系統(tǒng)的氣象緩存框架MeteCS，在框架中首先研究了現(xiàn)有的數(shù)據(jù)放置算法并基于一致性的哈希數(shù)據(jù)放置算法提出了一種節(jié)點負載均衡的哈希

3、數(shù)據(jù)放置算法MeteHash，充分考慮了分布式系統(tǒng)中異構(gòu)的節(jié)點網(wǎng)絡(luò)可能存在的性能差異。
　　(2)基于Greedy Dual Size Frequency緩存替換算法提出了基于權(quán)重的緩存替換算法WGDSF，其中，具體研究了基于時間權(quán)重的頻率、基于大小的代價、基于類型的內(nèi)容參數(shù)三個參數(shù)，通過對比WGDSF和傳統(tǒng)優(yōu)秀的經(jīng)典算法在相同實驗設(shè)置下的性能表現(xiàn)，在絕大多數(shù)情況下性能最優(yōu)，對系統(tǒng)具有很好的性能提升。
　　(3)設(shè)計了一種從