版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、互聯(lián)網(wǎng)行業(yè)正在以難以置信的速度發(fā)展并成為日常生活中不可或缺的一部分,迅速搶占著傳統(tǒng)服務(wù)行業(yè)的市場。隨著業(yè)務(wù)和技術(shù)的飛速發(fā)展和用戶量的激增而來的就是指數(shù)級膨脹的數(shù)據(jù)量。在互聯(lián)網(wǎng)行業(yè)習(xí)以為常的TB甚至PB級別的數(shù)據(jù)壓力下,傳統(tǒng)的單節(jié)點數(shù)據(jù)處理方式已難以承擔(dān)重任。在這樣的背景下,分布式的數(shù)據(jù)處理方式應(yīng)景而生,并且迅速成為了主流大數(shù)據(jù)處理的解決方案。
本設(shè)計實現(xiàn)了一種在分布式的數(shù)據(jù)處理系統(tǒng)中進(jìn)行全局統(tǒng)一配置數(shù)據(jù)的保存和分發(fā),以及管理大
2、任務(wù)的模塊。全系統(tǒng)中所有的配置信息都由本模塊保存,并且由管理員進(jìn)行維護(hù)和管理。本模塊同時也是系統(tǒng)中所有任務(wù)的發(fā)起者和回收者。
在系統(tǒng)初始化時本模塊將向其它模塊分發(fā)相應(yīng)的數(shù)據(jù)使其能夠順利啟動并初始化。同時當(dāng)配置數(shù)據(jù)發(fā)生更改時,將向關(guān)注這些信息的模塊分發(fā)新數(shù)據(jù),這樣所有模塊的配置數(shù)據(jù)都是最新的。將所有的配置信息進(jìn)行集中式統(tǒng)一管理可以保證相同內(nèi)容異地存放的數(shù)據(jù)都來自同一個來源,這樣能夠有效地避免由于配置數(shù)據(jù)的不一致而導(dǎo)致系統(tǒng)啟動或運
3、行異常。
系統(tǒng)中的所有任務(wù)都由本模塊生成和觸發(fā)。對于數(shù)據(jù)的離線分析、結(jié)構(gòu)化、重組、備份等任務(wù),管理員可通過本模塊進(jìn)行相應(yīng)任務(wù)執(zhí)行計劃的制定,本模塊將按照執(zhí)行計劃通過定時器或者監(jiān)控系統(tǒng)運行情況來觸發(fā)相應(yīng)的任務(wù);對于實時的數(shù)據(jù)查詢、重組等任務(wù),管理員可直接通過本模塊設(shè)置相關(guān)參數(shù)后直接觸發(fā)任務(wù)。每個任務(wù)執(zhí)行結(jié)束后將生成一條相關(guān)的日志,來記錄此次任務(wù)的執(zhí)行情況,之后釋放該任務(wù)申請的資源,對于查詢?nèi)蝿?wù),還將緩存查詢結(jié)果以避免重復(fù)查詢給系
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 分布式數(shù)據(jù)處理系統(tǒng)的研究與應(yīng)用.pdf
- 分布式海量數(shù)據(jù)處理系統(tǒng)計算節(jié)點的設(shè)計與實現(xiàn).pdf
- 分布式高可靠性海量數(shù)據(jù)處理系統(tǒng)中控節(jié)點設(shè)計與實現(xiàn).pdf
- HPC集群環(huán)境下分布式數(shù)據(jù)處理系統(tǒng)研究.pdf
- 點云數(shù)據(jù)處理系統(tǒng)設(shè)計與實現(xiàn).pdf
- QAR數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 沉降觀測數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 斷面測量數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 分布式數(shù)據(jù)處理系統(tǒng)中作業(yè)性能優(yōu)化關(guān)鍵技術(shù)研究.pdf
- BESⅢ數(shù)據(jù)處理系統(tǒng)及其環(huán)境配置.pdf
- 統(tǒng)計專項調(diào)查數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 東軟通用數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 機(jī)載實時數(shù)據(jù)處理系統(tǒng)設(shè)計與實現(xiàn).pdf
- S模式雷達(dá)數(shù)據(jù)處理系統(tǒng)設(shè)計與實現(xiàn).pdf
- 基因表達(dá)譜數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 機(jī)票實時數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 基于PDA的移動數(shù)據(jù)處理系統(tǒng)設(shè)計與實現(xiàn).pdf
- 智能車輛監(jiān)控數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 無創(chuàng)連續(xù)血壓監(jiān)測中數(shù)據(jù)處理系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 62727.空間太陽望遠(yuǎn)鏡星載高速數(shù)據(jù)處理系統(tǒng)的分布式管理與控制
評論
0/150
提交評論