電商數(shù)據(jù)倉庫作業(yè)調(diào)度系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、數(shù)據(jù)已成為當(dāng)代互聯(lián)網(wǎng)企業(yè)核心競爭力，而高效的作業(yè)調(diào)度系統(tǒng)是離線海量數(shù)據(jù)管理的重要工具，誰能有效管理這些海量數(shù)據(jù)，并能有效挖掘其中有價值信息，誰就站在了戰(zhàn)略至高點(diǎn)。ETL作業(yè)是數(shù)據(jù)倉庫日常工作的核心內(nèi)容，海量具有復(fù)雜關(guān)系的作業(yè)只有在作業(yè)調(diào)度系統(tǒng)的調(diào)度管理下才能高效有序進(jìn)行。在當(dāng)前以數(shù)據(jù)為生產(chǎn)力的信息經(jīng)濟(jì)時代，電商數(shù)據(jù)倉庫日常工作已不是簡單的數(shù)據(jù)備份和日志拉取，任何能夠關(guān)聯(lián)的數(shù)據(jù)都有可能產(chǎn)生新的火花。由此，作業(yè)調(diào)度系統(tǒng)不僅要保證高效和穩(wěn)定地

2、觸發(fā)作業(yè)，又要兼顧各作業(yè)之間的依賴關(guān)系，最后以作業(yè)鏈的形式有序觸發(fā)所有作業(yè)。這些要求是作業(yè)調(diào)度系統(tǒng)建設(shè)將要面臨的新的挑戰(zhàn)。隨著大數(shù)據(jù)時代的到來，以Hadoop生態(tài)系統(tǒng)為基礎(chǔ)的大數(shù)據(jù)處理工具得到了市場的廣泛認(rèn)可。而Hive數(shù)據(jù)庫的誕生正迎合了大數(shù)據(jù)時代的需要。本系統(tǒng)將對Hive數(shù)據(jù)處理的支持納入數(shù)據(jù)倉庫重要部分，充分利用了hadoop集群穩(wěn)定高擴(kuò)展性優(yōu)勢，采用分布式集群滿足電子商務(wù)企業(yè)對數(shù)據(jù)倉庫的穩(wěn)定/高效/經(jīng)濟(jì)的需求。由此新的作業(yè)調(diào)度系

3、統(tǒng)不僅支持常規(guī)關(guān)系型數(shù)據(jù)庫處理，還能兼容HIVE數(shù)據(jù)處理功能。目前，國內(nèi)外各大企業(yè)數(shù)據(jù)倉庫作業(yè)調(diào)度系統(tǒng)多以自主建設(shè)為主，也有些優(yōu)秀的開源作業(yè)調(diào)度系統(tǒng)（如OOZIE）和一些優(yōu)秀的作業(yè)調(diào)度系統(tǒng)框架（如quartz），但是在使用場景和功能上與企業(yè)當(dāng)前發(fā)展階段需求不符。
　　本研究通過總結(jié)日常工作中的調(diào)度需求，為企業(yè)設(shè)計(jì)開發(fā)了一套符合當(dāng)前發(fā)展階段的定制化的電商數(shù)據(jù)倉庫作業(yè)調(diào)度引擎，數(shù)據(jù)開發(fā)人員能夠方便地在任意作業(yè)機(jī)部署自己的作業(yè)，并提供按