達(dá)夢數(shù)據(jù)交換平臺(tái)(DMETL)執(zhí)行過程改進(jìn).pdf

1、數(shù)據(jù)抽取轉(zhuǎn)換裝載(ETL)是數(shù)據(jù)倉庫的核心組成部分，負(fù)責(zé)從異構(gòu)的數(shù)據(jù)源中抽取數(shù)據(jù)，對這些數(shù)據(jù)進(jìn)行清洗、轉(zhuǎn)化，并最終加載到數(shù)據(jù)倉庫當(dāng)中去。ETL平臺(tái)開發(fā)和設(shè)計(jì)的好壞直接影響了數(shù)據(jù)倉庫的構(gòu)建乃至整個(gè)商業(yè)智能系統(tǒng)的應(yīng)用。因此，對達(dá)夢數(shù)據(jù)交換平臺(tái)(DMETL)進(jìn)行改進(jìn)以提高產(chǎn)品的指標(biāo)具有重要意義。
　　 在深入研究和分析了達(dá)夢數(shù)據(jù)交換平臺(tái)的工作原理和機(jī)制以及該平臺(tái)在設(shè)計(jì)和實(shí)現(xiàn)中所涉及的關(guān)鍵技術(shù)的基礎(chǔ)上，找出了現(xiàn)有達(dá)夢數(shù)據(jù)交換平臺(tái)存在的不

2、足和缺陷，提出了兩種改進(jìn)方法。其一：考慮到原有DMETL的串行工作方式不利于發(fā)揮系統(tǒng)的功效，將流水線技術(shù)引入到達(dá)夢數(shù)據(jù)交換平臺(tái)之中。流水線的工作方式實(shí)質(zhì)上是利用多線程和緩存技術(shù)，使得ETL數(shù)據(jù)的抽取，轉(zhuǎn)換和加載三個(gè)環(huán)節(jié)的執(zhí)行可以抽象成流水線一樣運(yùn)行在不同的線程實(shí)例中，從而減少了中間環(huán)節(jié)的等待時(shí)間。通過流水線工作方式充分的利用了計(jì)算機(jī)資源，提高了系統(tǒng)的吞吐率，提升了ETL的工作效率。第二，針對原有DMETL增量抽取方式對客戶系統(tǒng)進(jìn)行未授權(quán)

3、操作所帶來的弊端，同時(shí)考慮到實(shí)際項(xiàng)目中ORACLE作為數(shù)據(jù)源的應(yīng)用較多，設(shè)計(jì)和實(shí)現(xiàn)了針對ORACLE數(shù)據(jù)源的基于日志分析的增量數(shù)據(jù)抽取方式。利用ORACLE數(shù)據(jù)庫自身的日志分析工具LOG MINER，對數(shù)據(jù)庫日志文件進(jìn)行解析，獲取用戶對數(shù)據(jù)庫的變更操作。通過分析數(shù)據(jù)庫的變更操作來對數(shù)據(jù)庫中的增量數(shù)據(jù)進(jìn)行捕獲。該方法可以有效降低DMETL對客戶系統(tǒng)的影響。
　　 通過實(shí)驗(yàn)表明，流水線技術(shù)的引入是可以在一定程度上提高達(dá)夢數(shù)據(jù)交換平臺(tái)