版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展和應(yīng)用的不斷創(chuàng)新,電商逐漸向傳統(tǒng)領(lǐng)域滲透,各種生活服務(wù)類網(wǎng)站蓬勃發(fā)展,使得互聯(lián)網(wǎng)領(lǐng)域的數(shù)據(jù)量呈爆炸式增長(zhǎng),搜索頻道在數(shù)據(jù)支持方面提出了更高的要求。數(shù)據(jù)采集是數(shù)據(jù)支持的核心因素,原有的數(shù)據(jù)采集途徑存在手工化嚴(yán)重、數(shù)據(jù)采集范圍小、采集效率低等不足。為了解決原有數(shù)據(jù)采集途徑的不足,本文基于合作網(wǎng)站的數(shù)據(jù)資源特點(diǎn)設(shè)計(jì)實(shí)現(xiàn)了合作網(wǎng)站數(shù)據(jù)資源接入系統(tǒng)。系統(tǒng)允許用戶根據(jù)合作網(wǎng)站的數(shù)據(jù)資源特點(diǎn)靈活配置自動(dòng)化的數(shù)據(jù)資源接入方案,從
2、而有效的擴(kuò)展數(shù)據(jù)采集途徑,提高數(shù)據(jù)支持能力。
論文首先闡述了項(xiàng)目的背景和意義,然后分析了系統(tǒng)開發(fā)過(guò)程中涉及的關(guān)鍵技術(shù),并對(duì)一些類似技術(shù)進(jìn)行了對(duì)比分析。然后分析了系統(tǒng)的邏輯結(jié)構(gòu)、系統(tǒng)的功能性需求和非功能性需求。根據(jù)需求分析,論文闡述了系統(tǒng)的架構(gòu)設(shè)計(jì)、功能模塊劃分和系統(tǒng)的詳細(xì)設(shè)計(jì)與實(shí)現(xiàn),合理的解決了系統(tǒng)開發(fā)過(guò)程中遇到的關(guān)鍵問(wèn)題。其中本人獨(dú)立完成了如下工作內(nèi)容:服務(wù)器端的信息管理模塊、資源接入申請(qǐng)?zhí)幚砟K、調(diào)度中心模塊的開發(fā)工作;本
3、人參與完成了如下工作內(nèi)容:服務(wù)器端的模板管理模塊、資源文件解析模塊和運(yùn)營(yíng)端的開發(fā)工作。系統(tǒng)開發(fā)過(guò)程中,為了提高系統(tǒng)的可擴(kuò)展性和穩(wěn)定性,使系統(tǒng)的各層之間高內(nèi)聚低耦合,系統(tǒng)采用了B/S架構(gòu)和Spring MVC框架。為了提高系統(tǒng)的數(shù)據(jù)處理能力,系統(tǒng)采用多臺(tái)服務(wù)器協(xié)同工作對(duì)數(shù)據(jù)進(jìn)行處理??紤]到多臺(tái)服務(wù)器協(xié)同處理數(shù)據(jù)的同步問(wèn)題,本人利用Redis技術(shù)設(shè)計(jì)了分布式鎖以保證數(shù)據(jù)處理的同步。調(diào)度中心模塊的開發(fā)過(guò)程中,為了保證任務(wù)調(diào)度的合理性和效率,系
4、統(tǒng)使用了分布式緩存和多線程技術(shù)。資源文件解析模塊開發(fā)過(guò)程中,為了下載需要Ajax加載文件內(nèi)容的資源文件,系統(tǒng)引入了HtmlUnit技術(shù)。為了解析HTML和XML格式的資源文件的內(nèi)容,系統(tǒng)使用了Jsoup和SAX技術(shù)。最后,為了驗(yàn)證系統(tǒng)的功能是否符合需求,本人使用黑盒測(cè)試技術(shù)對(duì)系統(tǒng)進(jìn)行了功能性測(cè)試。
目前系統(tǒng)處于測(cè)試運(yùn)行階段。部署于測(cè)試環(huán)境中的系統(tǒng)運(yùn)行良好,本人完成的模塊功能完善、運(yùn)行穩(wěn)定、符合預(yù)期目標(biāo)。系統(tǒng)將在測(cè)試運(yùn)行過(guò)程中不
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 網(wǎng)站數(shù)據(jù)采集系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf
- 通信性能管理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)——數(shù)據(jù)接入與數(shù)據(jù)處理.pdf
- 網(wǎng)站文本數(shù)據(jù)采集系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 多源異構(gòu)農(nóng)業(yè)感知數(shù)據(jù)接入系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 數(shù)據(jù)接入網(wǎng)業(yè)務(wù)管理子系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 基于NUTCH的網(wǎng)站資源智能分析系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf
- POS接入系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf
- 網(wǎng)站實(shí)時(shí)時(shí)序數(shù)據(jù)采集系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 基于網(wǎng)站的性能優(yōu)化與內(nèi)存數(shù)據(jù)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 基于日志的網(wǎng)站數(shù)據(jù)分析系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 北京教育考試數(shù)據(jù)資源系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 藍(lán)牙語(yǔ)音接入系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 基于數(shù)據(jù)挖掘技術(shù)的教學(xué)網(wǎng)站系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf
- 軌道交通智能卡交易數(shù)據(jù)接入系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 數(shù)碼相框接入系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn).pdf
- 合作網(wǎng)絡(luò)的知識(shí)分析.pdf
- 數(shù)據(jù)網(wǎng)動(dòng)態(tài)資源管理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 綜合接入平臺(tái)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 醫(yī)院網(wǎng)站系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf
- 醫(yī)療網(wǎng)站數(shù)據(jù)共享模塊的設(shè)計(jì)與實(shí)現(xiàn).pdf
評(píng)論
0/150
提交評(píng)論