高性能分布式文件系統(tǒng)元數(shù)據(jù)服務(wù)設(shè)計(jì)與實(shí)現(xiàn).pdf

1、云計(jì)算業(yè)務(wù)的快速發(fā)展對(duì)其后臺(tái)的核心支撐技術(shù)之一的云存儲(chǔ)技術(shù)的要求越來越高。同時(shí),將云存儲(chǔ)作為一種服務(wù)對(duì)用戶提供數(shù)據(jù)的便捷存取開始成為一種有效的商業(yè)模式。用戶數(shù)據(jù)量的高速增長(zhǎng)使得云存儲(chǔ)服務(wù)平臺(tái)在系統(tǒng)容量及系統(tǒng)系統(tǒng)可靠性等方面面臨著巨大的挑戰(zhàn),因此分布式文件系統(tǒng)成為云存儲(chǔ)服務(wù)后端承載平臺(tái)的必然選擇。元數(shù)據(jù)管理是分布式文件系統(tǒng)的核心功能之一,對(duì)系統(tǒng)的穩(wěn)定性和性能極為重要。由于元數(shù)據(jù)具有高度的相互依賴關(guān)系和結(jié)構(gòu)化特征,管理較為復(fù)雜,因此元數(shù)據(jù)服

2、務(wù)一直是分布式文件系統(tǒng)設(shè)計(jì)的難點(diǎn)之一。
　　本文為分布式文件系統(tǒng)CSTORE設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)高性能元數(shù)據(jù)服務(wù)。元數(shù)據(jù)服務(wù)由集群承載,使用基于桶的哈希尋址策略將負(fù)載分布到集群中的各節(jié)點(diǎn)上,可以通過盡量小的數(shù)據(jù)遷移達(dá)到集群的負(fù)載均衡,并且具有良好的擴(kuò)展能力。元數(shù)據(jù)被組織成K/V的形式存儲(chǔ)在數(shù)據(jù)存儲(chǔ)引擎中,通過對(duì)存儲(chǔ)引擎和元數(shù)據(jù)記錄的Key進(jìn)行細(xì)致的設(shè)計(jì)使得相關(guān)的元數(shù)據(jù)在磁盤上被連續(xù)存儲(chǔ),提高了元數(shù)據(jù)的訪問性能。多副本機(jī)制的應(yīng)用使得元數(shù)

3、據(jù)服務(wù)的可靠性得以保障。通過設(shè)計(jì)和實(shí)現(xiàn)基于日志的半同步復(fù)制協(xié)議,在兼顧服務(wù)性能的前提下解決了多副本機(jī)制引入的副本間一致性的問題。基于操作日志的多實(shí)例同步策略可以支撐同一用戶在不同平臺(tái)不同終端上同時(shí)訪問系統(tǒng)中的數(shù)據(jù),并且在多個(gè)實(shí)例之間保持同步。元數(shù)據(jù)服務(wù)在設(shè)計(jì)和實(shí)現(xiàn)中對(duì)集群中節(jié)點(diǎn)的故障進(jìn)行了即時(shí)檢測(cè),通過實(shí)現(xiàn)故障時(shí)主從切換策略及副本恢復(fù)策略,元數(shù)據(jù)服務(wù)可以對(duì)外屏蔽系統(tǒng)故障并且實(shí)現(xiàn)快速的自動(dòng)恢復(fù)。
　　本文最后通過系統(tǒng)測(cè)試對(duì)元數(shù)據(jù)服務(wù)