更新時間:2019-02-13 11:08 來源:動力節(jié)點 瀏覽10458次
隨著數(shù)據(jù)的日益膨脹,面對海量數(shù)據(jù)存儲需求,傳統(tǒng)的存儲系統(tǒng)存在很多弊端,比如在容量和性能的擴(kuò)展上存在瓶頸,從而應(yīng)運而生出現(xiàn)了分布式文件系統(tǒng);
文件系統(tǒng)是操作系統(tǒng)的重要組成部分,用來管理和存儲大量的文件信息,負(fù)責(zé)對文件的存儲空間進(jìn)行分配和管理,并對其中的文件進(jìn)行存儲和檢索,同時為用戶提供包括文件創(chuàng)建、刪除、重命名、讀寫、訪問控制等一系列功能。此外,文件系統(tǒng)還可以根據(jù)存取權(quán)限及訪問操作類型來指定用戶對文件的存取。
分布式文件系統(tǒng)除了具有本地文件系統(tǒng)的所有功能外,還必須管理整個系統(tǒng)中所有服務(wù)器上的文件資源,這些服務(wù)器節(jié)點通過網(wǎng)絡(luò)相連構(gòu)成一個龐大的文件存儲服務(wù)器集群,這些服務(wù)器都用于存儲文件資源,通過分布式文件系統(tǒng)來管理這些服務(wù)器上的文件;
此外分布式文件系統(tǒng)還需要隱藏內(nèi)部的實現(xiàn)細(xì)節(jié),對用戶和應(yīng)用程序屏蔽各個服務(wù)器節(jié)點底層文件系統(tǒng)之間的差異,以提供給用戶統(tǒng)一的訪問接口和方便的資源管理方式,同時分布式文件系統(tǒng)還需要充分考慮了冗余備份、負(fù)載均衡、線性擴(kuò)容等機(jī)制,并注重高可用、高性能等指標(biāo),從而實現(xiàn)一套高性能的文件服務(wù)器集群提供文件的管理等服務(wù);
在互聯(lián)網(wǎng)金融項目中,我們有大量的債權(quán)合同文件存儲需求,這些合同文件每天都會生成,隨著時間的推移,會生成大量的合同文件,每個文件都為pdf小文件,約2M左右,對此需求,我們選擇了FastDFS這樣一款輕量級的分布式文件系統(tǒng)軟件,實現(xiàn)對債權(quán)合同的管理。
FastDFS是一個開源的輕量級分布式文件系統(tǒng),為互聯(lián)網(wǎng)應(yīng)用量身定做,簡單、靈活、高效,采用C語言開發(fā),整個文件系統(tǒng)由客戶端(Client)、跟蹤器(Tracker)和存儲節(jié)點(Storage)三部分組成。服務(wù)端有Tracker和Storage兩個角色,Tracker用來負(fù)責(zé)作業(yè)的調(diào)度和負(fù)載均衡,Storage則用于存儲文件,并負(fù)責(zé)管理文件。為支持大容量的數(shù)據(jù)存儲,Storage采用分卷或分組的數(shù)據(jù)組織方式,存儲系統(tǒng)可由一個或多個卷組成,一個卷可以由一臺或多臺存儲服務(wù)器構(gòu)建。
同一個卷下的多臺存儲服務(wù)器中的數(shù)據(jù)文件都是相同的,卷與卷之間的文件則相互獨立,通過這種數(shù)據(jù)組織方式,可以很好地實現(xiàn)數(shù)據(jù)冗余備份以及系統(tǒng)負(fù)載均衡的目的。
相關(guān)閱讀
初級 202925
初級 203221
初級 202629
初級 203743