更新時間:2019-02-13 11:04 來源:動力節點 瀏覽11205次
分布式文件系統 (Distributed File System) 是一個軟件/服務器,這個軟件可以用來管理文件;
但這個軟件所管理的文件通常不是在一個服務器節點上,而是在多個服務器節點上,這些服務器節點通過網絡相連構成一個龐大的文件存儲服務器集群,這些服務器都用于存儲文件資源,通過分布式文件系統來管理這些服務器上的文件;
常見的分布式文件系統有:FastDFS、GFS、HDFS、Lustre 、Ceph 、GridFS 、mogileFS、TFS等;
GFS(Google File System)
Google公司為了滿足本公司需求而開發的基于Linux的專有分布式文件系統;
HDFS
Hadoop 實現的一個分布式文件系統(Hadoop Distributed File System),簡稱HDFS;
Lustre
是一個大規模的、安全可靠的,具備高可用性的集群文件系統,它是由SUN公司開發和維護的;
Ceph
是加州大學圣克魯茲分校的Sage weil攻讀博士時開發的分布式文件系統;
GridFS
GridFS是MongoDB之上的分布式文件系統,其利用了MongoDB的分布式存儲機制并通過MongoDB來存儲文件數據和文件元數據;
MogileFS
由memcahed的開發公司danga,開發的一款采用perl開發的產品,目前國內使用mogielFS的有圖片托管網站yupoo等;
mooseFS
相對比較輕量級,對master服務器有單點依賴,用perl編寫,性能相對較差;
分布式文件系統與傳統文件系統對比:
FastDFS是一個開源的輕量級分布式文件系統,為互聯網應用量身定做,簡單、靈活、高效,采用C語言開發,由阿里巴巴開發并開源;
FastDFS對文件進行管理,功能包括:文件存儲、文件同步、文件訪問(文件上傳、文件下載、文件刪除)等,解決了大容量文件存儲和負載均衡的問題,特別適合以文件為載體的在線服務,如相冊網站、文檔網站、圖片網站、視頻網站等等;
FastDFS充分考慮了冗余備份、負載均衡、線性擴容等機制,并注重高可用、高性能等指標,使用FastDFS很容易搭建一套高性能的文件服務器集群提供文件上傳、下載等服務;
2008年4月項目啟動,7月發布第一個版本V1.00,兩年時間內持續升級到V1.29;
2010年8月推出V2.00;
2011年6月推出V3.00;
2012年10月推出V4.0.0;
2013年12月推出V5.0.0;
截止目前最新版是V5.11;(2017年6月發布)
FastDFS系統架構從第一個版本發布后一直沒有大的調整,高版本完全兼容低版本的數據,可以做到平滑升級,推薦更新升級到最新版本;
FastDFS文件系統由兩大部分構成,一個是客戶端,一個是服務端;
客戶端通常指我們的程序,比如我們的Java程序去連接FastDFS、操作FastDFS,那我們的Java程序就是一個客戶端;
FastDFS提供專有API訪問,目前提供了 C、Java 和 PHP 幾種編程語言的API,用來訪問FastDFS文件系統;
服務端由兩個部分構成:一個是跟蹤器(tracker),一個是存儲節點(storage);
跟蹤器(tracker)主要做調度工作,在訪問上起負載均衡的作用,在內存中記錄集群中group和storage server的狀態信息,是前端Client和后端Storage server的樞紐。 因為相關信息全部在內存中,Tracker server的性能非常高,一個較大的集群(比如上百個group)中有3臺就足夠了。
存儲節點(storage)用于存儲文件,文件和文件屬性(meta data)都保存到存儲服務器上,完成文件管理的所有功能:文件存儲、文件同步和提供文件存取接口等;
高薪課程推薦:分布式文件系統FastDFS詳解; 分布式版本控制Git詳解
0基礎 0學費 15天面授
有基礎 直達就業
業余時間 高薪轉行
工作1~3年,加薪神器
工作3~5年,晉升架構
提交申請后,顧問老師會電話與您溝通安排學習