【導(dǎo)讀】項目存儲系統(tǒng)解決方案。北京龍存科技有限責(zé)任公司

　　

【正文】 在任何單點性能限制。存儲服務(wù)器集群中所有的存儲服務(wù)器都同時提供 IO 服務(wù)，能夠向應(yīng)用服務(wù)器提供數(shù)百 GByte/s 級的聚合 IO帶寬，能夠滿足應(yīng)用平臺中大量的應(yīng)用服務(wù)器同時訪問存儲系統(tǒng)帶來的性能需求。 集群存儲系統(tǒng)的雙集群模式（元數(shù)據(jù)服務(wù)器集群和存儲服務(wù)器集群）使得整個存儲平臺在架構(gòu)上沒有任何性能瓶頸，能夠提供超過數(shù)百 GByte/s 的聚合 IO帶寬以及 1000 萬次以上的 IOPS（每秒讀寫次數(shù) ）。 34 動態(tài)在線擴展 集群存儲系統(tǒng)中的元數(shù)據(jù)服務(wù)器集群和存儲服務(wù)器集群都可以在線動態(tài)擴展。存儲服務(wù)器集群的擴展包括存儲服務(wù)器數(shù)量和存儲服務(wù)器中磁盤數(shù)量的擴展，存儲服務(wù)器集群的擴展帶來的是容量上的增長，在擴展過程中無需中斷存儲系統(tǒng)上應(yīng)用的運行，擴展的容量即插即用。而且隨著存儲服務(wù)器數(shù)量的增多，整套集群存儲系統(tǒng)的聚合帶寬也會線性的增長。 元數(shù)據(jù)服務(wù)器集群的擴展帶來的是文件數(shù)量存儲能力的增長，整個擴展過程對整個應(yīng)用平臺完全透明，擴展的元數(shù)據(jù)服務(wù)器即刻能夠提供服務(wù)，前端應(yīng)用無需進行任何配臵。隨著元數(shù)據(jù)服務(wù) 器數(shù)量的增多，整套集群存儲系統(tǒng)所提供的元數(shù)據(jù)服務(wù)能力也會呈線性增長，能夠管理的文件總個數(shù)也線性增加。 高可靠性 在集群存儲系統(tǒng)設(shè)計中，我們假設(shè)任何硬件設(shè)備都是不可靠的，集群存儲系統(tǒng)的可靠性不依賴任何硬件設(shè)備來實現(xiàn)，在集群存儲系統(tǒng)中任何元數(shù)據(jù)服務(wù)器、存儲服務(wù)器、磁盤以及網(wǎng)絡(luò)設(shè)備的失效都不影響集群存儲系統(tǒng)的穩(wěn)定運行。 1）元數(shù)據(jù)高可靠 如下圖所示，在集群存儲系統(tǒng)中，把文件系統(tǒng)的整個名字空間按照元數(shù)據(jù)服務(wù)器的個數(shù)進行均分，分別存儲在不同的元數(shù)據(jù)服務(wù)器上，并同時向客戶端提供服務(wù)。在元數(shù)據(jù)集群中所有的元數(shù)據(jù)都是同時對外提供服務(wù)的，支持海量文件高速查詢，能夠輕松應(yīng)對大量客戶端并發(fā)進行查詢操作。 35 元數(shù)據(jù)分布模式 為了防止元數(shù)據(jù)服務(wù)器的單點故障，我們把元數(shù)據(jù)服務(wù)器進行兩兩配對。配對的元數(shù)據(jù)服務(wù)器互相備份對方的數(shù)據(jù)和服務(wù)，并實時的同步元數(shù)據(jù)的更新，任何一臺元數(shù)據(jù)宕機或者損毀，另一臺元數(shù)據(jù)服務(wù)器都將自動接管其服務(wù)，而不會造成前端應(yīng)用的中斷。 2）數(shù) 據(jù)高可靠 在應(yīng)用平臺中，不同的應(yīng)用的不同數(shù)據(jù)對數(shù)據(jù)的可靠性有不同的需求，集群存儲系統(tǒng)允許對虛擬存儲池中不同的目錄設(shè)臵不同的副本數(shù)，可手動設(shè)臵 14 個文件副本數(shù)量 以及 LeoRAID 的文件級別 RAID 的數(shù)據(jù)保護機制 ， 可保證數(shù)據(jù)在多塊磁盤甚至單臺服務(wù)器損壞的情況下 存儲系統(tǒng)的 服務(wù)正常運轉(zhuǎn)。 為了保證任何一臺存儲服務(wù)器失效或者是任何一塊硬盤失效都不會影響數(shù)據(jù)的可靠性和一致性，在客戶端往存儲系統(tǒng)中寫入數(shù)據(jù)時，所有的數(shù)據(jù)副本 以及數(shù)據(jù)校驗都 是同時寫入到存儲系統(tǒng)中的，當正在有數(shù)據(jù)發(fā)生寫入的磁盤和存儲服務(wù)器發(fā)生故障時，元數(shù)據(jù)服務(wù) 器會為此數(shù)據(jù)對象分配在正常的存儲服務(wù)器和磁盤中分配新的空間，以繼續(xù)進行數(shù)據(jù)寫入，而之前在失效磁盤上寫入的數(shù)據(jù)則會通過另一份數(shù)據(jù)副本恢復(fù)到相應(yīng)的磁盤和存儲服務(wù)器上。 S i n g l e N a m e S p a c em e t a 1 m e t a 2 m e t a ( N ) m e t a ( N + 1 )m e t a 2 m e t a 1 m e t a ( N + 1 ) m e t a ( N )元 數(shù) 據(jù) 分 布 模 式36 為了保障失效的數(shù)據(jù)能夠得到及時的恢復(fù)，讓整個存儲系統(tǒng)能夠時刻保證最高的安全狀態(tài)，我們在集群存儲系統(tǒng)中內(nèi)臵一套自動故障探測機制，一旦探測到故障則自動啟動數(shù)據(jù)恢復(fù)流程。為了完成無人工干預(yù)的自動回復(fù)，在集群存儲系統(tǒng)的架構(gòu)設(shè)計中，我們無需在恢復(fù)過程中加入新的硬件。存儲系統(tǒng)將為損失的數(shù)據(jù)在完好設(shè)備中分配新的空間，失效設(shè)備上的數(shù)據(jù)將被恢復(fù)到正常的存儲服務(wù)器和 磁盤中。 為了提高數(shù)據(jù)恢復(fù)的效率，在集群存儲系統(tǒng)中數(shù)據(jù)恢復(fù)是基于真實數(shù)據(jù)的恢復(fù)，只恢復(fù)存儲設(shè)備中有效的數(shù)據(jù)，而不是像傳統(tǒng)存儲系統(tǒng)那樣針對整個磁盤所有塊的數(shù)據(jù)恢復(fù)，這樣可以有效的減少數(shù)據(jù)恢復(fù)過程中的數(shù)據(jù)傳輸量。 數(shù)據(jù)動態(tài)遷移 隨著應(yīng)用平臺的持續(xù)運行和擴展，集群存儲系統(tǒng)也需要進行不斷的擴展。擴展帶來了一個問題，新添加的存儲服務(wù)器中沒有任何的數(shù)據(jù)，而原有的存儲服務(wù)器空間利用率卻維持在一個較高的狀態(tài)，此時集群存儲系統(tǒng)只能在新添加的存儲服務(wù)器上為數(shù)據(jù)分配空間，從而導(dǎo)致整個集群存儲系統(tǒng)的寫入性能不能得到有效提升。為此我們需要在系統(tǒng)擴容后可以將原有存儲服務(wù)器上的一部分數(shù)據(jù)動態(tài)的遷移到新添加的存儲服務(wù)器中，直到整個存儲服務(wù)器集群的空間利用率都達到一個相同的狀態(tài)。 數(shù)據(jù)動態(tài)遷移的實現(xiàn)還帶來一個好處，我們可以籍此替換老舊的過保硬件，我們可以將一臺存儲服務(wù)器上的數(shù)據(jù)動態(tài)遷移到剩余的完好存儲服務(wù)器上，在數(shù)據(jù)遷移完成之后即可在集群存儲系統(tǒng)中刪除此存儲服務(wù)器。借助數(shù)據(jù)動態(tài)遷移功能我們可以有效安全的撤除老舊設(shè)備，從而在線更新集群存儲系統(tǒng)中的所有的硬件。從上述可以得到，集群存儲系統(tǒng)可以確保集群存儲系統(tǒng)持續(xù)不斷地運行下去，37 并進行自我更新，實現(xiàn)可伸縮性綠色節(jié)能。 數(shù)據(jù)隔離與交互 存儲平臺是一個公共的服務(wù)平臺，我們需要在共享訪問的基礎(chǔ)上減少不同應(yīng)用之間的相互干擾。在這里，我們可 以讓不同的應(yīng)用掛載到集群存儲系統(tǒng)中不同的子目錄下，這樣既滿足了同一應(yīng)用不同服務(wù)器之間的共享訪問需求，又隔離了不同應(yīng)用的數(shù)據(jù)。這樣的數(shù)據(jù)隔離是邏輯上的隔離，各應(yīng)用在相互隔離的情況下還能夠共享集群存儲系統(tǒng)的剩余空間和整體 IO 性能，無需將集群存儲系統(tǒng)像SAN 系統(tǒng)那樣分割成多個小塊，在滿足需求的同時也簡化了整個存儲平臺的管理，且 linux 可動態(tài)的對此目錄進行容量設(shè)臵。 系統(tǒng)可維護性 集群存儲系統(tǒng)可以對系統(tǒng)內(nèi)所有服務(wù)器硬盤設(shè)備進行控制，并自帶硬盤探測機制，可以監(jiān)控到硬盤的使用狀態(tài)以及數(shù)據(jù)讀寫延遲，一旦出 現(xiàn)硬盤壞道或訪問不穩(wěn)定的情況，系統(tǒng)可自動恢復(fù)此磁盤上的所有數(shù)據(jù)到其它正常磁盤上，且可進行禁止寫入數(shù)據(jù)、禁止恢復(fù)數(shù)據(jù)的設(shè)臵，方便運維人員對系統(tǒng)進行系統(tǒng)化的維護，且可以根據(jù)現(xiàn)有服務(wù)器情況提出在線更換所有老舊設(shè)備方案，爭強整套存儲系統(tǒng)的可維護性。 監(jiān)控系統(tǒng) 龍存集群存儲監(jiān)控系統(tǒng)可以實現(xiàn)單點管理多處數(shù)據(jù)中心，且管理界面上嵌入了存儲系統(tǒng)中的所有配臵方法，可以監(jiān)控到系統(tǒng)內(nèi)所有存儲服務(wù)器的運行狀態(tài)、CPU 使用率、操作系統(tǒng)版本、存儲系統(tǒng)整體訪問帶寬、所有服務(wù)器磁盤使用效率與磁盤運行狀態(tài)、運行時間、內(nèi)存使用率等信息，并可設(shè)臵自動報警機制，當38 服務(wù)器出現(xiàn)宕機或者磁盤損壞時，監(jiān)控系統(tǒng)會自動將此消息發(fā)送到運維人員的手機或者 Email 上，方便運維人員管理，減少運維成本。 監(jiān)控圖示如下圖所示： 分級存儲機制 龍存集群存儲自帶分級存儲機制，可以根據(jù)用戶對性能的不同需求 ，根據(jù)目錄劃分不同的硬件設(shè)備存儲目錄下的數(shù)據(jù)， 可適應(yīng)于時代的發(fā)展，根據(jù)硬件設(shè)備的更新變革，為不同的應(yīng)用系統(tǒng)添加更新后的硬件設(shè)備， 以此來保證在一套 存儲系統(tǒng)可以滿足所有應(yīng)用系統(tǒng)對性能的需求，且提升整體硬件利用率。 POSIX 接口 為了廣泛支持各種現(xiàn)有的應(yīng)用和方面構(gòu)建新的應(yīng)用系統(tǒng)，我們采用 POSIX接口作為應(yīng)用訪問接口。從上述內(nèi)容可知。 POSIX 接口是一個廣泛應(yīng)用于各個39 操作系統(tǒng)的一個 API 規(guī)范，采用 POSIX 接口作為集群存儲系統(tǒng)的訪問方式能夠滿足應(yīng)用領(lǐng)域中多樣化的應(yīng)用系統(tǒng)訪問存儲系統(tǒng)的兼容性。 POSIX 也是一個應(yīng)用廣泛的編程模型，現(xiàn)有的應(yīng)用可以無縫的遷移到應(yīng)用平臺上。如果采用特有API 模式（如 S3 和 Google File System）則所有的應(yīng)用都必須進行大量的修改，甚至完全重新開發(fā)。開發(fā)人員需要新的編程模型，也加大了開發(fā)新應(yīng)用的難度，不利于云計算平臺的推廣和使用。如果采用 Web 模式（如 Facebook 的 Haystack）則只能滿足網(wǎng)站類應(yīng)用，不能滿足應(yīng)用平臺上多種應(yīng)用類型的需求。 40 方案構(gòu)成 序號 軟件名稱 產(chǎn)品編碼 功能描述 數(shù)量 1 元數(shù)據(jù)服務(wù)軟件 基礎(chǔ)軟件 LSSW5030MDBASE 存儲數(shù)據(jù)物理和邏輯管理 2 2 集群軟件 LSSW5030MDCLST 元數(shù)據(jù)服務(wù)器集群調(diào)度 2 3 大目錄 LSSW5030MDDRCT 提高單目錄文件數(shù)量管理能力 2 4 靈活冗余 LSSW5030MDFLBK 支持文件動態(tài)冗余度設(shè)臵 2 5 自動恢復(fù) LSSW5030MDRCVR 故障偵測，數(shù)據(jù)自動遷移恢復(fù) 2 6 負載均衡 LSSW5030MDLDBC 負載平均分配到各存儲節(jié)點 2 7 存儲節(jié)點控制軟件 LSSW5030NDCTLR 存儲及網(wǎng)絡(luò)設(shè)備管理，提供網(wǎng)絡(luò)文件共享協(xié)議 Server端支持 8 8 網(wǎng)絡(luò)文件共享協(xié)議 LSSW5030NDNFPT 客戶端支持 不限 41 第五章 服務(wù)承諾及 服務(wù)保證 服務(wù)承諾 1.） 我公司 將在項目初期 組建 專業(yè)的技術(shù)支持團隊 ， 團隊由以下人員組成：系統(tǒng)部項目經(jīng)理、系統(tǒng)維護高級工程、住場工程師組成，其職責(zé)是對系統(tǒng)的技術(shù)支持、咨詢、定期巡檢、現(xiàn)場排查和解決問題，確保系統(tǒng)正常高效運行； 2.）在合同 規(guī)定的保修期內(nèi)負責(zé) 維護 系統(tǒng)正常運行過程中產(chǎn)生的軟硬件故障 ，并對系統(tǒng)內(nèi)損壞硬件進行無條件更換（如果項目中硬件非我公司提供，則此條服務(wù)承諾失效）。 3.） 服務(wù)類型包括：熱線電話 ， 由工程師指導(dǎo)排除故障 ，工程師 現(xiàn)場排除故障 ， 最快速度響應(yīng)用戶的服務(wù)需預(yù)防性服務(wù)，提供定期維護以保證系統(tǒng)的正常運行和排除故障隱患 。 服務(wù)條款 及保證 ：客戶的系統(tǒng)初步建成并投入運行后，由于受外界環(huán)境、內(nèi)部組織結(jié)構(gòu)變化及可能的人員操作不當?shù)挠绊?，可能會產(chǎn)生一切非產(chǎn)品本身的問題。為了使客戶擁有一個健壯的業(yè)務(wù)系統(tǒng)，我們將與客戶共同評估今后對系統(tǒng)維護的需求， 由工程進行現(xiàn)場維護，直到系統(tǒng)穩(wěn)定為止； ：當系統(tǒng)發(fā)生問題時，首先由客戶的技術(shù)人員對故障現(xiàn)象、故障信息進行詳細的觀察記錄，然后通過有效手段將資料通報我們，由我們的技術(shù)人員與客戶一起進行故障會診，確認合適的解決方案，然后指導(dǎo)客戶方人員進行現(xiàn)場操作，排除故障 ； 小時響應(yīng)：當客戶系統(tǒng)發(fā)生故障時，客戶通知我們后，公司方面將在42 2 小時內(nèi)作出響應(yīng)，確定問題的性質(zhì)，以便確定派出有此方面經(jīng)驗的工程技術(shù)人員或高級技術(shù)顧問，盡快趕赴現(xiàn)場解決問題 ； ：龍存科技不僅能夠為客戶提供所有產(chǎn)品和應(yīng)用開發(fā) 方面的具體服務(wù)，還將依據(jù)技術(shù)合同對其計算機網(wǎng)絡(luò)系統(tǒng)的業(yè)務(wù)及管理運作提供更深入的咨詢服務(wù) ； ：在系統(tǒng)運行的每一個關(guān)鍵點，如系統(tǒng)擴容、數(shù)據(jù)從舊系統(tǒng)向新系統(tǒng)遷移、升級到更高端系統(tǒng)等，公司將響應(yīng)客戶請求派出應(yīng)用工程師到現(xiàn)場提供技術(shù)保障 ； ：如有可能公司將建立維護環(huán)境，通過遠程網(wǎng)絡(luò)為客戶提供系統(tǒng)支持和維護服務(wù)。 ：龍存科技對于客戶提出的簡單問題，通過電話進行咨詢和解答 ； 43 第六章 總結(jié) 本建議書首先對用戶存儲系統(tǒng)規(guī)劃進行需求進行分析，提出了采用Loongstore集群存儲 系的總體方案建議，將數(shù)據(jù)資源的相關(guān)的內(nèi)容存儲整合起來，提高行業(yè)整體競爭力。并總結(jié)出應(yīng)用系統(tǒng)架構(gòu)存儲系統(tǒng)的設(shè)計原則和目標，包括安全性、可靠性、高性能、共享訪問、可擴展性、易管理性、數(shù)據(jù)一致性、特制服務(wù)和總擁有成本。 總而言之，龍存科技將憑借著先進的技術(shù)前瞻性、卓越的技術(shù)實力和豐富的項目實施經(jīng)驗，為貴公司的存儲基礎(chǔ)架構(gòu)提供高質(zhì)量的產(chǎn)品、解決方案和服務(wù)，作出高價值的貢獻。 北京 龍存科技有限 責(zé)任 公司 地址：北京市海淀區(qū) 靜淑苑路 2 號創(chuàng)業(yè)廣場 502A 電話 : 01082374884 傳真 : 01082372453 網(wǎng)址 :