【正文】 江蘇省環(huán)保廳1831項(xiàng)目云平臺(tái)技術(shù)方案建議書(shū)、目 錄1 系統(tǒng)總體概述 3 系統(tǒng)基本功能 3 系統(tǒng)建設(shè)的主要設(shè)計(jì)思想和設(shè)計(jì)目標(biāo)、設(shè)計(jì)原則 4 系統(tǒng)的主要技術(shù)特點(diǎn) 4 系統(tǒng)總體構(gòu)架 5 cStor云存儲(chǔ)系統(tǒng)簡(jiǎn)介 6 cProc云處理平臺(tái)簡(jiǎn)介 9 系統(tǒng)設(shè)計(jì)性能 11 數(shù)據(jù)流量處理能力 11 數(shù)據(jù)存儲(chǔ)讀取能力 11 系統(tǒng)功能 132 系統(tǒng)設(shè)計(jì)實(shí)施與關(guān)鍵技術(shù)方法 14 cStor云存儲(chǔ)系統(tǒng) 14 技術(shù)架構(gòu) 14 工作原理 16 管理機(jī)制 17 關(guān)鍵技術(shù) 18 cProc云處理平臺(tái) 20 數(shù)據(jù)立方(DataCube) 20 任務(wù)監(jiān)控器（JobKeeper） 22 cProc數(shù)據(jù)處理 25 Zookeeper可靠性 27 八大環(huán)境監(jiān)控子系統(tǒng) 29 飲用水水源地監(jiān)控系統(tǒng) 29 流域水環(huán)境監(jiān)控系統(tǒng) 31 空氣環(huán)境監(jiān)控系統(tǒng) 32 輻射環(huán)境監(jiān)控系統(tǒng) 33 重點(diǎn)污染源監(jiān)控系統(tǒng) 34 機(jī)動(dòng)車監(jiān)控系統(tǒng) 35 危險(xiǎn)廢物監(jiān)控系統(tǒng) 36 風(fēng)險(xiǎn)源監(jiān)控系統(tǒng) 37 平臺(tái)安全 41 云處理平臺(tái)信任保護(hù) 41 基于多級(jí)信任保護(hù)的訪問(wèn)控制 45 云處理平臺(tái)安全審計(jì) 48 云處理平臺(tái)安全網(wǎng)關(guān) 513 項(xiàng)目管理和實(shí)施 54 項(xiàng)目開(kāi)發(fā)周期 54 項(xiàng)目實(shí)施 54 客戶受益 551 系統(tǒng)總體概述 系統(tǒng)基本功能“1831”生態(tài)環(huán)境監(jiān)控系統(tǒng)建設(shè)工程，是建設(shè)一個(gè)全省聯(lián)網(wǎng)資源共享的生態(tài)環(huán)境自動(dòng)監(jiān)控平臺(tái)，實(shí)現(xiàn)對(duì)全省生態(tài)環(huán)境的現(xiàn)代化監(jiān)管，系統(tǒng)于生態(tài)省建設(shè)，為管理和決策提供參考和依據(jù)。系統(tǒng)集飲用水水源地監(jiān)控、流域水環(huán)境監(jiān)控、空氣環(huán)境監(jiān)控、輻射環(huán)境監(jiān)控、重點(diǎn)污染源監(jiān)控、機(jī)動(dòng)車監(jiān)控、危險(xiǎn)廢物監(jiān)控、風(fēng)險(xiǎn)源監(jiān)控八大子系統(tǒng)于一體，在省、市、縣組建三級(jí)環(huán)境監(jiān)控中心，通過(guò)一套環(huán)境監(jiān)控管理辦法，達(dá)到自動(dòng)監(jiān)控、科學(xué)管理、合理決策的生態(tài)建設(shè)目標(biāo)。系統(tǒng)的各子系統(tǒng)基本功能和組成如下：飲用水水源地監(jiān)控系統(tǒng)能夠?qū)κ?nèi)111個(gè)集中式飲水水源地水質(zhì)進(jìn)能監(jiān)測(cè)、匯報(bào)等。流域水環(huán)境監(jiān)控系統(tǒng)能夠?qū)θ?52個(gè)河流水質(zhì)進(jìn)行實(shí)時(shí)監(jiān)測(cè)，預(yù)警和保護(hù)?？諝猸h(huán)境監(jiān)控系統(tǒng)能夠?qū)崟r(shí)檢測(cè)分析全省環(huán)境空氣質(zhì)量，確定空氣污染程度。輻射環(huán)境監(jiān)控系統(tǒng)能夠?qū)θ?29個(gè)放射源輻射環(huán)境進(jìn)行實(shí)時(shí)監(jiān)控、實(shí)時(shí)查詢分析。重點(diǎn)污染源監(jiān)控系統(tǒng)能夠?qū)崟r(shí)監(jiān)測(cè)全省集中式污水處理廠和污水處理情況和燃煤電廠的鼓風(fēng)機(jī)電量。機(jī)動(dòng)車監(jiān)控系統(tǒng)能夠?qū)崟r(shí)監(jiān)控全省分析機(jī)動(dòng)車尾氣的污染情況。危險(xiǎn)廢物監(jiān)控系統(tǒng)能夠監(jiān)控危險(xiǎn)廢物的情況，以及對(duì)廢物管理部門(mén)采集的數(shù)據(jù)進(jìn)行實(shí)時(shí)分析。風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)能夠監(jiān)控全省環(huán)境風(fēng)險(xiǎn)源，并對(duì)風(fēng)險(xiǎn)源進(jìn)行分析。 系統(tǒng)建設(shè)的主要設(shè)計(jì)思想和設(shè)計(jì)目標(biāo)、設(shè)計(jì)原則設(shè)計(jì)思想：自動(dòng)監(jiān)測(cè)設(shè)備將采集到的實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)上報(bào)到省環(huán)保廳云存儲(chǔ)系統(tǒng)存儲(chǔ)。八大監(jiān)控子系統(tǒng)操作平臺(tái)向省環(huán)保廳云處理平臺(tái)發(fā)出查詢請(qǐng)求，云處理平臺(tái)通過(guò)并行計(jì)算高效快速的從云存儲(chǔ)系統(tǒng)查詢數(shù)據(jù)并分析匯總，向各監(jiān)控子系統(tǒng)提供查詢的數(shù)據(jù)。設(shè)計(jì)目標(biāo)：采用云計(jì)算、物聯(lián)網(wǎng)和信息網(wǎng)格技術(shù)，對(duì)在用的業(yè)務(wù)系統(tǒng)進(jìn)行分析，確定那些信息需要從原系統(tǒng)中抽取出來(lái)進(jìn)行集成，然后建立一個(gè)基于云存儲(chǔ)的、可擴(kuò)展，具有統(tǒng)一規(guī)范數(shù)據(jù)格式的中心數(shù)據(jù)庫(kù)，將各業(yè)務(wù)系統(tǒng)核心數(shù)據(jù)抽取到中心數(shù)據(jù)庫(kù)進(jìn)行數(shù)據(jù)集成；利用云計(jì)算平臺(tái)的強(qiáng)大處理能力進(jìn)行數(shù)據(jù)的處理和挖掘；最后，在中心數(shù)據(jù)庫(kù)上開(kāi)發(fā)建立包括企業(yè)信息全壽命管理（即從企業(yè)登記開(kāi)始到企業(yè)注銷的全程信息管理）、數(shù)據(jù)精確分析、處置決策、趨勢(shì)分析等在內(nèi)的應(yīng)用，并為其它系統(tǒng)預(yù)留數(shù)據(jù)調(diào)用接口，最終建成一個(gè)涵蓋在用系統(tǒng)數(shù)據(jù)，支持全局信息管理分析與應(yīng)用的監(jiān)控系統(tǒng)。設(shè)計(jì)原則：（1）技術(shù)領(lǐng)先，性能優(yōu)異系統(tǒng)將采用國(guó)際先進(jìn)的云存儲(chǔ)和云計(jì)算技術(shù)，并在此基礎(chǔ)上提供高效的查詢和分析處理。（2）數(shù)據(jù)安全可靠系統(tǒng)將采用多種容錯(cuò)技術(shù)保證存儲(chǔ)的數(shù)據(jù)安全和故障的自動(dòng)恢復(fù)。 系統(tǒng)的主要技術(shù)特點(diǎn)實(shí)時(shí)性：平臺(tái)在高效率并行分布式軟件的支撐下，可以實(shí)時(shí)完成數(shù)據(jù)入庫(kù)、分析和管理工作。海量數(shù)據(jù)入庫(kù)不會(huì)出現(xiàn)數(shù)據(jù)堆積現(xiàn)象，各類分析和查詢工作基本都在秒級(jí)完成，具有前所未有的高效性。高可靠性：基于對(duì)云計(jì)算可靠性深厚的研究積累，徹底解決了當(dāng)前分布式計(jì)算平臺(tái)易出現(xiàn)的單點(diǎn)故障問(wèn)題。任何一個(gè)節(jié)點(diǎn)出現(xiàn)故障，系統(tǒng)將自動(dòng)屏蔽，而且不會(huì)出現(xiàn)丟失數(shù)據(jù)的現(xiàn)象?？缮炜s性：在不停機(jī)的情況下，增加節(jié)點(diǎn)，平臺(tái)的處理能力自動(dòng)增加；減少節(jié)點(diǎn)，平臺(tái)的處理能力自動(dòng)縮減。這樣，可以做到與云計(jì)算平臺(tái)的無(wú)縫對(duì)接，根據(jù)計(jì)算和存儲(chǔ)任務(wù)動(dòng)態(tài)地申請(qǐng)或釋放資源，最大限度地提高資源利用率。高性價(jià)比：采用X86架構(gòu)廉價(jià)計(jì)算機(jī)構(gòu)建云計(jì)算平臺(tái)，用軟件容錯(cuò)替代硬件容錯(cuò)，大大節(jié)省成本。在目標(biāo)性能和可靠性條件下，可比傳統(tǒng)的小型機(jī)加商用數(shù)據(jù)庫(kù)方案節(jié)省10倍左右的成本。全業(yè)務(wù)支持：采用分布式數(shù)據(jù)庫(kù)模式，絕大部分海量數(shù)據(jù)存放于分布式平臺(tái)并進(jìn)行分布式處理，少量實(shí)時(shí)性要求很高的數(shù)據(jù)存放于關(guān)系數(shù)據(jù)庫(kù)中，可支撐各種類型的業(yè)務(wù)。不僅支撐查詢、統(tǒng)計(jì)、分析業(yè)務(wù)，還可支撐深度數(shù)據(jù)挖掘和商業(yè)智能分析業(yè)務(wù)。 系統(tǒng)總體構(gòu)架江蘇省環(huán)保廳1831項(xiàng)目主要包括八大環(huán)境監(jiān)控子系統(tǒng)：飲用水水源地監(jiān)控系統(tǒng)、流域水環(huán)境監(jiān)控系統(tǒng)、空氣環(huán)境監(jiān)控系統(tǒng)、輻射環(huán)境監(jiān)控系統(tǒng)、重點(diǎn)污染源監(jiān)控系統(tǒng)、機(jī)動(dòng)車監(jiān)控系統(tǒng)、危險(xiǎn)廢物監(jiān)控系統(tǒng)、風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)。這八大環(huán)境子系統(tǒng)共同組成一個(gè)完整的環(huán)境監(jiān)控系統(tǒng)，它們都是充分利用現(xiàn)有監(jiān)測(cè)設(shè)備，與省環(huán)保廳聯(lián)網(wǎng)后，數(shù)據(jù)信息匯聚存儲(chǔ)至省環(huán)保廳云存儲(chǔ)系統(tǒng)中，然后再由省環(huán)保廳云處理平臺(tái)負(fù)責(zé)對(duì)數(shù)據(jù)進(jìn)行索引、分析等處理，并向八大系統(tǒng)的應(yīng)用層提供API調(diào)用，快速反饋分析的結(jié)果。圖表1 系統(tǒng)示意圖 以數(shù)據(jù)為中心，數(shù)據(jù)從最底層的數(shù)據(jù)采集層中采集到，將這些數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心，同時(shí)進(jìn)行數(shù)據(jù)索引、分類、分割、清理等操作，將遵循一定規(guī)范的數(shù)據(jù)和索引數(shù)據(jù)同時(shí)實(shí)時(shí)存儲(chǔ)到云存儲(chǔ)系統(tǒng)中，在云處理平臺(tái)上提供數(shù)據(jù)接口，并與最上層的前臺(tái)應(yīng)用層交互數(shù)據(jù)。 cStor云存儲(chǔ)系統(tǒng)簡(jiǎn)介 cStor云存儲(chǔ)系統(tǒng)是南京云創(chuàng)存儲(chǔ)科技有限公司自主研發(fā)的、具有自主知識(shí)產(chǎn)權(quán)的高科技產(chǎn)品，是國(guó)內(nèi)最早實(shí)現(xiàn)并保持領(lǐng)先的云存儲(chǔ)系統(tǒng)，整套系統(tǒng)包括軟件與硬件，是一個(gè)海量的云存儲(chǔ)平臺(tái)。圖2 C1000系列云存儲(chǔ)產(chǎn)品存儲(chǔ)機(jī)柜與傳統(tǒng)的大規(guī)模存儲(chǔ)系統(tǒng)相比，cStor針對(duì)絕大多數(shù)數(shù)據(jù)密集型應(yīng)用的特點(diǎn)從多個(gè)方面進(jìn)行了優(yōu)化，從而在一定規(guī)模下達(dá)到成本、可靠性和性能的最佳平衡。cStor憑著超低的價(jià)格、優(yōu)異的性能、高度可靠、綠色節(jié)能、無(wú)限容量、在線自動(dòng)伸縮、易用通用等諸多壓倒性優(yōu)勢(shì)，獲得了廣電、安防、刑偵、政務(wù)、交通、動(dòng)漫等各行業(yè)用戶青睞，產(chǎn)品代理和銷售商已發(fā)展到數(shù)十家。目前，cStor云存儲(chǔ)系統(tǒng)已成熟應(yīng)用于安防視頻監(jiān)控、刑偵、廣電、交通、電信、醫(yī)療、政務(wù)等諸多領(lǐng)域，性能卓越，表現(xiàn)出色，從未出現(xiàn)故障，得到用戶一致稱贊。圖3部署在南京政務(wù)云數(shù)據(jù)中心云創(chuàng)機(jī)器 下圖4為一簡(jiǎn)單的cStor云存儲(chǔ)系統(tǒng)部署示意圖。圖4 cStor云存儲(chǔ)系統(tǒng)部署示意圖cStor云存儲(chǔ)系統(tǒng)采用了分布式的存儲(chǔ)架構(gòu)，元數(shù)據(jù)服務(wù)器采用主備雙機(jī)容錯(cuò)的方式管理各個(gè)存儲(chǔ)節(jié)點(diǎn)，文件分散存儲(chǔ)在各存儲(chǔ)節(jié)點(diǎn)上?？蛻舳伺c元數(shù)據(jù)服務(wù)器間只有控制流，數(shù)據(jù)流直接在各存儲(chǔ)節(jié)點(diǎn)間交互。因此，系統(tǒng)的整體吞吐率隨著存儲(chǔ)的規(guī)模的增大是線性增加，直到達(dá)到帶寬的飽和利用。 cProc云處理平臺(tái)簡(jiǎn)介 云存儲(chǔ)層包括公司自主研發(fā)的云儲(chǔ)存系統(tǒng)cStor和apache開(kāi)源云儲(chǔ)存系統(tǒng)HDFS；而在數(shù)據(jù)管理層中，包含數(shù)據(jù)立方、Hbase；數(shù)據(jù)處理層包含JobKeeper和MapReduce；最后的監(jiān)控協(xié)調(diào)層則包括zookeeper和Chukwa來(lái)實(shí)現(xiàn)對(duì)整個(gè)系統(tǒng)的實(shí)時(shí)監(jiān)控和數(shù)據(jù)管理。 下圖為cProc云處理平臺(tái)架構(gòu)： 通過(guò)數(shù)據(jù)立方，可以對(duì)元數(shù)據(jù)進(jìn)行數(shù)據(jù)分析、清理、分割。 對(duì)結(jié)構(gòu)化數(shù)據(jù)任意關(guān)鍵字索引，形成一個(gè)多維數(shù)據(jù)模型，數(shù)據(jù)立方的命名也由此而來(lái)。數(shù)據(jù)立方是獨(dú)立于cProc云處理平臺(tái)的技術(shù)架構(gòu)，用戶可以選擇性采用數(shù)據(jù)立方，也可以單獨(dú)采用Hbase、Hive等技術(shù)框架，通過(guò)數(shù)據(jù)立方或Hbase，可以將結(jié)構(gòu)化數(shù)據(jù)看成一張無(wú)限大的表，操作這張表跟操作傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)一樣，上層應(yīng)用無(wú)需修改，完全符合用戶原來(lái)操作習(xí)慣。 對(duì)于非結(jié)構(gòu)化數(shù)據(jù)，cProc云處理平臺(tái)采用公司自主研發(fā)的超安存算法，對(duì)這些數(shù)據(jù)塊進(jìn)行分割，散亂存儲(chǔ)到云儲(chǔ)存系統(tǒng)上，然后采用分布式并行處理，對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)處理，cProc云處理平臺(tái)的處理性能隨著節(jié)點(diǎn)的增多而成倍數(shù)增長(zhǎng)。 cProc云處理平臺(tái)擁有以下特點(diǎn)： ，系統(tǒng)無(wú)單點(diǎn)，確保意外情況下，系統(tǒng)的正常運(yùn)行 以上特點(diǎn)由云創(chuàng)公司自主研發(fā)的下面幾大功能來(lái)提供保證，分別是數(shù)據(jù)立方，分布式數(shù)據(jù)處理,調(diào)度均衡器、數(shù)據(jù)傳輸接口等。數(shù)據(jù)立方對(duì)數(shù)據(jù)建立高效的索引結(jié)構(gòu)。數(shù)據(jù)立方是云創(chuàng)公司研發(fā)的高效數(shù)據(jù)結(jié)構(gòu)，該結(jié)構(gòu)成功解決了海量數(shù)據(jù)的快速索引和查詢問(wèn)題，使得百億條記錄級(jí)的數(shù)據(jù)能夠秒級(jí)處理。分布式數(shù)據(jù)處理是云創(chuàng)公司研發(fā)的處理海量數(shù)據(jù)的處理框架，用于對(duì)大規(guī)模數(shù)據(jù)集的并行處理。處理能力可以通過(guò)增加或減少機(jī)器達(dá)到動(dòng)態(tài)調(diào)整。采用先進(jìn)的容錯(cuò)技術(shù)，確保處理任務(wù)的可靠性，即使在異常情況下，如機(jī)器宕機(jī)、斷網(wǎng)的情況下，確保處理任務(wù)的實(shí)時(shí)性和準(zhǔn)確性。調(diào)度均衡器是云創(chuàng)公司研發(fā)的解決單點(diǎn)故障的一項(xiàng)技術(shù)，用于解決系統(tǒng)內(nèi)的單點(diǎn)問(wèn)題，確保某機(jī)器的應(yīng)用程序狀態(tài)在宕機(jī)或斷網(wǎng)時(shí)，可將狀態(tài)從異常機(jī)器轉(zhuǎn)移到其他機(jī)器上，中間無(wú)數(shù)據(jù)丟失。數(shù)據(jù)傳輸接口是云創(chuàng)公司經(jīng)過(guò)多年積累，專門(mén)針對(duì)地面數(shù)據(jù)傳輸研究出高性能可靠文件傳輸協(xié)議，采用并行流水線方式、將傳輸與存儲(chǔ)作聯(lián)合優(yōu)化，并支持多點(diǎn)中繼高效傳輸。經(jīng)過(guò)多項(xiàng)實(shí)地遠(yuǎn)程傳輸試驗(yàn)，結(jié)果表明該技術(shù)的傳輸效率在1Gb/s光纖線路上達(dá)到了帶寬的80%左右，處于國(guó)際最高水平。幾大功能相輔相成，高效且可靠地處理海量數(shù)據(jù)，確保響應(yīng)迅速，傳輸速度快，處理結(jié)果準(zhǔn)確。 系統(tǒng)設(shè)計(jì)性能 數(shù)據(jù)流量處理能力以下是各部分處理能力統(tǒng)計(jì)： l 數(shù)據(jù)存儲(chǔ)查詢系統(tǒng)器配置： 8核CPU2，主頻2GHz以上,內(nèi)存32G，硬盤(pán)82T SATA處理能力：折合數(shù)據(jù)入庫(kù)流量 80Mb/s l 應(yīng)用分析系統(tǒng)器配置： 8核CPU2，主頻2GHz以上,內(nèi)存32G，硬盤(pán)82T SATA處理能力：折合處理并發(fā)訪問(wèn)量1000次/s 數(shù)據(jù)存儲(chǔ)讀取能力原始數(shù)據(jù)存儲(chǔ)采用云存儲(chǔ)平臺(tái)，分布式文件系統(tǒng)存儲(chǔ)系統(tǒng)。性能指標(biāo)：l 存儲(chǔ)量指標(biāo)單系統(tǒng)應(yīng)支持PB級(jí)存儲(chǔ)容量。l 吞吐量指標(biāo) Infiniband網(wǎng)絡(luò)上文件讀、寫(xiě)性能: (1)寫(xiě)文件性能 1個(gè)客戶端寫(xiě)250G文件，文件平均寫(xiě)性能為932MB/s。 (2)讀文件性能 1個(gè)客戶端讀250G文件，文件平均讀性能為852MB/s， 上述性能測(cè)試數(shù)據(jù)是1個(gè)客戶端、8個(gè)存儲(chǔ)節(jié)點(diǎn)的測(cè)試結(jié)果，由于本次測(cè)試受測(cè)試資源影響，沒(méi)能完全測(cè)出Infiniband最優(yōu)性能。但在8個(gè)存儲(chǔ)節(jié)點(diǎn)上，文件寫(xiě)性能達(dá)到932MB/s，讀性能達(dá)到852MB/s。吞吐量是指在沒(méi)有幀丟失的情況下，設(shè)備能夠接受的最大速率。吞吐量根據(jù)應(yīng)用系統(tǒng)讀寫(xiě)方式和應(yīng)用系統(tǒng)讀取存儲(chǔ)內(nèi)容大小分成四個(gè)指標(biāo)。分布式文件存儲(chǔ)系統(tǒng)按照32個(gè)節(jié)點(diǎn)并發(fā)500個(gè)用戶計(jì)算，單節(jié)點(diǎn)8塊2T大小的硬盤(pán)情況下，每個(gè)節(jié)點(diǎn)指標(biāo)具體內(nèi)容如下表所示：表8分布式文件存儲(chǔ)系統(tǒng)吞吐量指標(biāo)編號(hào)讀寫(xiě)方式存儲(chǔ)內(nèi)容大小總吞吐量指標(biāo)(MBps)平均吞吐量指標(biāo)(MBps)1100%讀250GB24000482100%寫(xiě)250GB20000403100%讀100KB23000464100%寫(xiě)100KB1900038圖表 分布式文件存儲(chǔ)系統(tǒng)吞吐量指標(biāo)l 系統(tǒng)響應(yīng)時(shí)間指標(biāo)千兆網(wǎng)絡(luò)環(huán)境下，局域網(wǎng)客戶端從分布式文件存儲(chǔ)系統(tǒng)中讀取4096字節(jié)存儲(chǔ)內(nèi)容的響應(yīng)時(shí)間應(yīng)不高于20ms。 系統(tǒng)功能數(shù)據(jù)存儲(chǔ)：通過(guò)云存儲(chǔ)平臺(tái)存儲(chǔ)海量數(shù)據(jù)。實(shí)時(shí)查詢：通過(guò)業(yè)務(wù)層API支持應(yīng)用層的實(shí)時(shí)查詢，根據(jù)應(yīng)用層的要求查詢相關(guān)數(shù)據(jù)返回給應(yīng)用層。定期匯總：根據(jù)用戶定制要求定期匯總相關(guān)數(shù)據(jù)到數(shù)據(jù)庫(kù)中，以備歷史數(shù)據(jù)的查詢和報(bào)表的統(tǒng)計(jì)。狀態(tài)監(jiān)控：可以實(shí)時(shí)監(jiān)控自動(dòng)監(jiān)測(cè)設(shè)備和中心系統(tǒng)器的運(yùn)行狀態(tài)，提供設(shè)備運(yùn)行數(shù)據(jù)并存儲(chǔ)到數(shù)據(jù)庫(kù)，以備歷史數(shù)據(jù)的查詢和設(shè)備運(yùn)行的分析。歷史查詢：對(duì)存儲(chǔ)在云存儲(chǔ)中心的歷史數(shù)據(jù)進(jìn)行查詢60 / 602 系統(tǒng)設(shè)計(jì)實(shí)施與關(guān)鍵技術(shù)方法 cStor云存儲(chǔ)系統(tǒng)C1000系列產(chǎn)品采用cStor分布式云存儲(chǔ)文件系統(tǒng)對(duì)數(shù)據(jù)進(jìn)行集中式海量存儲(chǔ)和統(tǒng)一管理，其技術(shù)架構(gòu)和關(guān)鍵技術(shù)在下面的章節(jié)中分別詳細(xì)介紹。 技術(shù)架構(gòu)cStor云存儲(chǔ)文件系統(tǒng)采用分布式的存儲(chǔ)機(jī)制，將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的存儲(chǔ)服務(wù)器上。它采用包括元數(shù)據(jù)管理服務(wù)器（Master Server）和數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)服務(wù)器（Chunk Server）以及客戶端節(jié)點(diǎn)的結(jié)構(gòu)構(gòu)成一個(gè)虛擬的海量存儲(chǔ)卷，如下圖所示。圖21 cStor云存儲(chǔ)系統(tǒng)架構(gòu)其中，Master Server保存系統(tǒng)的元數(shù)據(jù)，負(fù)責(zé)對(duì)整個(gè)文件系統(tǒng)的管理，Master Server在邏輯上只有一個(gè)，但采用主備雙機(jī)鏡像的方式，保證系統(tǒng)的不間斷服務(wù)；Chunk Server負(fù)責(zé)具體的數(shù)據(jù)存儲(chǔ)工作，數(shù)據(jù)以文件的形式存儲(chǔ)在Chunk Server上，Chunk Server的個(gè)數(shù)可以有多個(gè)，它的數(shù)目直接決定了cStor云存儲(chǔ)系統(tǒng)的規(guī)模；客戶端即為服務(wù)器對(duì)外提供數(shù)據(jù)存儲(chǔ)和訪問(wèn)服務(wù)的窗口，通常情況下，客戶端都部署在Chunk Server上，每一個(gè)塊數(shù)據(jù)服務(wù)器，及時(shí)存儲(chǔ)服務(wù)器也是客戶端服務(wù)器。對(duì)每一個(gè)節(jié)點(diǎn)，cStor云存儲(chǔ)系統(tǒng)提供的管理監(jiān)控中心都可以對(duì)其進(jìn)行管理，包括設(shè)備運(yùn)行狀態(tài)、磁盤(pán)運(yùn)行狀態(tài)、服務(wù)在線情況以及異常告警等功能；另外，網(wǎng)管監(jiān)控中心還提供有如FTP賬戶添加等客戶端管理和配置工具。這種分布式系統(tǒng)最大的好處是有利于存儲(chǔ)系統(tǒng)的擴(kuò)展和實(shí)現(xiàn)，在小規(guī)模的數(shù)據(jù)