【文章內(nèi)容簡(jiǎn)介】 時(shí)， cStor 采用負(fù)載均衡技術(shù)，自動(dòng)均衡各服務(wù)器負(fù)載，使得各存儲(chǔ)節(jié)點(diǎn)的性能調(diào)節(jié)到最高 ， 實(shí)現(xiàn)資源優(yōu)化配 置 。 無(wú)限容量 系統(tǒng)容量?jī)H受限于卷管理服務(wù)器內(nèi)存，可支撐的容量接近無(wú)限，經(jīng)推算， 理論容量為 1024 1024 1024 PB (1G 個(gè) PB 容量 )。 在線伸縮 cStor 云存儲(chǔ) 資源管理 系統(tǒng)擴(kuò)容非常方便，支持不停止服務(wù)的情況下，動(dòng)態(tài)加 入新的存儲(chǔ)節(jié)點(diǎn)，無(wú)需任何操作，即實(shí)現(xiàn)擴(kuò)容；同時(shí)，無(wú)需人為干預(yù)，也可以摘下任意節(jié)點(diǎn)，系統(tǒng)自動(dòng)縮小規(guī)模而不丟失數(shù)據(jù)，存儲(chǔ)在此節(jié)點(diǎn)上的數(shù)據(jù)將會(huì)重新備份到其他節(jié)點(diǎn)上。 通用易用 cStor 云存儲(chǔ)系統(tǒng)提供 符合 POSIX 標(biāo)準(zhǔn) 的通用 文 件系統(tǒng) 接口，無(wú)論是哪種操作系統(tǒng)下的應(yīng)用程序，都可以不經(jīng)修改將云存儲(chǔ)當(dāng)成自己的海量磁盤(pán)來(lái)使用。同時(shí)，也提供專用的 API 接口，供開(kāi)發(fā)人員調(diào)用。 cStor 云存儲(chǔ)平臺(tái)解決方案 10 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 智能管理 提供基于 WEB 的 管理控制 平臺(tái)，所有的管理工作均由 cStor 管理模塊自動(dòng)完成，使用人員無(wú)需任何專業(yè)知識(shí)便可以輕松管理整個(gè)系統(tǒng)。通過(guò)管理平臺(tái)，可以 對(duì) cStor 中的所有節(jié)點(diǎn)實(shí)行 實(shí)時(shí) 監(jiān)控，用戶通過(guò)監(jiān)控界面可以清楚地了解到每一個(gè)節(jié)點(diǎn)和磁盤(pán) 的運(yùn)行情況 ；同時(shí)也可以實(shí)現(xiàn)對(duì)文件級(jí)別的系統(tǒng)監(jiān)控，支持損壞文件的查找和修復(fù)功能。系統(tǒng)提供用戶安全認(rèn)證及對(duì)不同用戶進(jìn)行配額設(shè)置與權(quán)限管理功能，滿足應(yīng)用的日常維護(hù)和安全管理需求。 cStor 云存儲(chǔ)平臺(tái)解決方案 11 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 3 系統(tǒng) 架構(gòu) 在本次 系統(tǒng) 建設(shè)中，云存儲(chǔ)系統(tǒng)屬于基礎(chǔ) 平臺(tái) 支撐層，以 用于數(shù)據(jù)集中存儲(chǔ)和共享 ，實(shí)現(xiàn)對(duì)數(shù)據(jù)的統(tǒng)一管理和高效應(yīng)用。將 數(shù)據(jù)邏輯集中物理分散，以提供 多并發(fā)高吞吐帶寬，最大程度降低系統(tǒng)訪問(wèn)瓶頸 。 下面具體說(shuō)明 cStor 云存儲(chǔ)資源管理系統(tǒng)的基本組成和主要 功能。 系統(tǒng)基本組成 cStor 云存儲(chǔ) 資源管理 系統(tǒng)采用分布式的存儲(chǔ)機(jī)制，將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的存儲(chǔ)服務(wù)器上。它采用包括 卷管理服務(wù)器、 元數(shù)據(jù)管理服務(wù)器（ Master Server） 、 數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)服務(wù)器（ Chunk Server）和掛接訪問(wèn)客戶端以及管理監(jiān)控中心服務(wù)器的結(jié)構(gòu)構(gòu)成虛擬統(tǒng)一的海量存儲(chǔ)空間。在每個(gè)服務(wù)器節(jié)點(diǎn)上運(yùn)行 cStor 云存儲(chǔ) 資源管理 系統(tǒng) 的相應(yīng)的軟件服務(wù)程序模塊。系統(tǒng)架構(gòu)框圖 如下圖所示。 cStor 云存儲(chǔ)平臺(tái)解決方案 12 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 cStor 云存儲(chǔ) 資源管理 系統(tǒng)架構(gòu) 其中， Master Server 保存系統(tǒng)的元數(shù)據(jù)，負(fù)責(zé)對(duì)整個(gè)文件系統(tǒng) 的管理， Master Server在邏輯上只有一個(gè)，但采用主備雙機(jī)鏡像的方式，保證系統(tǒng)的不間斷服務(wù)； Chunk Server負(fù)責(zé)具體的數(shù)據(jù)存儲(chǔ)工作，數(shù)據(jù)以文件的形式存儲(chǔ)在 Chunk Server 上， Chunk Server 的個(gè)數(shù)可以有多個(gè)，它的數(shù)目直接決定了 cStor 云存儲(chǔ)系統(tǒng)的規(guī)模； 掛接訪問(wèn)客戶端 即為服務(wù)器對(duì)外提供數(shù)據(jù)存儲(chǔ)和訪問(wèn)服務(wù)的窗口，通常情況下，客戶端 可以 部署在 Chunk Server 上，每一個(gè)塊數(shù)據(jù)服務(wù)器， 既可以作為 存儲(chǔ)服務(wù)器 同時(shí) 也 可以作為 客戶端服務(wù)器。 由一對(duì)元數(shù)據(jù)服務(wù)器及其管理的存儲(chǔ)服務(wù)器節(jié)點(diǎn) 所提供的存儲(chǔ)空間稱為一個(gè)卷空間，不同的卷空間由卷管理服務(wù)器虛擬化統(tǒng)一管理，對(duì)外可提供統(tǒng)一的海量存儲(chǔ)空間。 管理 監(jiān) 控中心提供統(tǒng)一易用的 WEB 配置管理監(jiān)控平臺(tái)，提供設(shè)備監(jiān)控、空間監(jiān)控、文件監(jiān)控、服務(wù)監(jiān)控、用戶認(rèn)證管理、配額管理、故障告警及預(yù)警等功能，實(shí)現(xiàn)智能化管理。 這種分布式系統(tǒng)最大的好處是有利于存儲(chǔ)系統(tǒng)的擴(kuò)展和實(shí)現(xiàn)，在小規(guī)模的數(shù)據(jù)擴(kuò)展時(shí)，只需要添加具體的 Chunk Server 即可，而不需要添加整套設(shè)備。 在實(shí)現(xiàn)大規(guī)模擴(kuò)展時(shí)也可方便地添加整個(gè)卷設(shè)備。 系統(tǒng)功能描述 cStor 云存儲(chǔ) 資源管理系統(tǒng)從功能上劃份為三 大部分： 1) cStor 分布式 文 件 系統(tǒng) 分布式文件系統(tǒng)實(shí)現(xiàn)文件數(shù)據(jù)存儲(chǔ)、可靠性容錯(cuò)、可伸縮性保證、高可用保證、負(fù)載均衡和流量分擔(dān)等功能 。 2) 存儲(chǔ)訪問(wèn)接口 cStor 提供 符合 POSIX 規(guī)范的文件系統(tǒng)訪問(wèn)接口，通過(guò) cStor 訪問(wèn)掛接程序可將云存儲(chǔ)空間掛接為本地目錄或磁盤(pán)。同時(shí)可提供專用的 API 接口，支持業(yè)務(wù)應(yīng)用層程序?qū)υ拼鎯?chǔ)系統(tǒng)的直接訪問(wèn)。 3) 管理 監(jiān)控中心 管理監(jiān)控中心提供帳戶管理、設(shè)備管理、系統(tǒng)監(jiān)控、卷管理、告警管理、故障管理等功能。 cStor 云存儲(chǔ)平臺(tái)解決方案 13 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 下面逐一詳細(xì)介紹各部分系統(tǒng)功能。 cStor 分布式 文 件 系統(tǒng) cStor 分布式 文 件 系統(tǒng) 包括卷管理、元數(shù)據(jù)管理、塊數(shù)據(jù)管理服務(wù) 。參考上面系統(tǒng)架構(gòu)框圖左側(cè)部分。 元數(shù)據(jù)是指文件的名稱、屬性、數(shù)據(jù)塊位置信息等，元數(shù)據(jù)管理通過(guò)元數(shù)據(jù)服務(wù)程序完成。 因元數(shù)據(jù)訪問(wèn)頻繁，故系統(tǒng)將元數(shù)據(jù)加載緩存至內(nèi)存中管理，提高訪問(wèn)效率。由于元數(shù)據(jù)的重要性，元數(shù)據(jù)損壞或丟失則相當(dāng)于文件數(shù)據(jù)丟失，因此實(shí)現(xiàn)了元數(shù)據(jù)服務(wù)器主備雙機(jī)高可用， 確保 ７２４小時(shí)不間斷服務(wù)。 通過(guò)元數(shù)據(jù)遠(yuǎn)程多機(jī)冗余備份功能，實(shí)現(xiàn)在多臺(tái)其它機(jī)器上備份元數(shù)據(jù)，當(dāng)元數(shù)據(jù)服務(wù)器損壞，可以通過(guò)備份的元數(shù)據(jù)重新恢復(fù)服務(wù)，切保數(shù)據(jù)可以完整找回。 塊數(shù)據(jù)是指文件數(shù)據(jù) 被按照一定大小（默認(rèn) 64MB）分割而成的多個(gè)數(shù)據(jù)塊，分布存儲(chǔ)到不同的存儲(chǔ)節(jié)點(diǎn)服務(wù)器上，并通過(guò)編解碼容錯(cuò)算法產(chǎn)生相應(yīng)的冗余塊。 塊數(shù)據(jù)服務(wù)是運(yùn)行在每個(gè)存儲(chǔ)節(jié)點(diǎn)服務(wù)器上的塊數(shù)據(jù)管理程序，負(fù)責(zé)使用存儲(chǔ)服務(wù)器上的磁盤(pán)空間存儲(chǔ)文件數(shù)據(jù)塊，并實(shí)現(xiàn)相應(yīng)的編解碼功能。 相比較傳統(tǒng)業(yè)界的云存儲(chǔ)采用塊數(shù)據(jù)簡(jiǎn)單備份冗余容錯(cuò)機(jī)制，編解碼容錯(cuò)方式大大降低了硬件資源冗余度，提高了磁盤(pán)利用率。 由一對(duì)主備元數(shù)據(jù)服務(wù)器及其所管理的塊數(shù)據(jù)服務(wù)器管理節(jié)點(diǎn)設(shè)備及其所提供的存儲(chǔ)空間稱為一個(gè)卷。 卷管理服務(wù)器負(fù)責(zé)將多個(gè)卷虛擬化整合，對(duì)外提供統(tǒng)一的整 體訪問(wèn)云存儲(chǔ)空間。 文件系統(tǒng)采 用 中心服務(wù)器模式分布式存儲(chǔ)架構(gòu)，控制流與數(shù)據(jù)流分離，通過(guò)增加存儲(chǔ)節(jié)點(diǎn) 系統(tǒng)采用自動(dòng)注冊(cè)機(jī)制，實(shí)現(xiàn)系統(tǒng)高可伸縮性，增加或減少存儲(chǔ)節(jié)點(diǎn)規(guī)模，不影響系統(tǒng)正常提供存儲(chǔ)訪問(wèn)服務(wù)。 該系統(tǒng)架構(gòu)實(shí)現(xiàn)了統(tǒng)一調(diào)度，負(fù)載均衡和流量自動(dòng)分擔(dān)功能，多個(gè)存儲(chǔ)節(jié)點(diǎn)同時(shí)對(duì)外提供數(shù)據(jù)流服務(wù)，系統(tǒng)根據(jù)磁盤(pán)空間使用比例進(jìn)行資源優(yōu)化配置。同時(shí)在多個(gè)不同的存儲(chǔ)節(jié)點(diǎn)之間實(shí)現(xiàn)根據(jù)空間比例進(jìn)行優(yōu)化配置，數(shù)據(jù)優(yōu)先存儲(chǔ)的空間利用比例相對(duì)較低的磁盤(pán)或存儲(chǔ)服務(wù)器上。 cStor 云存儲(chǔ)平臺(tái)解決方案 14 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 cStor 分布式 文 件 系統(tǒng) 具有自動(dòng)冗余重 建 功能 ， 確保損壞的數(shù)據(jù)塊能 夠被解碼或編碼后存儲(chǔ)到在線的正常的存儲(chǔ)服務(wù)器節(jié)點(diǎn)上。 存儲(chǔ)訪問(wèn)接口 cStor 分布式文件系統(tǒng) 提供 符合 POSIX 規(guī)范的文件系統(tǒng)訪問(wèn)接口。支持 Linux、Windows、 MaxOS X 等操作系統(tǒng)平臺(tái)。可將云存儲(chǔ)系統(tǒng)提供的存儲(chǔ)空間掛接為本地目錄或本地盤(pán)符來(lái)使用。用戶操作云存儲(chǔ)空間和操作本地文件相同。 另外 cStor 提供 專用的高速存取訪問(wèn) API 接口，供性能要求很高的高端應(yīng)用程序?qū)邮褂谩? 管理監(jiān)控中心 管理監(jiān)控中心 為系統(tǒng)管理員配置和維護(hù) cStor 云存儲(chǔ)資源管理系統(tǒng)的有效工具，充分體現(xiàn)了系統(tǒng)的可維護(hù)性。 管理監(jiān)控中心 提供帳戶管理、設(shè)備管理、系統(tǒng)監(jiān)控、卷管理、告警管理、故障管理等功能 。以下為部分系統(tǒng)管理界面。 ? 設(shè)備管理 cStor 云存儲(chǔ)平臺(tái)解決方案 15 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 ? 系統(tǒng)監(jiān)控 ? 告警信息 cStor 云存儲(chǔ)平臺(tái)解決方案 16 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 ? 告警配置 ? 告警日志 cStor 云存儲(chǔ)平臺(tái)解決方案 17 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 ? 故障處理 ? 卷管理 cStor 云存儲(chǔ)平臺(tái)解決方案 18 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 ? 帳戶管理 ? 添加帳戶 cStor 云存儲(chǔ)平臺(tái)解決方案 19 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 4 系統(tǒng)安全性設(shè)計(jì) 安全保障體系框架 NSA 提出的信息安全保障技術(shù)框架（ IATF），如下圖所示。 IATF 依據(jù)“深度防護(hù)戰(zhàn)略”理論，要求從整體、過(guò)程的角度看待信息安全問(wèn)題，強(qiáng)調(diào)人、技術(shù)、操作這三個(gè)核心原則，關(guān)注四個(gè)層次的安全保障：保護(hù)網(wǎng)絡(luò)和基礎(chǔ)設(shè)施、保護(hù)邊界、保護(hù)計(jì)算環(huán)境、支撐基礎(chǔ)設(shè)施。 圖表 基于深度防護(hù)戰(zhàn)略的 IATF模型 cStor 云存儲(chǔ)平臺(tái)解決方案 20 / 50 南京云創(chuàng)存儲(chǔ)科技有限公司 20200821 IATF 模型從深度防護(hù)戰(zhàn)略出發(fā)，強(qiáng)調(diào)人、技術(shù)和操作三個(gè)要素： 人：人是信息的主體，是信息系統(tǒng)的擁有者、管理者和使用者，是信息保障體系的核心，是第一位的要素，同時(shí)也是最脆弱的。正是基于這樣的認(rèn)識(shí)，安全組織和安全管理在安全保障體系中是第一位的，要建設(shè)信息安全保障體系，首先必須建立安全組織和安全管理，包括組織管理、技術(shù)管理和操作管理等多個(gè)方面。 技術(shù)：技術(shù)是實(shí)現(xiàn)信息安全保障的重要手段，信息安全保障體系所應(yīng)具備的各項(xiàng)安全服務(wù)就是通過(guò)技術(shù)機(jī)制來(lái)實(shí)現(xiàn)的。當(dāng)然 IATF 所指的技術(shù)是防 護(hù)、檢測(cè)、響應(yīng)、恢復(fù)并重的、動(dòng)態(tài)的技術(shù)體系。 操作：也可稱之“運(yùn)行”，它體現(xiàn)了安全保障體系的主動(dòng)防御，如果說(shuō)技術(shù)的構(gòu)成是被動(dòng)的，那操作和流程就是將各方面技術(shù)緊密結(jié)合在一起的主動(dòng)過(guò)程，運(yùn)行保障至少包括安全評(píng)估、入侵檢測(cè)、安全審計(jì)、安全監(jiān)控、響應(yīng)恢復(fù)等內(nèi)容。 信息安全保障體系的實(shí)現(xiàn)就是通過(guò)建立安全組織、安全管理和防護(hù)技術(shù)體系，協(xié)調(diào)組織、技術(shù)、運(yùn)作三者之間的關(guān)系，明確技術(shù)實(shí)施和安全操作中技術(shù)人員的安全職責(zé)，從網(wǎng)絡(luò)和基礎(chǔ)設(shè)施、區(qū)域邊界、計(jì)算環(huán)境、支撐基礎(chǔ)設(shè)施等多層次保護(hù)，從而達(dá)到對(duì)安全風(fēng)險(xiǎn)的及時(shí)發(fā)現(xiàn)和有效控制，提高 安全問(wèn)題發(fā)生時(shí)的反應(yīng)速度和恢復(fù)能力，增強(qiáng)網(wǎng)絡(luò)與信息的整體安全保障能力。 對(duì)于