【正文】 而所有的任務(wù)信息和處理節(jié)點(diǎn)信息都會(huì)定時(shí)寫入到磁盤文件 ，因此， 不 會(huì)出現(xiàn) 做了一半的任務(wù) 終止后需要重新執(zhí)行的問題，系統(tǒng)會(huì)自動(dòng)根據(jù)上次執(zhí)行的情況將錯(cuò)誤前的狀態(tài)遷移到另一臺(tái)處理節(jié)點(diǎn)上，使整個(gè)任務(wù)繼續(xù)進(jìn)行下去 。 Jobkeeper 故障處理機(jī)制 當(dāng) 任務(wù)處理節(jié)點(diǎn)宕機(jī) ， 或者該任務(wù) 被 初始化 時(shí)，系統(tǒng)產(chǎn)生相應(yīng)錯(cuò)誤，繼而 該任務(wù) 會(huì) 返還到任務(wù)調(diào)度層交給調(diào)度節(jié)點(diǎn)重新分配。在系統(tǒng)無人值守的情況下自山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 35 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 動(dòng)完成 故障處理等功能 。 ? 低依賴性 ： 采用模塊化設(shè)計(jì)思想，通過統(tǒng)一化配置和 API 接口的方式向用戶提供服務(wù)。處理節(jié)點(diǎn)組會(huì)在一個(gè)設(shè)定的心跳間隔內(nèi)主動(dòng)的和管理節(jié)點(diǎn)組聯(lián)系一次，報(bào)告節(jié)點(diǎn)存活狀態(tài)。 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 34 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 JobKeeper 的任務(wù)分發(fā)流程如下圖所示： 圖 39 JobKeeper 任務(wù) 分發(fā) 流程 圖 服務(wù)器節(jié)點(diǎn)組 ： 負(fù)責(zé)對(duì)處理節(jié)點(diǎn)的系統(tǒng)信息以及任務(wù)處理信息進(jìn)行實(shí)時(shí)的跟蹤和保存，對(duì)應(yīng)的信息鏡像存儲(chǔ)在基于 cStor 或者 NFS 服務(wù)的存儲(chǔ)系統(tǒng)上 。是整個(gè)系統(tǒng)面向用戶和開發(fā)人員的基礎(chǔ)承載。 ? 業(yè)務(wù)層：對(duì)于應(yīng)用層的相關(guān)功能的業(yè)務(wù)化，數(shù)字化處理，用于將應(yīng)用層的需求任務(wù)進(jìn)行規(guī)則化劃分，形成統(tǒng)一的處理化模式。 ? 存儲(chǔ)層：存儲(chǔ)數(shù)據(jù)的處理結(jié)果集或其他中間結(jié)果集的單元。 高性能保證 吞吐量 系統(tǒng)整體吞吐量隨系統(tǒng)規(guī)模增加呈線性增長(zhǎng) 寫性能 單客戶端寫性能高于 100MB/s 讀性能 單客戶端讀性能高于 80MB/s 動(dòng)態(tài)擴(kuò)展 存儲(chǔ)節(jié)點(diǎn)動(dòng)態(tài)擴(kuò)展 能 夠在不停止服務(wù)的情況下進(jìn)行擴(kuò)容或收縮規(guī)模，在線增加和減少存儲(chǔ)節(jié)點(diǎn) 訪問接口支持 支持 POSIX 規(guī)范 支 持 掛 載為 Linux/Unix 本 地 文 件目 錄 或Windows 磁盤，用戶使用和操作與本地文件系統(tǒng)相同 支持 FTP 訪問 支持 FTP 訪問方式 支持 NFS 訪問 支持 NFS 訪問方式 支持 CIFS 訪問 支持 CIFS 訪問方式 存儲(chǔ)節(jié)點(diǎn)可兼作服務(wù)節(jié)點(diǎn) 存儲(chǔ)節(jié)點(diǎn)可兼作服務(wù)節(jié)點(diǎn) 存儲(chǔ)節(jié)點(diǎn)可兼作服務(wù)節(jié)點(diǎn)，對(duì)外提供數(shù)據(jù)訪問服務(wù) 負(fù)載均衡 負(fù)載自動(dòng)均衡 根據(jù)空間利用情況進(jìn)行負(fù)載均衡 流量分擔(dān) 并發(fā)訪問時(shí)流量自動(dòng)分擔(dān) 并發(fā)訪問時(shí)流量自動(dòng)分擔(dān)至不同的存儲(chǔ)節(jié)點(diǎn) 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 32 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 安全性 身份標(biāo)識(shí)和鑒別 系統(tǒng)的管理監(jiān)控中心具有身份標(biāo)識(shí)和鑒別功能 正常訪問控制 系統(tǒng)具有對(duì)系統(tǒng)正常訪問的控制能力 屏蔽非法操作 系統(tǒng)具有對(duì)未預(yù)期的非法操作的控制能力 數(shù)據(jù)備份和恢復(fù) 系統(tǒng)可以配置備份因子，設(shè)置數(shù)據(jù)存儲(chǔ)的份數(shù) 日志管理 系統(tǒng)元數(shù)據(jù)服務(wù)器具有日志功能 管理監(jiān)控 設(shè)備監(jiān)控 監(jiān)控設(shè)備的運(yùn)行狀態(tài) 磁盤監(jiān)控 監(jiān)控設(shè)備的磁盤狀態(tài) 空間監(jiān)控 監(jiān)控系統(tǒng)的空間使用狀態(tài) 文件監(jiān)控 監(jiān)控和統(tǒng)計(jì)系統(tǒng)的文件狀態(tài) 塊級(jí)監(jiān)控 監(jiān)控系統(tǒng)的數(shù)據(jù)塊狀態(tài)、 壞塊統(tǒng)計(jì)和定位 PaaS 層 cProc 云處理 JobKeeper 云調(diào)度 如何保證在云計(jì)算平臺(tái)中部分硬件或軟件發(fā)生故障的情況下仍不影響系統(tǒng)的正常運(yùn)行；如何保證在云計(jì)算平臺(tái)中高效穩(wěn)定的合理化分配和執(zhí)行任務(wù) ，同時(shí)能夠完全解決系統(tǒng)單點(diǎn)故障問題 ， 負(fù)載均衡，自動(dòng)調(diào)度與部署的高效云調(diào)度平臺(tái) ，JobKeeper 服務(wù)器最大的作用即是解決云計(jì)算系統(tǒng)中的單點(diǎn)故障和任務(wù)調(diào)度的問題。 cStor 存儲(chǔ)性能 cStor 云存儲(chǔ)系統(tǒng)的性能指標(biāo)如下表所示： 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 31 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 表 32 cStor 云存儲(chǔ)性能指標(biāo) cStor 云存儲(chǔ)系統(tǒng)軟件性能指標(biāo) 主特性 子特性 功能說明 高 可用保證 主備雙機(jī) 能夠在主元數(shù)據(jù)服務(wù)器故障情況下自動(dòng)切換至備用元數(shù)據(jù)服務(wù)器，對(duì)外服務(wù)不停止 空間掛載（接口開放性） Windows 掛載 運(yùn)行 Windows 客戶端程序，在 Windows 系統(tǒng)上顯示為一本地海量磁盤 Linux/Unix/FreeBS/MacOS 掛載 運(yùn)行 Linux/Unix/FreeBS/MacOS 掛載程序，在系統(tǒng)上對(duì)應(yīng)為一本地目錄 可靠性保證 元數(shù)據(jù)日志 元數(shù)據(jù)日志本地持久化，可根據(jù)元數(shù)據(jù)日志恢復(fù)元數(shù)據(jù) 元數(shù)據(jù)日志備份 支持元數(shù)據(jù)日志異機(jī)備份，可根據(jù)備份日志恢復(fù)元數(shù)據(jù) 塊數(shù)據(jù) 備份 采用副本冗余方式或編解碼方式容錯(cuò)，當(dāng)磁盤損壞副本數(shù)減少時(shí)，系統(tǒng)自動(dòng)重建副本數(shù)到配置的值，保證數(shù)據(jù)安全可靠、服務(wù)不間斷 空間利用率 磁盤有效容量 系統(tǒng) N+M 編解碼配置下，磁盤有效容量=N/(N+M)裸容量，如 8+2 編碼情況下，磁盤利用率為 80%。郵箱系統(tǒng) 企業(yè)私有郵箱系統(tǒng)，采用云架構(gòu)，數(shù)據(jù)更可靠更安全。 minicloud 技術(shù)規(guī)格 “ minicloud” 產(chǎn)品根據(jù)不同應(yīng)用對(duì)象的應(yīng)用需求以及對(duì)系統(tǒng)配置的要求分成三種技術(shù)規(guī)格，詳細(xì)說明如下。 ? 多平臺(tái)隨時(shí)訪問 minicloud 微型云計(jì)算數(shù)據(jù)中心支持 Windows 客戶端、網(wǎng)站、 Android 客戶端、 iPhone/iPad 客戶端，方便用戶隨時(shí)隨地訪問 minicloud。 圖 37 minicloud 監(jiān)控界面 ? 可靠的企業(yè)應(yīng)用 企業(yè)應(yīng)用程序包括郵件服務(wù)器程序、數(shù)據(jù)庫、云存儲(chǔ)管理節(jié)點(diǎn)等均采用雙機(jī)熱備，為企業(yè)提供安全可靠的應(yīng)用，保證應(yīng)用程序可持續(xù)的運(yùn)行；同時(shí) minicloud提供配置接口，通過配置可實(shí)現(xiàn)第三方應(yīng)用程序的雙機(jī)熱備。不需要專業(yè)人員就能在自己的辦公場(chǎng)所部署一套集成多應(yīng)用的服務(wù)器。但是傳統(tǒng)的服務(wù)器的部署不僅占用空間，而且可能還需要有專門的機(jī)房，對(duì)于辦公場(chǎng)所面積有限制的企業(yè)、單位來說部署一套傳統(tǒng)的服務(wù)器是相當(dāng)不易的。為了保障數(shù)據(jù)安全，辦公室內(nèi)部共享數(shù)據(jù)與通過互聯(lián)網(wǎng)共享數(shù)據(jù)采用完全隔離的兩套系統(tǒng)。 圖 36 minicloud 外觀圖 minicloud 產(chǎn)品優(yōu)勢(shì) ? 超安全的私有云計(jì)算數(shù)據(jù)中心 minicloud 采用可靠的分布式云存儲(chǔ) ,最大支撐三個(gè) 27TB 的存儲(chǔ)節(jié)點(diǎn) ,采用1:1 容錯(cuò)保證企業(yè)數(shù)據(jù)安全可靠 ,minicloud 可作為企業(yè)的數(shù)據(jù)中心 ,為企業(yè)的各種重要數(shù)據(jù)提供安全可靠的存儲(chǔ) ,重要數(shù)據(jù)包括企業(yè)設(shè)計(jì)文檔、設(shè)計(jì)圖紙、經(jīng)營數(shù)據(jù)等。因此如何安全可靠的存儲(chǔ)企業(yè)運(yùn)營數(shù)據(jù)，成為了現(xiàn)在企業(yè)辦公的重中之重。 下圖為 cStor 客戶端讀數(shù)據(jù)流程 圖如下所示： 元 數(shù) 據(jù) 服 務(wù) 器 元 數(shù) 據(jù) 服 務(wù) 器客 戶 端存 儲(chǔ) 服 務(wù) 器 存 儲(chǔ) 服 務(wù) 器 存 儲(chǔ) 服 務(wù) 器 存 儲(chǔ) 服 務(wù) 器2 . 數(shù) 據(jù) 在 X 存 儲(chǔ) 服 務(wù) 器3 . 讀 數(shù) 據(jù) 請(qǐng) 求4 . 返 回 數(shù) 據(jù) 內(nèi) 容1 . 數(shù) 據(jù) 在 哪 里 ？數(shù) 據(jù) 流控 制 流圖 35 cStor 客戶端讀數(shù)據(jù)流程 總的來說， cStor 云存儲(chǔ)系統(tǒng)的控制流和數(shù)據(jù)流是分離的，一方面降低了元數(shù)據(jù)服務(wù)的負(fù)擔(dān)，使得其處理能力更強(qiáng)，另一方面將數(shù)據(jù)讀寫的負(fù)擔(dān)分擔(dān)到各存儲(chǔ)節(jié)點(diǎn)，使得系統(tǒng)的整體性能得到了提高，與節(jié)點(diǎn)數(shù)目成正相關(guān)。同時(shí)，由于 cStor 文件系統(tǒng)支持 POSIX 接口規(guī)范，對(duì)于目前一般的應(yīng)用不需要做二次開發(fā)即可使用。 應(yīng)用服務(wù)層數(shù)據(jù)存儲(chǔ)層用戶層存 儲(chǔ) 節(jié) 點(diǎn) / 服 務(wù) 節(jié) 點(diǎn) n存 儲(chǔ) 節(jié) 點(diǎn) / 服 務(wù) 節(jié) 點(diǎn) 1存 儲(chǔ) 節(jié) 點(diǎn) / 服 務(wù) 節(jié) 點(diǎn) 2存 儲(chǔ) 節(jié) 點(diǎn) / 服 務(wù) 節(jié) 點(diǎn) 3?2 U主 元 數(shù) 據(jù) 服 務(wù) 器2 U備 元 數(shù) 據(jù) 服 務(wù) 器應(yīng) 用 服 務(wù) 器其 他 服 務(wù) 器 文 件 服 務(wù) 器W E B 服 務(wù) 器業(yè) 務(wù) 網(wǎng) 絡(luò)交 換 機(jī)存 儲(chǔ) 網(wǎng) 絡(luò)交 換 機(jī) 圖 33 cStor 云存儲(chǔ) 部署示意圖 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 26 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 cStor 掛載接口 對(duì)于 cStor 云存儲(chǔ)的用戶來說，通過 cStor 客戶端可以將海量云存儲(chǔ)系統(tǒng)映射成一個(gè)本地海量磁盤（ Windows 客戶端）或者映 射到一個(gè)目錄（ Unix、 Linux、MacOS、 FreeBSD 等客戶端），對(duì)于此磁盤或者目錄的讀寫操作，即可實(shí)現(xiàn)云存儲(chǔ)系統(tǒng)數(shù)據(jù)的讀寫。所有存儲(chǔ)節(jié)點(diǎn)同時(shí)擔(dān)任對(duì)外服務(wù)功能，客戶端分別掛載到不同存儲(chǔ)節(jié)點(diǎn)訪問云存儲(chǔ)系統(tǒng)。 這種分布式系統(tǒng)最大的好處是有利于存儲(chǔ)系統(tǒng)的擴(kuò)展和實(shí)現(xiàn)，在小規(guī)模的數(shù)據(jù)擴(kuò)展時(shí)，只需要添加具體的 Chunk Server 即可，而不需要添加整套設(shè)備。 cStor 架構(gòu)描述 Master Server 保存系統(tǒng)的元數(shù)據(jù)，負(fù)責(zé)對(duì)整個(gè)文件系統(tǒng)的管理， Master Server在邏輯上只有一個(gè)，但采用主備雙機(jī)鏡像的方式，保證系統(tǒng)的不間斷服務(wù)； Chunk Server 負(fù)責(zé)具體的數(shù)據(jù)存儲(chǔ)工作，數(shù)據(jù)以文件的形式存儲(chǔ)在 Chunk Server 上，Chunk Server 的個(gè)數(shù)可以有多個(gè)，它的數(shù)目直接決定了 cStor 云存儲(chǔ)系統(tǒng)的規(guī)模；客戶端即為服務(wù)器對(duì)外提供數(shù)據(jù)存儲(chǔ)和訪問服務(wù)的窗口，通常情況下，客戶端都部署在 Chunk Server 上，每一個(gè)塊數(shù)據(jù)服務(wù)器，及時(shí)存儲(chǔ)服 務(wù)器也是客戶端服務(wù)山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 25 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 器。 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 24 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 cStor 系統(tǒng)構(gòu)架 圖 32 cStor 云存儲(chǔ)系統(tǒng)架構(gòu) 如上圖所示， cStor 云存儲(chǔ)文件系統(tǒng)采用分布式的存儲(chǔ)機(jī)制，將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的存儲(chǔ)服務(wù)器上。 ? 高可用技術(shù) 系統(tǒng)中的所有服務(wù)節(jié)點(diǎn)均是通過網(wǎng)絡(luò)連接在一起，由于采用了高可靠的容錯(cuò)機(jī)制，系統(tǒng)增減節(jié)點(diǎn)不必停止服務(wù)，可在線增減存儲(chǔ)節(jié)點(diǎn)，存儲(chǔ)節(jié)點(diǎn)和元數(shù)據(jù)節(jié)點(diǎn)間通過注冊(cè)管理機(jī)制自適應(yīng)管理，實(shí)現(xiàn)自動(dòng)伸縮。 同時(shí)，系統(tǒng)除了支持傳統(tǒng)的 1： 1： 2 的冗余備份技術(shù)外，也支持高效的N： N+M 的編碼容錯(cuò)技術(shù)，即：假設(shè)將原始文件切分為 N 個(gè)數(shù)據(jù)塊，通過冗余編碼技術(shù)，將其編碼后增加了 M 個(gè)數(shù)據(jù)塊，數(shù)據(jù)總量變成了 N+M 個(gè)數(shù)據(jù)塊。在其后的過程中，如果相關(guān)的副本出現(xiàn)丟失或不可恢復(fù)等狀況， Master Server 會(huì)自動(dòng)將該副本復(fù)制到其他 Chunk Server，從而確保副本保持一定的個(gè)數(shù)。副本的分布策略考慮了多種因素，如網(wǎng)絡(luò)的拓?fù)洹C(jī)架的分布、磁盤的利用率等。 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 23 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 對(duì)于 Chunk Server， cStor 采用副本的方式實(shí)現(xiàn)容錯(cuò)。 ? 高可靠性保證技術(shù) 對(duì)于元數(shù)據(jù)， cStor 通過操作日志來提供容錯(cuò)功能，當(dāng) Master Server 發(fā)生故障時(shí)，在磁盤數(shù)據(jù)保存完好的情況下，可以迅速恢復(fù)以上元數(shù)據(jù)。 Client 與 Chunk Server之間直接傳輸數(shù)據(jù)流，同時(shí)由于文件被分成多個(gè) chunk 進(jìn)行分布式存儲(chǔ)， Client可以同時(shí)訪問多個(gè) Chunk Server，從而使得整個(gè)系統(tǒng)的 I/O 高度并行，系統(tǒng)整體性能得到提高。 cStor的這種設(shè)計(jì)方法實(shí)現(xiàn)了控制流和數(shù)據(jù)流的分離。 另外，當(dāng)某有一個(gè) Chunk Server 因?yàn)闄C(jī)器故障或者其他原因造成離線時(shí)，Master Server 會(huì)將此機(jī)器自動(dòng)屏蔽掉，不再將此 Chunk Server 提供給客戶端使用，同時(shí)存儲(chǔ)在此 Chunk Server 上的數(shù)據(jù)也會(huì)自動(dòng)的備份到其他可用的 Chunk Server上，自動(dòng)屏蔽 Chunk Server 故障對(duì)系統(tǒng)的影響。 山東省警務(wù)云計(jì)算平臺(tái)視頻資源整合方案 22 / 99 南京云創(chuàng)存儲(chǔ)科技有限公司 2020/12/3 cStor 關(guān)鍵技術(shù) ? 負(fù)載自動(dòng)均衡技術(shù) cStor 采用中心服務(wù)器模式來管理整個(gè)云存儲(chǔ)文件系統(tǒng)，所有元數(shù)據(jù)均保存在 Master Server 上，文件則劃分為多個(gè) chunk 存儲(chǔ)在不同的 Chunk Server 上。 ? 智能管理 提供基于 WEB 的管理平臺(tái)，所有的管理工作均由 cStor 管理模塊自動(dòng)完成，使用人員無需任何專業(yè)知識(shí)便可以輕松管理整個(gè)系統(tǒng)。 ? 通用易用 cStor 云存儲(chǔ)系統(tǒng)提供標(biāo)準(zhǔn) POSIX 接口，無論是哪種操作