【文章內(nèi)容簡介】 集群管理技術(shù)，存儲節(jié)點(diǎn)錯誤檢測和調(diào)度機(jī)制，可以實現(xiàn)存儲節(jié)點(diǎn)錯誤的透明化，從而實現(xiàn)對客戶端而言，提高存儲服務(wù)的高可用性。即元數(shù)據(jù)服務(wù)器實時監(jiān)測各數(shù)據(jù)節(jié)點(diǎn)情況，一旦發(fā)現(xiàn)節(jié)點(diǎn)異常，則將節(jié)點(diǎn)所負(fù)責(zé)的業(yè)務(wù)調(diào)度到其他節(jié)點(diǎn)上。再配合客戶端反饋異常機(jī)制，以及將之后的業(yè)務(wù)流進(jìn)行重新定位等，實現(xiàn)集群對存儲節(jié)點(diǎn)錯誤的屏蔽，大幅提高存儲服務(wù)的高可用性。元數(shù)據(jù)服務(wù)器管理著分布式文件系統(tǒng)的所有元數(shù)據(jù)，其高可用性直接影響著系統(tǒng)的可用性。本系統(tǒng)采用高可用性High Available技術(shù)，保證元數(shù)據(jù)服務(wù)器集群實時同步元數(shù)據(jù)，快速檢測異常，以及迅速接管服務(wù)，保證了系統(tǒng)的高可用。元數(shù)據(jù)服務(wù)器集群內(nèi)部，通過單獨(dú)網(wǎng)絡(luò)連接，進(jìn)行實時的錯誤檢測。單獨(dú)網(wǎng)絡(luò)保證心跳不會受到數(shù)據(jù)中心其他網(wǎng)絡(luò)通訊的干擾，保證鏈路的可靠性。心跳機(jī)制保證集群服務(wù)器之間錯誤的實時檢測和發(fā)現(xiàn)，為主備快速切換提供保證。元數(shù)據(jù)高可用性保證示意圖一組元數(shù)據(jù)服務(wù)器集群，對外表現(xiàn)為一個虛IP（VIP），即元數(shù)據(jù)服務(wù)器集群內(nèi)的失敗檢測、錯誤接管對外部而言是透明的。為提供更高可靠性，元數(shù)據(jù)服務(wù)器集群內(nèi)部，通過獨(dú)立的心跳網(wǎng)絡(luò)，實時監(jiān)控集群服務(wù)狀態(tài)，在出現(xiàn)主元數(shù)據(jù)服務(wù)器異常時，自動推舉從節(jié)點(diǎn)接管服務(wù)，完成內(nèi)部失敗接管，而整個過程都是元數(shù)據(jù)集群內(nèi)部完成，對外部而已是無感知的。 智能運(yùn)維管理運(yùn)維管理平臺為系統(tǒng)管理員提供配置和維護(hù)云存儲系統(tǒng)的有效工具，提供Web界面，充分體現(xiàn)了系統(tǒng)的可維護(hù)性。管理監(jiān)控中心提供設(shè)備管理、系統(tǒng)監(jiān)控、告警管理、故障管理等功能。設(shè)備管理包括設(shè)備IP配置、數(shù)據(jù)格式化、添加設(shè)備、刪除設(shè)備等功能。設(shè)備的版本、CPU、內(nèi)存、網(wǎng)卡、磁盤可以通過運(yùn)維界面很方便地查看。作為整個云存儲系統(tǒng)的管理接口，實現(xiàn)集群管理、維護(hù)、監(jiān)測的友好、簡單。只有系統(tǒng)留有一定的備份空間，保證部分硬盤或者節(jié)點(diǎn)故障后，可用空間依然可以達(dá)到系統(tǒng)的要求，則硬盤或者節(jié)點(diǎn)錯誤就可以集中處理，批量更換故障設(shè)備。這樣用戶就不需要去關(guān)注每個錯誤，只需要定期檢查整體容量是否充足，大幅減低了維護(hù)工作量。 系統(tǒng)自帶郵件通知組件，在有新的故障發(fā)生時，比如系統(tǒng)容量不足，硬盤故障，數(shù)據(jù)節(jié)點(diǎn)故障等情況，會立即發(fā)送郵件給配置好的運(yùn)維收件人列表。在系統(tǒng)有任意錯誤時，每天早上會發(fā)送一份日給運(yùn)維人員，以免維護(hù)人員忘記處置。 云存儲運(yùn)維系統(tǒng)已經(jīng)和云平臺以及整個系統(tǒng)的運(yùn)維平臺進(jìn)行對接，可以在云平臺或者運(yùn)維平臺對云存儲進(jìn)行統(tǒng)一管理，協(xié)議采用SNMP，RESTful等接口進(jìn)行對接。 可以通過運(yùn)維系統(tǒng)對元數(shù)據(jù)服務(wù)器或者數(shù)據(jù)節(jié)點(diǎn)進(jìn)行升級，由于元數(shù)據(jù)節(jié)點(diǎn)采用了集群模式，其中一個元數(shù)據(jù)服務(wù)器升級并不會中斷業(yè)務(wù)，數(shù)據(jù)節(jié)點(diǎn)也是，失敗接管模塊會將正在升級的數(shù)據(jù)節(jié)點(diǎn)負(fù)載分?jǐn)偟狡渌?jié)點(diǎn)。第4章 方案部署 典型應(yīng)用場景平安城市項目建設(shè)過程中，可結(jié)合項目建設(shè)場景和核心功能，來規(guī)劃云存儲的應(yīng)用方案設(shè)計。本章對不同典型應(yīng)用場景的業(yè)務(wù)特點(diǎn)進(jìn)行了分析，對不同場景下的云存儲應(yīng)用模式進(jìn)行了說明。 場景1:海量視頻錄像存儲在目前的平安城市項目建設(shè)中，由于高清技術(shù)和網(wǎng)絡(luò)帶寬能力不斷提升，通常在建設(shè)后端時會面臨海量的集中式視頻存儲需求（從1PB到20PB），這種應(yīng)用場景下客戶典型的需求有：對云存儲系統(tǒng)的基本需求包括：（1PB～20PB）；、節(jié)點(diǎn)故障等情況下錄像不丟失、業(yè)務(wù)不中斷；；；除此之外，當(dāng)應(yīng)用場景專注視頻存儲業(yè)務(wù)，對高性價比和運(yùn)營成本比較關(guān)注時，可以首選視頻云直存系統(tǒng)方案：視頻云直存方案云直存是一種視頻業(yè)務(wù)強(qiáng)相關(guān)的“應(yīng)用云存儲”解決方案，方案將視頻監(jiān)控業(yè)務(wù)中的主要特性融合到云存儲系統(tǒng)中，如前端接入，碼流的存儲、轉(zhuǎn)發(fā)、點(diǎn)播等功能，單存儲節(jié)點(diǎn)即可配合視頻監(jiān)控平臺和業(yè)務(wù)應(yīng)用系統(tǒng)為用戶提供高效穩(wěn)定的存儲和視頻業(yè)務(wù)支撐能力。另外，由于視頻錄像存儲業(yè)務(wù)的特點(diǎn)是大量持續(xù)的寫，少量突發(fā)的讀（點(diǎn)播/轉(zhuǎn)發(fā)），因此雖然單個云直存系統(tǒng)需要負(fù)責(zé)存儲、轉(zhuǎn)發(fā)、點(diǎn)播三大視頻業(yè)務(wù)，但是實際上轉(zhuǎn)發(fā)和點(diǎn)播對性能形成的負(fù)荷比例較少，系統(tǒng)所設(shè)計的性能余量完全能滿足視頻業(yè)務(wù)的需求。海量視頻云直存應(yīng)用場景下的用戶價值主要是：海量空間系統(tǒng)規(guī)模最大4096PB，系統(tǒng)標(biāo)配支持16PB、支持海量文件數(shù)量；，單域系統(tǒng)支持1萬路高清同時錄像回放，超大文件秒級下載；低冗余、高可靠業(yè)界先進(jìn)Erasure Code冗余技術(shù)空間利用率達(dá)到80%以上，支持文件級容錯，單硬盤損壞數(shù)據(jù)可自動恢復(fù)，恢復(fù)時間小于30分鐘，采用節(jié)點(diǎn)間容錯技術(shù)，多節(jié)點(diǎn)損壞不影響讀和寫業(yè)務(wù)，最多支持4臺設(shè)備損壞；易運(yùn)維高可靠設(shè)計、硬盤和節(jié)點(diǎn)故障不影響視頻業(yè)務(wù)，可統(tǒng)一更換，單人可管理上萬臺設(shè)備；彈性擴(kuò)展空間按需分配，支持硬盤熱插拔即擴(kuò)即用；支持在線增加和移除存儲節(jié)點(diǎn)，無需停止存儲服務(wù)，無需配置；擴(kuò)容無需數(shù)據(jù)遷移；單節(jié)點(diǎn)擴(kuò)容上線時間小于1分鐘；高性價比云直存系統(tǒng)不需要碼流的二次轉(zhuǎn)發(fā)，節(jié)省了流媒體轉(zhuǎn)發(fā)服務(wù)器，并節(jié)省了整體的運(yùn)營成本，接入前端設(shè)備取流后，可直接把錄像保存在存儲節(jié)點(diǎn)，并節(jié)省了網(wǎng)絡(luò)流量；云轉(zhuǎn)存是一種標(biāo)準(zhǔn)的視頻存儲方案，和視頻流直存方案相比，視頻云轉(zhuǎn)存方案的主要特點(diǎn)是：，IT分層架構(gòu)，各層次劃分清晰，業(yè)務(wù)與存儲解耦合，不會相互干擾；，進(jìn)行按需擴(kuò)容，更加靈活；（如大數(shù)據(jù)智能分析業(yè)務(wù)），轉(zhuǎn)存方式相對更加穩(wěn)定，性能Qos保障更加；，但是如果考慮到對流媒體轉(zhuǎn)發(fā)服務(wù)器使用虛擬化等技術(shù)方案整合后，也可以達(dá)到較好的整體方案性價比；視頻云轉(zhuǎn)存方案 場景2:海量卡口圖片存儲平安城市項目中有大量卡口建設(shè)，卡口圖片有量級大（一般城市卡口圖片均在百億級別）、小文件(每張約512KB)的特點(diǎn)。大華圖片云直存方案和圖片云轉(zhuǎn)存方案針對海量卡口圖片場景有以下特點(diǎn)：1． 場景優(yōu)化卡口圖片屬于小文件，并且在道路通行高峰期間會帶來較大的小文件并發(fā)寫入，引起iops風(fēng)暴，大華云存儲方案專門針對圖片小文件并發(fā)寫入進(jìn)行了場景調(diào)優(yōu)，最小規(guī)模云存儲系統(tǒng)可支持每秒1500張圖片并發(fā)寫入（可滿足一線城市需求），可保證前端卡口圖片的實時可靠保存；同時在云存儲內(nèi)部做了卡口小文件的聚合，提供更多的圖片存儲張數(shù)和讀取訪問效率；2． 視頻圖片混合存儲針對需要對卡口和電警進(jìn)行視頻圖片混合存儲的場景可統(tǒng)一存儲，無需單獨(dú)劃分資源進(jìn)行圖片存儲，提高系統(tǒng)利用率；3． 低成本通過獨(dú)創(chuàng)Erasure Coding技術(shù)，大幅提升存儲空間利用率，大幅降低成本；4． 高性價比圖片云直存系統(tǒng)不需要圖片的二次轉(zhuǎn)發(fā)，節(jié)省了圖片轉(zhuǎn)發(fā)服務(wù)器，并節(jié)省了整體的運(yùn)營成本，接入前端卡口后，可直接把圖片保存在云存儲節(jié)點(diǎn)；視頻圖片云直存方案視頻圖片云轉(zhuǎn)存方案相對直存方案來說建設(shè)成本較高，但是如果考慮到對圖片轉(zhuǎn)發(fā)服務(wù)器使用虛擬化等技術(shù)方案整合后，其性能更穩(wěn)定、業(yè)務(wù)接入更容易；因此也可以達(dá)到較好的整體方案性價比。 視頻圖片云轉(zhuǎn)存方案 場景3:價值視圖數(shù)據(jù)二次存儲現(xiàn)階段平安城市建設(shè)中有價值數(shù)據(jù)較多，缺乏共享應(yīng)用從系統(tǒng)的數(shù)據(jù)來源分析，目前公安系統(tǒng)的數(shù)據(jù)資源主要由以下三個部分組成：公安視頻監(jiān)控系統(tǒng)由于建設(shè)時期的不同，缺乏統(tǒng)籌規(guī)劃，公安機(jī)關(guān)各部門、警種建設(shè)的視頻監(jiān)控系統(tǒng)相對獨(dú)立，視頻數(shù)據(jù)無法共享應(yīng)用，存在信息孤島現(xiàn)象。另外，由于參與廠家眾多，采用的設(shè)備各異、技術(shù)標(biāo)準(zhǔn)不一、兼容性不足等原因，導(dǎo)致視頻數(shù)據(jù)只能保留在各自系統(tǒng)內(nèi)，無法做到數(shù)據(jù)的共享。公安各類業(yè)務(wù)系統(tǒng)公安機(jī)關(guān)各類業(yè)務(wù)系統(tǒng)中，既有統(tǒng)一規(guī)劃建設(shè)的信息資源系統(tǒng)，如大情報系統(tǒng)、警綜系統(tǒng)、公安八大數(shù)據(jù)庫等，也有各個地市部門在不同時期按照自身需求建設(shè)的地方特色業(yè)務(wù)系統(tǒng)，如指揮調(diào)度系統(tǒng)、圖像偵查系統(tǒng)等，這些系統(tǒng)異構(gòu)性較強(qiáng)，業(yè)務(wù)數(shù)據(jù)相對獨(dú)立，數(shù)據(jù)多存儲在各自的業(yè)務(wù)系統(tǒng)中。實戰(zhàn)業(yè)務(wù)中的視圖數(shù)據(jù)實戰(zhàn)業(yè)務(wù)中的視圖數(shù)據(jù)主要是民警在日常的視頻巡邏以及案事件處理、情報研判等實戰(zhàn)業(yè)務(wù)中產(chǎn)生的大量的具有實戰(zhàn)價值、共享價值和應(yīng)用價值的視圖數(shù)據(jù)。目前，這部分?jǐn)?shù)據(jù)的管理和存儲相對分散，很多數(shù)據(jù)甚至離散的存儲于民警的個人存儲介質(zhì)或者紙質(zhì)記錄中，缺乏統(tǒng)一的、規(guī)范的入庫、管理、應(yīng)用。其中視圖相關(guān)系統(tǒng)的數(shù)據(jù)存儲的特點(diǎn)是：存儲數(shù)據(jù)量大，需考慮存儲性能由于視頻監(jiān)控技術(shù)的發(fā)展，高清監(jiān)控系統(tǒng)的普及，在圖像清晰度上有了質(zhì)的飛躍，但是因其分辨率大、清晰度高，相應(yīng)的傳輸碼流就會增大，進(jìn)而增加了網(wǎng)絡(luò)帶寬和數(shù)據(jù)存儲的壓力。另外由于視頻文件是公安日常辦案中重要的取證來源之一，所以相關(guān)的案事件的視頻需要保證完整性，一般都不允許壓縮和處理。隨著視頻監(jiān)控系統(tǒng)的部署運(yùn)行，視頻文件的絕對數(shù)據(jù)量變得相當(dāng)龐大，對視頻文件的存儲與管理成為系統(tǒng)要處理的一大問題。視頻全警業(yè)務(wù)應(yīng)用從視頻數(shù)據(jù)的數(shù)據(jù)量增長的角度來考慮，隨著公安業(yè)務(wù)及視頻技術(shù)的不斷發(fā)展，視頻數(shù)據(jù)在公安業(yè)務(wù)中所占的比例將越來越重，這勢必對視頻監(jiān)控系統(tǒng)的吞吐能力及處理性能提出了很高的要求?？紤]到視頻監(jiān)控系統(tǒng)部署應(yīng)用后帶來的群居效益，系統(tǒng)每日需要處理的數(shù)據(jù)量肯定會有幾何倍數(shù)的增加，因此視頻監(jiān)控系統(tǒng)必須要從系統(tǒng)的可擴(kuò)展性和負(fù)載能力的角度考慮數(shù)據(jù)的存儲問題。高價值視頻可靠存儲需求平安城市建設(shè)涉及到海量視頻和海量圖片的的存儲，對于圖偵應(yīng)用這些海量信息都是一些低價值密度的信息，日常的辦案過程民警會通過各種方式從海量的視頻、圖片中提取有價值的信息保持在不同的存儲介質(zhì)中，目前存在的問題是二次提取出來的高價值密度的信息保存分散，無法提供信息共享以及為后期決策分析提供有價值的參考。目前各地市公安機(jī)關(guān)對應(yīng)二次提取的與案事件相關(guān)高價值密度的視頻、圖像集中存儲非常重視，大華根據(jù)公安機(jī)關(guān)的業(yè)務(wù)需求，提供一個完整的視圖信息集中存儲解決方案，大華云存儲系統(tǒng)為其提供底層的信息存儲支撐。云存儲視圖庫應(yīng)用特點(diǎn)：視圖庫采用云存儲的概念來應(yīng)對海量案事件相關(guān)的視頻圖像文件存儲的技術(shù)要求，同時也需要對案事件處理過程中產(chǎn)生的半結(jié)構(gòu)化數(shù)據(jù)（如文檔）進(jìn)行保存。視圖庫用戶選擇云存儲系統(tǒng)的核心需求是：1. 一個高效、可靠的存儲系統(tǒng)永久保存案事件視頻；2. 高性能要求，可以滿足后續(xù)開放給全警應(yīng)用系統(tǒng)的并發(fā)訪問性能要求；3. 空間易擴(kuò)張、方便很多新的高價值視圖來源數(shù)據(jù)統(tǒng)一存儲；extremestor云存儲系統(tǒng)采用數(shù)據(jù)存儲服務(wù)器的方式，可支持多種文件系統(tǒng)，可擴(kuò)展的部署模式，可熱插拔的盤陣都有效的保證了海量數(shù)據(jù)的存儲擴(kuò)展能力。同時還具備高容錯能力，能夠自動保存數(shù)據(jù)的冗余信息，并且能夠自動將失敗的任務(wù)重新分配，確保數(shù)據(jù)的高可靠性和安全性，完全可以以最小的建設(shè)成本來滿足視圖庫的存儲要求。價值視圖數(shù)據(jù)二次存儲 場景4:融合共享存儲應(yīng)用場景除了上述常見的存儲應(yīng)用場景之外，大華云存儲系統(tǒng)通?？梢詽M足在平安城市建設(shè)中綜合應(yīng)用場景的存儲需求：1. 統(tǒng)一視頻云存儲在綜合性的平安城市建設(shè)項目中，需要建設(shè)視頻系統(tǒng)、卡口系統(tǒng)、實戰(zhàn)系統(tǒng)等不同業(yè)務(wù)應(yīng)用， 2. 存儲開放性需求綜合型項目中，其他第三方的業(yè)務(wù)系統(tǒng)通常對于視圖資源有訪問希求，因此需要我們在設(shè)計存儲系統(tǒng)時，存儲系統(tǒng)能體現(xiàn)出良好的開放性和服務(wù)性，保證第三方系統(tǒng)可以通過不同的方式敏捷訪問數(shù)據(jù)資源；首先，大華云存儲系統(tǒng)可以對視頻錄像、卡口圖片、案事件視圖文件通過建設(shè)一套云存儲進(jìn)行統(tǒng)一的存儲和管理，并通過劃分不同的邏輯配額，來滿足不同業(yè)務(wù)對存儲的空間管理和性能要求；在整體上又能最大限度的共享統(tǒng)一存儲系統(tǒng)的性能和空間資源，達(dá)到最優(yōu)的建設(shè)性價比和管理效率；其次，大華云存儲系統(tǒng)采用開放的分布式對象存儲技術(shù)，所有數(shù)據(jù)資源在獲得業(yè)務(wù)應(yīng)用系統(tǒng)相應(yīng)授權(quán)后，第三方系統(tǒng)可通過文件名結(jié)合存儲系統(tǒng)開發(fā)的服務(wù)方式高效訪問數(shù)據(jù)資源，使得存儲真正成為一項服務(wù)，而不是和單個業(yè)務(wù)系統(tǒng)強(qiáng)耦合的封閉體系，避免了煙囪式封閉的存儲建設(shè)方式；另外，公安各業(yè)務(wù)單位不同應(yīng)用對云存儲圖像信息資源的交互需求，可提供包括SDK開發(fā)包、流媒體SDK、POSIX接口、Restful接口庫等對接開發(fā)包；供不同的業(yè)務(wù)系統(tǒng)選擇訪問，為業(yè)務(wù)融合共享提供最優(yōu)的基礎(chǔ)條件。融合共享存儲解決方案 注：但由于網(wǎng)閘或者邊界接入系統(tǒng)原因造成的網(wǎng)絡(luò)隔離時，需要在專網(wǎng)和內(nèi)網(wǎng)各建設(shè)一套云存儲系統(tǒng)來滿足不同網(wǎng)絡(luò)中各個業(yè)務(wù)系統(tǒng)的存儲需求。 場景5:視圖智能分析大數(shù)據(jù)應(yīng)用隨著公安業(yè)務(wù)的發(fā)展，公安警務(wù)云和警務(wù)大數(shù)據(jù)建設(shè)是各省市公安信息化建設(shè)的必然趨勢，針對公安系統(tǒng)內(nèi)部視頻、圖片等大量非結(jié)構(gòu)化數(shù)據(jù)處理是公安警務(wù)云和大數(shù)據(jù)中心建設(shè)的重點(diǎn)，也是難點(diǎn)。智能視頻分析服務(wù)是公安警務(wù)云、視頻大數(shù)據(jù)建設(shè)的基礎(chǔ)服務(wù)，通過系統(tǒng)后端分析平臺可以靈活的對前端監(jiān)控點(diǎn)的視頻圖像進(jìn)行分析，實現(xiàn)視頻濃縮摘要分析、人臉采集、車輛分析、視頻質(zhì)量輪巡等多種智能分析功能，可以將大量低價值密度的視頻、圖像的非機(jī)構(gòu)數(shù)據(jù)提取出來轉(zhuǎn)變?yōu)榭梢岳酶邇r值密度的數(shù)據(jù)信息力助公安大數(shù)據(jù)平臺建設(shè)。大量的智能分析服務(wù)對應(yīng)存儲的讀取性能要求非常高，傳統(tǒng)的安防視頻存儲方式已經(jīng)不能夠提供如此高密度的數(shù)據(jù)訪問要求，利用大華云存儲的高吞吐量和性能可以完美的配合視頻智能分析大數(shù)據(jù)應(yīng)用，提高視頻智能分析的效率。以視頻濃縮為例，采用云存儲技術(shù)配合云計算濃縮技術(shù)，可解決傳統(tǒng)單臺ipsan集中存儲時濃縮過程中讀取源視頻文件的性能瓶頸，實現(xiàn)對于GB級別文件的秒級讀取訪問，再結(jié)合云濃縮對視頻的分布式處理，實現(xiàn)對任