【正文】
路CIF碼流;考慮的做RAID后性能的提升,實際應用中也僅可以支持到的10001500路CIF碼流,換算成帶寬也就是6595MB/s之間。單4Gb/s的FC主機接口帶寬為500MB,2個千兆主機接口帶寬為250MB,主機接口帶寬均遠大于6595MB,即使按照主機接口應用帶寬約為理論帶寬的50%,也大于硬盤在監(jiān)控應用中的實際性能,即采用FC或者IP接口對監(jiān)控應用中的整體性能幾乎沒有什么影響。因此,考慮性能要求和投入成本,在監(jiān)控應用中我們使用IP存儲設備。通過實際測試也可以看到采用FC和IP的存儲性能相差無幾。IP網(wǎng)絡存儲單設備可以支持約400路D1碼流并發(fā)寫入。在RAID5降級情況下對實際性能幾乎無影響,RAID5重構情況下性能僅下降15%以內。由于監(jiān)控視頻數(shù)據(jù)需要反復的覆蓋寫入,采用傳統(tǒng)的文件系統(tǒng)會產生大量的磁盤碎片。傳統(tǒng)的磁盤陣列,由于附屬于前端的操作系統(tǒng),對磁盤碎片是無法處理的,只能依靠前端操作系統(tǒng)中文件系統(tǒng)的處理機制來處理(例如,NTFS和EXT3)。而傳統(tǒng)的文件系統(tǒng)設計的時候考慮更多的是在磁盤沒有寫滿的情況下如何更快的響應一般客戶操作或者數(shù)據(jù)庫的請求,對于類似監(jiān)控類型的反復覆蓋訪問方式不是很適用。在長時間使用之后,性能和磁盤利用率均會大幅下降,并且還會造成磁盤加速損壞,縮短磁盤壽命。IP存儲系統(tǒng)應采用磁盤預分配與延遲分配技術相結合,首先查找空閑空間區(qū)域并用于存儲新數(shù)據(jù)的過程,最大程度地提高系統(tǒng)性能和避免磁盤碎片。同時,結合高效的碎片整理程序,在系統(tǒng)空閑時對磁盤碎片進行整理,能夠減少90%以上的文件碎片,大幅改善系統(tǒng)的性能。關于錄像文件大小的計算,采用如下方式:對數(shù)字圖像實現(xiàn)每天24小時的不間斷存儲,采用4 Mbps碼流,數(shù)據(jù)保存周期為30天。共計1路視頻,則所需硬盤容量計算方式如下:視頻碼流247。8(轉換為字節(jié))3600(得到一小時存儲容量)24(得到一天存儲容量)30(得到30天存儲容量)1(得到30天1路視頻存儲容量)247。1024(轉化單位為GB)247。(考慮到格式化后的硬盤損失10%)247。1024(轉化單位為TB)4 Mbps247。8360024301247。1024247。247。1024≈ TB以交管局指揮中心原有的200路圖像為例,改建200路模擬圖像為720p高清圖像,采用4Mbps碼率,錄像時間為30天,則4Mbps247。836002430200247。1024247。247。1024≈ TB根據(jù)計算,共計需要存儲空間2754TB。則需要2TB硬盤138塊??紤]到數(shù)據(jù)安全性,需要對磁盤陣列做RAID5,原則上10塊—14塊存儲硬盤做一個1個RAID5陣列,則每個RAID5陣列還需要檢驗盤1塊,熱備盤1塊。所以需要部署4臺48盤位磁盤陣列,2TB企業(yè)級硬盤共158塊。其他大隊可采用類似方法計算。視頻監(jiān)控圖像存儲應具備高度的可靠性,不允許出現(xiàn)需要回放某一時間某一地點的錄像時,出現(xiàn)沒有錄像或不能回放的情形。存儲系統(tǒng)的設計和配置需要從以下幾個方面提高系統(tǒng)的可靠性: 存儲服務器的冗余技術,確保存儲管理不間斷工作。 存儲磁盤陣列控制器的冗余技術。 磁盤的冗余技術,采用各種RAID機制。 磁盤在線更新機制,采用熱備盤實現(xiàn)故障的自動替換。 對重點錄像進行備份存儲。磁盤陣列應采用成熟的Intel硬件平臺,加上穩(wěn)定的StorOS操作系統(tǒng)的配合,從而具有穩(wěn)定的產品性能。1)產品應具備Raid0,1,5,6,10,50,JBOD和熱備盤技術等熱備技術;采用常用的RAID 5+1片熱備盤的冗余機制時,當盤組里任何一片盤損壞時,通過校驗數(shù)據(jù)塊計算壞盤的數(shù)據(jù),保障了出現(xiàn)壞盤情況下的數(shù)據(jù)不丟失以及持續(xù)可訪問性。配合熱備盤技術,熱備盤自動頂替壞盤,并由Raid組中的其它工作盤自動計算壞盤的數(shù)據(jù)并寫入熱備盤,實現(xiàn)對壞盤數(shù)據(jù)的重構;RAID重構對整體性能的影響在15%以下。2)冗余熱插拔風扇、冗余電源屏蔽了這些部件的故障導致的設備故障,同時這些部件支持在線更換。3)UPS保護UPS掉電數(shù)據(jù)保護技術,產品能檢測到UPS的供電狀態(tài),當出現(xiàn)掉電的情況,產品能夠按預先設置的策略實現(xiàn)數(shù)據(jù)從緩存回寫到磁盤上,保證了的數(shù)據(jù)的完整性。一般的磁盤陣列都具有上述可靠性保護技術,這些技術也解決了用戶大部分的數(shù)據(jù)丟失的安全隱患,但是不夠徹底。例如當磁盤的損壞突破了RAID機制的磁盤冗余的極限,冗余硬件全部出現(xiàn)故障,UPS保護時間不夠等情況,都可能導致整個系統(tǒng)的服務中斷。為了解決以上的相對極端的問題,存儲系統(tǒng)也應提供相應的措施來保證服務連續(xù)性和數(shù)據(jù)不丟失。N+m備機模式該模式下,N臺存儲設備為編碼器提供在線存儲服務,同時配置m臺(這里以1臺為例)存儲設備作為備機。通過底層系統(tǒng),備機會實時監(jiān)測在線存儲設備的工作狀況,當在線存儲出現(xiàn)服務中斷(多磁盤故障、硬件部件故障等)時,備機會接替故障機所有的前端(編碼器)配置信息,繼續(xù)提供存儲服務,保證整個系統(tǒng)的服務持續(xù)性。當在線存儲恢復后,會繼續(xù)提供在線存儲服務,備機停止服務。IP存儲系統(tǒng)可以結合前端編碼設備,在前端設備配置SD卡,在存儲系統(tǒng)服務中斷期間實現(xiàn)錄像接管,并在網(wǎng)絡恢復時將前端視頻數(shù)據(jù)透明化復制至磁盤陣列保證視頻數(shù)據(jù)不丟失,提升網(wǎng)絡存儲的可靠性與靈活性,實現(xiàn)數(shù)據(jù)雙備份。在監(jiān)控的存儲系統(tǒng)中,存儲系統(tǒng)的I/O 吞吐能力也是一個極為重要的參數(shù),在大規(guī)模監(jiān)控系統(tǒng)中,由于同時存儲的數(shù)據(jù)量較大,需要存儲系統(tǒng)能夠提供較為強大的I/O 吞吐能力才能正常進行數(shù)據(jù)的存儲,否則既有可能因為存儲系統(tǒng)的I/O能力不足,在存儲系統(tǒng)中形成性能瓶頸而造成資料無法存儲、已存儲的資料丟失、甚至于整個系統(tǒng)的崩潰。此處計算結果為實際需要值,而且為存儲系統(tǒng)寫入處理的能力,并且為多文件同時寫入,對于存儲系統(tǒng)的要求極為苛刻。通常在存儲設備的參數(shù)中,所提供的技術參數(shù)一般為實驗室測試環(huán)境中的理想測試值,在實際使用中會有較大幅度的衰減,一般來說,存儲設備的讀取速度會高于寫入速度,在進行參數(shù)對比時需要注意區(qū)分。在選擇監(jiān)控存儲產品時,同樣需要考慮到存儲系統(tǒng)I/O 能力的冗余,與存儲空間不同的是,數(shù)據(jù)存儲的動作是時刻在進行的,而且非常的關鍵,一旦發(fā)生I/O阻塞,其后果不堪設想。所以,選擇時應該至少為I/O留出50%以上的性能冗余。各大隊分控中心配置的千兆網(wǎng)絡交換機(端口帶寬1000M),同時其他大隊的監(jiān)控點位少于230個點上,因此千兆光纖上傳鏈路同樣可以滿足帶寬傳輸?shù)男枨蟆?在派出所和區(qū)縣監(jiān)控中心部署存儲管理服務器,內嵌平臺軟件的網(wǎng)絡存儲管理服務軟件,是針對大型網(wǎng)絡監(jiān)控系統(tǒng)環(huán)境的專用存儲管理軟件模塊,實現(xiàn)遠程所有圖像的實時錄像、報警錄像、中心集中備份和事后檢索查詢服務,計劃錄像下支持補錄。支持 DAS、NAS、SAN等多種存儲方式,對于視頻文件存儲我們建議采用 IPSAN存儲方式。網(wǎng)絡存儲管理服務器根據(jù)實際需求部署,一臺存儲管理服務器可以管理的視頻路數(shù)不限,但是同時并發(fā)存儲處理的視頻路數(shù)受到服務器性能限制,目前測試的結果是在 1000M網(wǎng)絡環(huán)境下一臺IPSAN存儲設備可以并發(fā)響應 380路 CIF格式的視頻流,256路 D1格式視頻。網(wǎng)絡存儲服務器軟件通過網(wǎng)絡獲取系統(tǒng)中所有視頻源的信息,存儲到大容量的存儲設備中。系統(tǒng)可以支持 n臺計算機組成的分布式集群存儲結構。在這些計算機的通訊底層是我們的高性能通訊平臺技術。在正常運作的情況下,每一臺存儲計算機負責存儲整個系統(tǒng)中的某些錄像信息。首先我們需要定義存儲組,每一個存儲組有 n路圖像組成。我們把一個存儲組綁定到一臺存儲服務器,這樣全系統(tǒng)的圖像將通過不同的存儲服務器進行存儲。存儲管理服務器管理的對象可以是 PC服務器存儲設備、 DVR設備、IP網(wǎng)絡攝像機,也可以是磁盤陣列或磁帶庫。 首先系統(tǒng)體系結構上的容錯技術。我們的系統(tǒng)支持分布式的集群技術,簡單地講,每臺服務器正常執(zhí)行當前的存儲任務,但是同時又作為其他服務器的后備集群節(jié)點。當集群系統(tǒng)某一節(jié)點出現(xiàn)故障,那么我們的底層通訊協(xié)議能夠準確地監(jiān)測到這臺機器的問題,這就是所謂的成員離開事件,成員離開事件將被可信協(xié)議遞交到集群中的每一個節(jié)點,它的備份服務器將立刻承擔起失敗節(jié)點的責任,進行錄像。這就是容錯功能。而當失敗的節(jié)點修復后重新啟動并開始錄像,底層通訊協(xié)議能夠把這個重新加入的時間遞交給每一個節(jié)點,這是所謂的成員加入事件。備份服務器接收到這個時間以后就停止錄像。這就是錯誤恢復功 能。另外,在錄像分包時,每一個錄像文件結束和一個新的錄像文件開始,系統(tǒng)都被冗余一部分數(shù)據(jù),以保證沒有任何圖像幀丟失。 當系統(tǒng)發(fā)現(xiàn)存儲的容量超過系統(tǒng)規(guī)定的最高警戒線,將開始啟動清盤任務,這個工作是由存儲管理服務器來管理的,存儲管理服務器將定時檢查磁盤的情況,進行磁盤的清理、自動導出等功能。系統(tǒng)提供集中清盤策略,包括先進先出,最近訪問,最多訪問,以及保留優(yōu)先權。在先進先出的情況下,所有最先錄制的圖像數(shù)據(jù)將被刪除。而在最近訪問策略中,越最近訪問的錄像資料將被保留越久,越多訪問策略則考慮整個系統(tǒng)用戶對資料的訪問頻度,訪問的人越多,錄像資料保留得越久。在所有這些策略中,都可以定義保留優(yōu)先級,如果某一通道的優(yōu)先保留權越高,那么它的數(shù)據(jù)將被越后刪除,并且系統(tǒng)可以定義保留的時間長度。 監(jiān)控資料的后期檢索也是監(jiān)控系統(tǒng)中的一個非常重要的環(huán)節(jié)。在監(jiān)控中的,實時監(jiān)控圖像固然重要,錄制下來的監(jiān)控資料也會在關鍵時候發(fā)揮更大的作用,如:交通監(jiān)控中,錄制下來的監(jiān)控資料可以作為交通違章的證據(jù);在治安監(jiān)控中,錄制下來的監(jiān)控資料可以作為不法分子的犯罪證據(jù);在企業(yè)監(jiān)控中,錄制下來的監(jiān)控資料可以作為意外事件中的分析資料等等。完善的監(jiān)控系統(tǒng)會提供多種監(jiān)控資料的后期檢索方式以供選擇,一般會分為簡單檢索功能和復雜的檢索功能。通常在簡單監(jiān)控系統(tǒng)中,可以直接通過硬盤錄像機的檢索回放功能即可檢索到所需資料,而在大型監(jiān)控系統(tǒng)中,例如公安治安監(jiān)控,由于需要經(jīng)常性的檢索監(jiān)控歷史資料,并且同一時間可能會有很多相關人員進行檢索。本系統(tǒng)將提供功能完善的檢索查詢系統(tǒng),包括多種查詢方式。但需要注意的是,用戶的查詢檢索同樣會消耗存儲系統(tǒng)的I/O,并且是與監(jiān)控錄制系統(tǒng)同時工作,尤其檢索查詢的用戶同時大量并發(fā)時,對存儲系統(tǒng)將會是一個嚴重的考驗,相對影響存儲系統(tǒng)的性能。所用產品的高級特性主要體現(xiàn): IP SAN 存儲系統(tǒng)擁有不少于4個前端GE接口,可連接前端主機或網(wǎng)絡交換機,多條數(shù)據(jù)鏈路支持鏈路聚合和故障切換,時刻保障數(shù)據(jù)通路的可用和暢通。 IP SAN 可通過前端交換機進行橫向擴展,整個存儲系統(tǒng)的性能、容量、可靠性線性增加,并提供單一管理窗口簡化系統(tǒng)管理維護工作。 IP SAN 支持硬盤在線熱插拔,支持硬盤電源短路保護(5V、12V),支持系統(tǒng)啟動時硬盤順序加電,提供更全面的硬件保護手段。 提供全局/專用/分布式熱備盤(Hotspare),增強RAID 數(shù)據(jù)保護機制。 IP SAN 可選冗余熱插拔電源,支持電源自動故障切換,并支持外接UPS,避免電源故障帶來的系統(tǒng)異常。 IP SAN 基于64位硬件體系架構和64位專用存儲操作系統(tǒng),最少4GB緩存配置,可擴展至16GB。支持寫緩存鏡像,并且寫緩存支持電池保護,在斷電情況下,支持寫緩存100小時數(shù)據(jù)保護 雙控制器架構,每個控制器采用雙核存儲處理器。 單柜支持16 塊以上硬盤,支持SAS ,SATA 硬盤,最大支持硬盤數(shù)=192,存儲容量可擴展至192TB; 支持RAID 0,1,5,6,10,支持RAID容量在線動態(tài)擴展功能。 IP SAN 最少提供500MB/s 的帶寬和120000 IOPS 的處理能力。 IP SAN 提供快照拷貝、快照、鏡像、復制等豐富的數(shù)據(jù)管理功能,快速備份數(shù)據(jù),保護數(shù)據(jù)免受軟故障危害。 用戶通過選配IP SAN 的PC/服務器客戶端軟件,可對Windows系列操作系統(tǒng)提供系統(tǒng)/文件級快速備份和恢復,同時支持PC/服務器本地系統(tǒng)損壞后的鏡像啟動和快速恢復。 通過簡潔方便的GUI 界面,可進行近端或遠程的各種配置和管理,并可統(tǒng)一管理網(wǎng)絡中部署的全部存儲設備。 IP SAN 的管理與網(wǎng)絡管理軟件融合,用戶可以像管理其它網(wǎng)絡設備一樣,輕松管理IP SAN。 采用高可靠的企業(yè)級磁盤(MTBF≥100 萬小時),降低磁盤損壞率; 支持多條數(shù)據(jù)鏈路連接,保障數(shù)據(jù)通路的可用和暢通冗余鏈路; 采用冗余電源、冗余風扇 支持RAID 在線容量動態(tài)擴展功能 即插即用,無需復雜的連接設備,安裝調試簡單; 圖形化的中文管理界面; 多臺設備可在網(wǎng)管軟件平臺下統(tǒng)一集中管理; 提供重要數(shù)據(jù)的保護功能的多種手段:(RAIDHotspare、數(shù)據(jù)快照或克隆功能);