【正文】
件系統(tǒng)(格式化)操作??蛻舳擞?jì)算機(jī)對(duì)這些卷的訪問方式為設(shè)備級(jí)的塊訪問, IPSAN 通過把數(shù)據(jù)分成多個(gè)數(shù)據(jù)塊 (Block)并行寫入 /讀出磁盤,塊級(jí)訪問的特性決定了 iSCSI數(shù)據(jù)訪問的高 I/O性 能和傳輸?shù)脱舆t。 IPSAN 繼承了 IP 網(wǎng)絡(luò)開放、高性能、高可靠性、易管理、可擴(kuò)展性強(qiáng)、自適應(yīng)性強(qiáng)的優(yōu)點(diǎn),存儲(chǔ)方式靈活,實(shí)現(xiàn)存儲(chǔ)網(wǎng)絡(luò)與應(yīng)用網(wǎng)絡(luò)的無縫連接,并提供了優(yōu)良的遠(yuǎn)程數(shù)據(jù)復(fù)制和容災(zāi)特性。 IPSAN 存儲(chǔ)具有如下特點(diǎn): 41 41 ? 具有高帶寬“塊”級(jí)數(shù)據(jù)傳輸?shù)膬?yōu)勢(shì)。 ? 基于 TCP/IP, IP 網(wǎng)絡(luò)技術(shù)成熟,具有 TCP/IP 的所有優(yōu)點(diǎn),如可靠傳輸,可路由等,減少了配置、維護(hù)、管理的復(fù)雜度。 ? 可以通過以太網(wǎng)來部署 iSCSI 存儲(chǔ)網(wǎng)絡(luò),易部署,成本低。 ? 易于擴(kuò)展,當(dāng)需要增加存儲(chǔ)空間時(shí),只需要增加存儲(chǔ)設(shè)備即可完全滿足,擴(kuò)展性 高。 ? 數(shù)據(jù)遷移和遠(yuǎn)程鏡像容易,只要網(wǎng)絡(luò)帶寬支持,基本沒有距離限制,更好的支持備份和異地容災(zāi)。 FC SAN 與 IP SAN 的比較及其在監(jiān)控應(yīng)用中的選擇 模式分析 1) FC SAN 模式分析 傳統(tǒng)的存儲(chǔ)網(wǎng)絡(luò)多采用光纖通道 (FC, Fiber Channel)的方式,整個(gè)系統(tǒng)包括每個(gè)服務(wù)器端的光纖通道卡,光纖線,光纖通道交換機(jī)等。開放的、標(biāo)準(zhǔn)化的光纖通道技術(shù)使得FC SAN 非常靈活。 FC SAN 克服了傳統(tǒng)上與 SCSI 相連的線纜限制,極大地拓展了服務(wù)器和存儲(chǔ)之間的距離,從而增加了更多連接的可能性。 改進(jìn)的擴(kuò)展性還簡化了服務(wù)器的部署和升級(jí),保護(hù)了原有硬件設(shè)備的投資。 FC SAN 以其高性能、高穩(wěn)定性和高安全性在金融、政府、數(shù)據(jù)中心等高端應(yīng)用場(chǎng)合廣泛被使用,但是其本身固有的缺點(diǎn)使其在占絕大多數(shù)的中低端客戶中應(yīng)用并不廣泛。 FC SAN 的缺點(diǎn): ( 1)成本高,這是 FC SAN 的最大缺點(diǎn)。光纖交換機(jī)、 HBA光纖卡、光纖硬盤等設(shè)備都十分昂貴,每片光纖通道卡以及每個(gè)光纖通道交換機(jī)端口的價(jià)格是普通千兆以太網(wǎng)的 10至 20 倍以上,加上光纖的鋪設(shè)在中國大部分地區(qū)不是十分42 42 普及,整個(gè)系統(tǒng)的建設(shè)費(fèi)用非常昂貴; ( 2)異構(gòu)性。除 了高價(jià)外,最主要的問題是它與應(yīng)用網(wǎng)絡(luò)的異構(gòu)性。 FC SAN 是一種獨(dú)立的網(wǎng)絡(luò)架構(gòu)和技術(shù)模式,其和現(xiàn)在已經(jīng)十分發(fā)達(dá)的 IP 網(wǎng)絡(luò)完全不同,這種異構(gòu)性使得占市場(chǎng)大多數(shù)的中低端客戶,因面對(duì)相對(duì)陌生、復(fù)雜的 FC 技術(shù)望而卻步。 ( 3)容易形成存儲(chǔ)孤島。由于 FC SAN 受它的物理機(jī)理決定,它無法使存儲(chǔ)設(shè)備隨它在 Inter 上運(yùn)行,從而無法滿足應(yīng)用前端對(duì)存儲(chǔ)數(shù)據(jù) 無時(shí)不有、無處不在 的要求。要有鋪設(shè)光纖的地方,才可以部署 FC SAN 服務(wù)網(wǎng)絡(luò),同時(shí) SAN 的物理覆蓋有限,不超過 50 公里,這樣容易形成存儲(chǔ)孤島。 ( 4)管理難度大 ,人力成本高。 FC SAN 與現(xiàn)在的 IP 網(wǎng)絡(luò)完全不同,一般來說, FC SAN 多半需要特定的工具軟件來操作管理,所以需要對(duì)人員進(jìn)行一定時(shí)間的教育訓(xùn)練,而且費(fèi)用不低。 ( 5)設(shè)備的兼容性問題。由于標(biāo)準(zhǔn)的不統(tǒng)一,各個(gè) FC SAN 產(chǎn)品的生產(chǎn)廠家所生產(chǎn)的設(shè)備之間不兼容。 對(duì)各行各業(yè)的 IT 技術(shù)人員而言,網(wǎng)絡(luò)技術(shù)是基于Ether 及 TCP/IP 構(gòu)筑的,它們的許多應(yīng)用已建立在Inter 的架構(gòu)之上,并期待著存儲(chǔ)網(wǎng)絡(luò)化最終會(huì)向這個(gè)方向邁進(jìn)。過去 IT 發(fā)展的歷史已經(jīng)說明,包括 TokenRing、FDDI、 ATM 以及 Bell 發(fā)明了一百余年的、面向連接的語音交換技術(shù),都將統(tǒng)一融合到 TCP/IP 為基本架構(gòu)的 Inter 上去。 SAN 也將向基于 IP 網(wǎng)絡(luò)方向發(fā)展。 2) IP SAN 模式分析 IP SAN 是近些年來新興的網(wǎng)絡(luò)存儲(chǔ)技術(shù),它希望用 TCP/IP以太網(wǎng)替代光纖通道網(wǎng)絡(luò)。 IP SAN 的好處在于:使用以太網(wǎng)絡(luò),43 43 保護(hù)了用戶現(xiàn)有的投資;以太網(wǎng)系統(tǒng)造價(jià)低;以太網(wǎng)是成熟的技術(shù),具有良好的兼容性;以太網(wǎng)絡(luò)可以擴(kuò)展到遠(yuǎn)端,便于系統(tǒng)的做遠(yuǎn)程的容災(zāi)備份;以太網(wǎng)上現(xiàn)有的軟件也可以直接使用,例如 IP SAN 可以直接加上 IP sec 軟件,以達(dá)到存儲(chǔ)網(wǎng) 絡(luò)加密的目的;千兆以太網(wǎng)絡(luò)的廣泛使用,也使得 IP SAN 的性能得到提高??傊?,采用 IP SAN 存儲(chǔ)網(wǎng)絡(luò),可以達(dá)到好兼容性和最高的性能價(jià)格比。 iSCSI 協(xié)議是 IP SAN 中最為流行的協(xié)議,是 IP 存儲(chǔ)的典型代表。 iSCSI( Inter SCSI,互聯(lián)網(wǎng)小型計(jì)算機(jī)系統(tǒng)接口)是一種在 Inter 協(xié)議網(wǎng)絡(luò)上,特別是以太網(wǎng)上進(jìn)行數(shù)據(jù)塊傳輸?shù)臉?biāo)準(zhǔn)。它是由多家存儲(chǔ)廠商發(fā)起的,并且得到了 IP 存儲(chǔ)技術(shù)擁護(hù)者的大力支持。 iSCSI 是一個(gè)供硬件設(shè)備使用的,可以在IP 協(xié)議上運(yùn)行的 SCSI 指令集。簡單地說, iSCSI 是可以 在 IP網(wǎng)絡(luò)上運(yùn)行的 SCSI 協(xié)議。 Fiber Channel 搭建的 FC SAN 與利用 iSCSI 搭建的 IP SAN的區(qū)別:在 IP SAN 中,千兆以太網(wǎng)交換機(jī)代替了價(jià)格昂貴且只有 FC SAN 專用的光纖交換機(jī) ,客戶端的 Initiator 或 iSCSI 卡代替了價(jià)格較高的主機(jī) HBA 卡,具有 iSCSI 接口的高性價(jià)比的存儲(chǔ)設(shè)備代替了光纖磁盤陣列。 當(dāng)然,兩者的區(qū)別還不僅如此。 FC SAN 具有良好的擴(kuò)展性,IP SAN 的擴(kuò)展性更加出色。我們可以在 IP SAN 中使用 SCSI、 FC、SATA、 SAS 等多種磁盤陣列來擴(kuò)展 IP SAN 的容量。即使是比較大數(shù)據(jù)塊傳輸?shù)男阅?,基于多個(gè)千兆以太網(wǎng)口的 IP SAN 與基于4Gb/s 光纖的 FC SAN 差距也越來越小,隨著 10Gb 以太網(wǎng)的逐步普及,甚至?xí)^ FC SAN 網(wǎng)絡(luò)。 在安全性方面, iSCSI 規(guī)范包含了 Initiator 和目標(biāo)驗(yàn)證 (使用 CHAP、 SRP、 Kerberos 和 SPKM),以防止未經(jīng)授權(quán)的訪問,同44 44 時(shí)只允許可信賴的節(jié)點(diǎn)訪問。作為補(bǔ)充, IPSec 可以提供安全保證,防止偵聽。光纖通道協(xié)議是工作在第二層的協(xié)議,原本并沒有建立相應(yīng)的安全機(jī)制以及安全通用協(xié)議,只不過是基于邏輯上的數(shù)據(jù)通道綁定 。 由于 IP 技術(shù)的普及和發(fā)展,利用 iSCSI 技術(shù)搭建的 IP SAN可以隨著網(wǎng)絡(luò)延伸至全球任意一個(gè)角落,從根本上解決了信息孤島的問題。我們甚至可以通過 IP SAN 來連接各個(gè) FC SAN 的孤島。利用標(biāo)準(zhǔn)化的數(shù)據(jù)傳輸通道、標(biāo)準(zhǔn)的接口以及虛擬存儲(chǔ)管理技術(shù), IP SAN 存儲(chǔ)網(wǎng)絡(luò)幾乎可與所有種類的磁盤陣列兼容。產(chǎn)品互操作性的問題迎刃而解。 IP SAN 優(yōu)點(diǎn): ( 1)成本投入小。 iSCSI 所使用的適配卡、交換機(jī)和纜線這些產(chǎn)品的價(jià)格比 FC SAN 所選用的硬件產(chǎn)品價(jià)格要低,并且 iSCSI 可以在現(xiàn)有的網(wǎng)絡(luò)上直接安裝,并不需要更 改企業(yè)的網(wǎng)絡(luò)體系,這樣就大量節(jié)約資金投入。 ( 2)管理門檻及維護(hù)成本更低。一般來說, FC SAN 多半需要特定的工具軟件來操作管理,所以需要對(duì)人員進(jìn)行一定時(shí)間的教育訓(xùn)練,而且費(fèi)用不低。 iSCSI SAN 乃透過 IP 網(wǎng)絡(luò)來傳輸數(shù)據(jù)及分配存儲(chǔ)資源,所以只要使用網(wǎng)絡(luò)現(xiàn)有的管理功能即可,比較起來,的確可以省下大筆管理人力及訓(xùn)練成本。 ( 3)無距離限制。由于 iSCSI SAN 是一種基于 IP 網(wǎng)絡(luò)的存儲(chǔ)技術(shù),它會(huì)隨著 IP 網(wǎng)絡(luò)的延生而將存儲(chǔ)距離不斷擴(kuò)大,因此 iSCSI SAN 是無距離限制的。 ( 4)組建方式靈活,可擴(kuò)展性高。由 于 iSCSI SAN 存儲(chǔ)系統(tǒng)可以直接在現(xiàn)有的網(wǎng)絡(luò)系統(tǒng)中進(jìn)行組建,并不需要改變網(wǎng)絡(luò)體系,加上運(yùn)用交換機(jī)來連接存儲(chǔ)設(shè)備,對(duì)于需要增加存儲(chǔ)空間的圖書館來說,只需要增加存儲(chǔ)設(shè)備就可完全滿足,因此, iSCSI SAN45 45 存儲(chǔ)系統(tǒng)的可擴(kuò)展性高。 ( 5)傳輸速度快。拜 GE 以太網(wǎng)絡(luò)之賜,理論上, iSCSI SAN 的速度越來越高。更重要的是,一旦下世代的 10GB 以太網(wǎng)絡(luò)普及的時(shí)候, iSCSI SAN 就可能以 10GB 的高速狂飆,比 FC SAN 的下代版本—— 8GB 還要快。 ( 6)人才較多。隨著因特網(wǎng)的日益興盛,造就了取之不盡、用之不 竭的 TCP/IP 網(wǎng)絡(luò)人才,比起門坎較高的 FC SAN 來說,這對(duì)于專走 IP 網(wǎng)絡(luò) Base 的 iSCSI SAN 而言,可說是一大優(yōu)勢(shì)。 從監(jiān)控實(shí)際應(yīng)用性能上考慮 在監(jiān)控應(yīng)用中,由于其應(yīng)用的特殊性,性能瓶頸在硬盤上而不是主機(jī)接口。以 3Gb/s SATA 盤為例,在監(jiān)控模擬應(yīng)用中的測(cè)試性能約為 40MB左右,按照實(shí)際應(yīng)用性能可以達(dá)到測(cè)試性能的 7080%計(jì)算,即可以支持500 路 CIF 碼流;考慮的做 RAID 后性能的提升,實(shí)際應(yīng)用中也僅可以支持到的 10001500 路 CIF 碼流,換算成 帶寬也就是 6595MB/s 之間。單4Gb/s 的 FC 主機(jī)接口帶寬為 500MB, 2 個(gè)千兆主機(jī)接口帶寬為 250MB,主機(jī)接口帶寬均遠(yuǎn)大于 6595MB,即使按照主機(jī)接口應(yīng)用帶寬約為理論帶寬的 50%,也大于硬盤在監(jiān)控應(yīng)用中的實(shí)際性能,即采用 FC 或者 IP接口對(duì)監(jiān)控應(yīng)用中的整體性能幾乎沒有什么影響。因此,考慮性能要求和投入成本,在監(jiān)控應(yīng)用中我們使用 IP 存儲(chǔ)設(shè)備。通過實(shí)際測(cè)試也可以看到采用 FC 和 IP 的存儲(chǔ)性能相差無幾。 IP 網(wǎng)絡(luò)存儲(chǔ)單設(shè)備可以支持約 400 路 D1 碼流并發(fā)寫入。在 RAID5降級(jí)情況下對(duì)實(shí)際性能幾乎無影響, RAID5 重構(gòu)情況下性能僅下降 15%以內(nèi)。 46 46 從監(jiān)控應(yīng)用特點(diǎn)上考慮 由于監(jiān)控視頻數(shù)據(jù)需要反復(fù)的覆蓋寫入,采用傳統(tǒng)的文件系統(tǒng)會(huì)產(chǎn)生大量的磁盤碎片。傳統(tǒng)的磁盤陣列,由于附屬于前端的操作系統(tǒng),對(duì)磁盤碎片是無法處理的,只能依靠前端操作系統(tǒng)中文件系統(tǒng)的處理機(jī)制來處理(例如, NTFS 和 EXT3)。而傳統(tǒng)的文件系統(tǒng)設(shè)計(jì)的時(shí)候考慮更多的是在磁盤沒有寫滿的情況下如何更快的響應(yīng)一般客戶操作或者數(shù)據(jù)庫的請(qǐng)求,對(duì)于類似監(jiān)控類型的反復(fù)覆蓋訪問方式不是很適用。在長時(shí)間使用之后,性能和磁盤利用率均會(huì)大幅下降,并且還會(huì)造成磁盤 加速損壞,縮短磁盤壽命。 IP 存儲(chǔ)系統(tǒng)應(yīng)采用磁盤預(yù)分配與延遲分配技術(shù)相結(jié)合,首先查找空閑空間區(qū)域并用于存儲(chǔ)新數(shù)據(jù)的過程,最大程度地提高系統(tǒng)性能和避免磁盤碎片。同時(shí),結(jié)合高效的碎片整理程序,在系統(tǒng)空閑時(shí)對(duì)磁盤碎片進(jìn)行整理,能夠減少 90%以上的文件碎片,大幅改善系統(tǒng)的性能。 關(guān)于錄像文件大小的計(jì)算,采用如下方式: 對(duì)數(shù)字圖像實(shí)現(xiàn)每天 24 小時(shí)的不間斷存儲(chǔ),采用 4 Mbps 碼流,數(shù)據(jù)保存周期為 30 天。共計(jì) 1 路視頻,則所需硬盤容量計(jì)算方式如下: 視頻碼流247。 8(轉(zhuǎn)換為字節(jié)) 3600(得到一小時(shí)存 儲(chǔ)容量) 24(得到一天存儲(chǔ)容量) 30(得到 30 天存儲(chǔ)容量) 1(得到 30 天 1 路視47 47 頻存儲(chǔ)容量)247。 1024(轉(zhuǎn)化單位為 GB)247。 (考慮到格式化后的硬盤損失 10%)247。 1024(轉(zhuǎn)化單位為 TB) 4 Mbps247。 8 3600 24 30 1247。 1024247。 247。 1024≈ TB 以交管局指揮中心原有的 200 路圖像為例,改建 200 路模擬圖像為720p 高清圖像,采用 4Mbps 碼率,錄像時(shí)間為 30 天,則 4Mbps247。 8 3600 24 30 200247。 1024247。 247。 1024≈ TB 根據(jù)計(jì)算,共計(jì)需要存儲(chǔ)空間 2754TB。則需要 2TB 硬盤 138 塊。考慮到數(shù)據(jù)安全性,需要對(duì)磁盤陣列做 RAID5,原則上 10 塊 — 14 塊存儲(chǔ)硬盤做一個(gè) 1 個(gè) RAID5 陣列,則每個(gè) RAID5 陣列還需要檢驗(yàn)盤 1 塊,熱備盤 1 塊。所以需要部署 4 臺(tái)48 盤位磁盤陣列, 2TB 企業(yè)級(jí)硬盤共 158 塊。其他大隊(duì)可采用類似方法計(jì)算。 存儲(chǔ)可靠性設(shè)計(jì) 視頻監(jiān)控圖像存儲(chǔ)應(yīng)具備高度的可靠性,不允許出現(xiàn)需要回放某一時(shí)間某一地點(diǎn)的錄像時(shí),出現(xiàn)沒有錄像或不能回放的情形。存儲(chǔ)系統(tǒng)的設(shè)計(jì)和配置需要從以下幾個(gè)方面提高系統(tǒng)的可靠性: ? 存儲(chǔ) 服務(wù)器的冗余技術(shù),確保存儲(chǔ)管理不間斷工作。 ? 存儲(chǔ)磁盤陣列控制器的冗余技術(shù)。 ? 磁盤的冗余技術(shù),采用各種 RAID 機(jī)制。 ? 磁盤在線更新機(jī)制,采用熱備盤實(shí)現(xiàn)故障的自動(dòng)替換。 ? 對(duì)重點(diǎn)錄像進(jìn)行備份存儲(chǔ)。 磁盤陣列應(yīng)采用成熟的 Intel 硬件平臺(tái),加上穩(wěn)定的 StorOS 操作系統(tǒng)的配合,從而具有穩(wěn)定的產(chǎn)品性能。 1)產(chǎn)品應(yīng)具備 Raid0, 1, 5, 6, 10, 50, JBOD 和熱備盤技術(shù)等熱備技術(shù);采用常用的 RAID 5+1 片熱備盤的冗余機(jī)制時(shí),當(dāng)盤組里任何一片盤損壞時(shí),通過校驗(yàn)數(shù)據(jù)塊計(jì)算壞盤的數(shù)據(jù),保障了出現(xiàn)壞盤情況48 48 下的數(shù)據(jù)不丟 失以及持續(xù)可訪問性。配合熱備盤技術(shù),熱備盤自動(dòng)頂替壞盤,并由 Raid 組中的其它工作盤自動(dòng)計(jì)算壞盤的數(shù)據(jù)并寫入熱備盤,實(shí)現(xiàn)對(duì)壞盤數(shù)據(jù)的重構(gòu); RAID 重構(gòu)對(duì)整體性能的影響在 15%以下。 2)冗余熱插拔風(fēng)扇、冗余電源屏蔽了這些部件的故障導(dǎo)致的設(shè)備故障,同時(shí)這些部件支持在線更換。 3) UPS 保護(hù) UPS 掉電數(shù)據(jù)保護(hù)技術(shù),產(chǎn)品能檢測(cè)到 UPS 的供電