【正文】
。Rproxy和 mod_jk對靜態(tài)頁面請求的處理，都可以通設(shè)置來選取一個盡可能優(yōu)化的效果?？梢酝ㄟ^設(shè)置來實現(xiàn)Apache專門負(fù)責(zé)處理靜態(tài)網(wǎng)頁，讓Tomcat專門負(fù)責(zé)處理jsp和 servlet等動態(tài)請求。（3）mod_jk方式的優(yōu)點：Apache 會自動檢測到停止掉的tomcat，然后不再發(fā)請求過去。但是只要服務(wù)器再啟動就不存 在這個問題。還有就是必須把集群中的所有服務(wù)端口暴露給外界，沒有用apache做前置代理的方式安全，并 且占用大量公網(wǎng)IP地址，而且tomcat還要負(fù)責(zé)處理靜態(tài)網(wǎng)頁資源，影響效率。 Tomcat集群通常Tomcat集群有三種方式：使用DNS輪詢，使用apache rproxy代理方式，使用apache mod_jk方式。這類集群致力于提供單個計算機所不能提供的強大的計算能力。從檢查其他服務(wù)器狀態(tài)這一點上 看，負(fù)載均衡和容錯集群很接近，不同之處是數(shù)量上更多。一般web服務(wù)器集群、數(shù)據(jù)庫集群 和應(yīng)用服務(wù)器集群都屬于這種類型。（2）負(fù)載均衡集群(Load Balance Cluster)：負(fù)載均衡集群運行時一般通過一個或者多個前端負(fù)載均衡器將工作負(fù)載分發(fā)到后端的一組服務(wù)器上，從而達(dá)到將工作負(fù)載分發(fā)。常見的就是2個節(jié)點做 成的HA集群，有很多通俗的不科學(xué)的名稱，比如雙機熱備, 雙機互備, 雙機，高可用集群解決的是保障用戶的應(yīng)用程序持續(xù)對外提供服 務(wù)的能力。 Web服務(wù)器集群Web服務(wù)器集群主要分成三大類：高可用集群(High Availability Cluster/HA)， 負(fù)載均衡集群(Load Balance Cluster)，高性能計算集群(High Performance Computing Cluster/HPC)（1）高可用集群(High Availability Cluster/HA)：一般是指當(dāng)集群中有某個節(jié)點失效的情況下，其上的任務(wù)會自動轉(zhuǎn)移到其他正常的節(jié)點上。主服務(wù)器恢復(fù)運行后，將其轉(zhuǎn)換為從屬服務(wù)器，存儲數(shù)據(jù)庫副本，繼續(xù)對終端用戶提供數(shù)據(jù)查詢檢索服務(wù)。部署開發(fā)應(yīng)用系統(tǒng)時，對數(shù)據(jù)庫操作代碼進(jìn)行優(yōu)化，將寫操作(如UPDATE、INSERT)定向到主服務(wù)器，把大量的查詢操作(SELECT)定向到從屬服務(wù)器，實現(xiàn)集群的負(fù)載均衡功能。3)管理服務(wù)器(Management Server – ndb_mgmd):集群管理SQL node,Data node。包括自身數(shù)據(jù)和查詢中心結(jié)點數(shù)據(jù)。應(yīng)用層訪問數(shù)據(jù)庫服務(wù)的時候能夠讀寫分離，并排除讀和寫服務(wù)器的單點故障，平臺采用數(shù)據(jù)庫服務(wù)器集群。216。根據(jù)圖329系統(tǒng)架構(gòu)圖所示，中心調(diào)度管理系統(tǒng)是系統(tǒng)的一個重要的部分，它是系統(tǒng)的樞紐，用來聯(lián)系系統(tǒng)的其他不同模塊，把他們有機的聯(lián)接在一起。 中心調(diào)度子系統(tǒng)圖 328 中心調(diào)度管理系統(tǒng)架構(gòu)圖中心調(diào)度管理系統(tǒng)主要是對各個資源的整合和調(diào)用，用戶通過在前端發(fā)起操作請求，請求被提交到中心服務(wù)器，中心服務(wù)器調(diào)度管理系統(tǒng)根據(jù)具體的請求調(diào)度系統(tǒng)的資源進(jìn)行處理，最后將處理結(jié)果返回給用戶顯示查看，同時它還提供了豐富的接口服務(wù)，大大提高了擴展性、伸縮性，更加方便其他平臺對接。自主專利的智能圖像檢索采用先進(jìn)的圖像處理技術(shù)并結(jié)合模式識別對已有的海量視頻進(jìn)行事件檢索，實現(xiàn)了對事件發(fā)生視頻的切片回放、運動幀提取和對象跟蹤。 智能識別前端設(shè)備將采集到的視頻等信息將數(shù)據(jù)存儲至云處理集群并進(jìn)行相應(yīng)的云存儲處理。圖327 云轉(zhuǎn)碼流程在cProc云平臺基礎(chǔ)上可以實現(xiàn)動態(tài)轉(zhuǎn)碼過程，保障無線視頻數(shù)據(jù)的穩(wěn)定接入，系統(tǒng)可根據(jù)實時的網(wǎng)絡(luò)狀態(tài)，自適應(yīng)轉(zhuǎn)碼，調(diào)整合適的分辨率和碼率，也可根據(jù)用戶設(shè)置的流暢度優(yōu)先或者清晰度優(yōu)先，合理控制實時數(shù)據(jù)的流量，以保障在無線數(shù)據(jù)傳輸?shù)沫h(huán)境下，視頻信號正常傳輸，不受到影響。同時，將轉(zhuǎn)碼后的視頻流推送給流媒體服務(wù)器分發(fā)出去。對于不支持RTSP的采集設(shè)備，我們利用設(shè)備廠商提供的SDK進(jìn)行接入。cVideo研發(fā)了云端轉(zhuǎn)碼技術(shù)，將視頻轉(zhuǎn)碼計算放大云端，實現(xiàn)整個系統(tǒng)內(nèi)的實時視頻轉(zhuǎn)碼，以滿足用戶對不同分辨率，不同碼流，不同終端的使用需求。216。如果在若干個心跳間隔后管理節(jié)點組仍然沒有獲取到處理節(jié)點心跳報告，那么該處理節(jié)點將會被踢出處理節(jié)點組，同時該節(jié)點處理的所有處理任務(wù)也會被重新調(diào)度。處理節(jié)點組通過RPC的遠(yuǎn)程調(diào)用獲取各自節(jié)點的任務(wù)處理目標(biāo)，并實時的和處理節(jié)點上的任務(wù)處理目標(biāo)進(jìn)行對比，控制程序的執(zhí)行和結(jié)束。處理服務(wù)器集群根據(jù)客戶需求對采集到的信息進(jìn)行實時處理，在Jobkeeper的綜合調(diào)度控制下，處理節(jié)點進(jìn)行分布式計算，完成內(nèi)容識別、云端轉(zhuǎn)碼、數(shù)據(jù)分析等任務(wù)。 處理子系統(tǒng)圖326 存儲/處理模塊圖上圖描述了存儲/處理模塊的工作流程與各個分模塊之間的關(guān)系。圖324 錄像存儲工作流程示意圖對于存放在cStor云存儲中的錄像文件，可以在“平臺”的Web客戶端進(jìn)行回看，回看的工作流程如下圖所示：圖325 錄像回看工作流程示意圖 中心服務(wù)器獲取到用戶錄像回看指令，將對應(yīng)任務(wù)通過JobKeeper進(jìn)行任務(wù)的調(diào)度和分發(fā)。錄像視頻按每半小時生成一個視頻文件，便于索引和定位。圖323 歷史錄像查詢中心服務(wù)器獲取到用戶錄像指令，將對應(yīng)任務(wù)通過JobKeeper進(jìn)行任務(wù)的調(diào)度和分發(fā)。 通過web客戶端，可以提供攝像機定時錄制存儲設(shè)置功能，提供歷史記錄查詢、回看等，如下圖所示。與轉(zhuǎn)碼任務(wù)流程一樣，當(dāng)用戶請求對某一路視頻進(jìn)行錄像后，中心服務(wù)器通過JobKeeper統(tǒng)一調(diào)度資源，根據(jù)存儲服務(wù)器集群的工作狀態(tài)，選擇負(fù)載較小的服務(wù)器，建立一個存儲任務(wù)，存儲客戶端程序?qū)?biāo)準(zhǔn)rtsp流經(jīng)過分析后，重新打包成視頻文件，保存下來的視頻文件存放在云存儲集群cStor上，從而提供了對高清視頻的海量存儲。流媒體存儲客戶端軟件部署在處理服務(wù)器集群上，由JobKeeper調(diào)度，將網(wǎng)絡(luò)視頻流按固定時間保持為文件，并通過cStor客戶端寫入存儲集群；cStor云存儲服務(wù)器集群提供海量的存儲空間，通過cStor客戶端掛載到處理服務(wù)器和流媒體服務(wù)器，這樣視頻存儲和視頻處理程序就可以訪問海量的存儲空間。當(dāng)用戶選擇某路攝像機進(jìn)觀看監(jiān)控畫面時，上層調(diào)度平臺發(fā)送相應(yīng)指令，“平臺”則動態(tài)地將該路視頻流進(jìn)行接入，并推送至用戶客戶端。接入服務(wù)器完成對其他平臺前端監(jiān)控設(shè)備的接入，使所有已有的監(jiān)控前端均可“透明”地呈現(xiàn)在用戶面前。 動態(tài)接入的概念是指“平臺”可接入所有的前端監(jiān)控設(shè)備，對其可控可管（信令流）。（2）與第三方平臺交互信令對于第三方平臺里的攝像機，中心端可以像接入服務(wù)器獲取所有設(shè)備的列表，并獲取某一路的url。 圖321 數(shù)據(jù)流3種情況信令流主要是完成命令的分發(fā)，使接入服務(wù)器在中心服務(wù)器的調(diào)度下完成各項功能。第三方平臺中的攝像機可以經(jīng)平臺SDK獲取攝像機的url，使用該視頻流地址獲取數(shù)據(jù)流。（2）不支持RTSP的攝像機 對于不支持RTSP的攝像機則通過集成監(jiān)控設(shè)備商的SDK以支持其私有協(xié)議（如：?？低曉缙诘腄VR），再將視頻數(shù)據(jù)重新編碼成標(biāo)準(zhǔn)RTSP流發(fā)送給本“平臺”。圖320 接入系統(tǒng)示意圖數(shù)據(jù)流主要是完成視頻數(shù)據(jù)的發(fā)送，視頻流接入到平臺后，再發(fā)送到流媒體服務(wù)器，從而實現(xiàn)了不同的客戶對同一路流的訪問，并且減輕了前端攝像機的壓力。前端設(shè)備主要包括：模擬攝像機、網(wǎng)絡(luò)攝像機、第三方平臺等。錄像，監(jiān)控控制端通過中心服務(wù)器向存儲管理端發(fā)送錄像命令，存儲管理 端控制設(shè)備進(jìn)行錄像，獲取的數(shù)據(jù)直接存儲到 cStor 中。216。216。216。功能如下：216。調(diào)度控制層：實現(xiàn)對以上各層的綜合調(diào)度與控制，以實現(xiàn)整套系統(tǒng)機制。數(shù)據(jù)分發(fā)：以流媒體服務(wù)器的形式提供標(biāo)準(zhǔn)的 RTSP 流媒體輸出，可以支持高并發(fā)訪問。數(shù)據(jù)存儲層：即 cStor 云存儲系統(tǒng)，提供海量的存儲空間，以備歷史數(shù)據(jù)的回看與處理。資源層：包括攝像頭、卡口等前端數(shù)據(jù)采集設(shè)備所采集到的原始視頻圖像數(shù)據(jù)，以及響應(yīng)業(yè)務(wù)信息，如：人力、車輛、區(qū)域分布等資源信息。以實現(xiàn)諸如視頻內(nèi)容識別、云端轉(zhuǎn)碼、智能分析等實時數(shù)據(jù)、動態(tài)伸縮等需求。 SaaS層cVideo云視頻 cVideo系統(tǒng)邏框圖 本云視頻監(jiān)控平臺，是在服務(wù)器集群上部署一整套基于云架構(gòu)的視頻處理軟件，下圖為系統(tǒng)邏輯框圖，其核心內(nèi)容是對接入的海量視頻的實時處理分析。測試結(jié)果如下圖所示：圖318 線性擴展比較 繼承性數(shù)據(jù)立方可以將原有的傳統(tǒng)數(shù)據(jù)庫系統(tǒng)嵌入到數(shù)據(jù)立方的體系之中，使得能夠充分利用原有系統(tǒng)平臺的數(shù)據(jù)和機制，這樣可以使傳統(tǒng)的數(shù)據(jù)管理和處理系統(tǒng)平滑快速地遷移到云平臺之上，這是其他系統(tǒng)所無法做到的。測試結(jié)果如下圖所示：圖316 多表查詢速度 并發(fā)性數(shù)據(jù)立方的每個節(jié)點支持200個并發(fā)查詢，同時每個查詢均是秒級響應(yīng)，GreenPlum和Exdata是很難達(dá)到的，HIVE的任務(wù)并發(fā)數(shù)取決于MapReduce的并發(fā)任務(wù)數(shù)，所以會更低。測試結(jié)果如下圖所示：圖314 數(shù)據(jù)入庫速度 單表查詢對于簡單的單表查詢來說，數(shù)據(jù)量較小時，GreenPlum和Exdata的查詢速度都是比較快的，但在大數(shù)據(jù)量下，數(shù)據(jù)立方的高效分布式查詢更有優(yōu)勢，而HIVE的底層是基于MapReduce，所以速度較慢。 與同類技術(shù)/產(chǎn)品對比分析當(dāng)前與數(shù)據(jù)立方類似的產(chǎn)品有分布式數(shù)據(jù)庫和數(shù)據(jù)倉庫，如：EMC的GreenPlum、Oracle的Exdata以及開源的HIVE等，作為應(yīng)用最新技術(shù)的數(shù)據(jù)立方在數(shù)據(jù)入庫、查詢、查詢的并發(fā)量以及線性擴展等多方面超越了上述產(chǎn)品。支持對外接口提供專用API、Web訪問和Web Services接口進(jìn)行對外數(shù)據(jù)交互。擴展性既可以在很小規(guī)模機器上跑,也可以在成千上萬臺的機器上運行，而且經(jīng)過很簡單的操作就可以把規(guī)模擴展到成千上萬臺服務(wù)器上,而且可靠性隨著加入節(jié)點的增加成線性上升。穩(wěn)定性當(dāng)前系統(tǒng)在江蘇移動機房穩(wěn)定連續(xù)運行近10個月，無任何故障，所有周期任務(wù)均正常執(zhí)行，且執(zhí)行結(jié)果正確。支持并發(fā)查詢支持并發(fā)查詢，查詢請求都能正常下發(fā)執(zhí)行、且都能正常返回結(jié)果，當(dāng)前每個節(jié)點最高支持200個SQL并發(fā)查詢。負(fù)載均衡性根據(jù)機器負(fù)載自動進(jìn)行負(fù)載均衡。支持SQL組合查詢采用高效的SQL解析器，可支持各種類型的SQL語句?？梢浦残訨ava語言實現(xiàn)，具有跨平臺性，任意操作系統(tǒng)都可運行。實時數(shù)據(jù)入庫流量數(shù)據(jù)入庫速度平均可達(dá)600MB/s。 cProc數(shù)據(jù)立方性能指標(biāo)硬件環(huán)境如下：序號設(shè)備名稱數(shù)量CPU內(nèi)存硬盤1主控服務(wù)器1IntelE52620 32GB8*3TB SATA2處理節(jié)點10IntelE52620 32GB8*3TB SATA3H3C5024PEI千兆交換機1N/AN/AN/A技術(shù)性能指標(biāo)如下：項目內(nèi)容可管理的數(shù)據(jù)總量可高效管理超過萬億條的記錄。SQL解析器接收從數(shù)據(jù)查詢 API和SHELL傳來的SQL語句，同時對SQL進(jìn)行詞法分析、語法分析、編譯、優(yōu)化以及生成查詢作業(yè)，接著分析所要處理數(shù)據(jù)的所在位置，根據(jù)數(shù)據(jù)位置切分查詢作業(yè)形成子任務(wù)，然后將子任務(wù)發(fā)送給數(shù)據(jù)所在節(jié)點的執(zhí)行器。 最差情況下(兩列都未排序且兩列上的所有值都相同)：O (n * log n + m * log m + n * m) 兩次排序以及一次全部元組間的笛卡爾乘積。 最好情況下(兩列都已排序且至少有一列沒有重復(fù)值)：O (n + m) 只需要對兩個集合各掃描一遍。基本算法主要有兩個步驟：（1）按JOIN字段進(jìn)行排序（2）對兩組已排序集合進(jìn)行合并排序，從來源端各自取得數(shù)據(jù)列后加以比較(需要根據(jù)是否在JOIN字段有重復(fù)值做特殊的“分區(qū)”處理)有兩個因素左右SortMerge的開銷：JOIN字段是否已排序 以及 JOIN字段上的重復(fù)值有多少。被聯(lián)結(jié)的表所處內(nèi)層或外層的順序?qū)Υ疟PI/O開銷有著非常重要的影響，而CPU開銷相對來說影響較小?；谝?guī)則的優(yōu)化方式下，經(jīng)常采用SortMerge Join(SMJ)連接和NestedLoop Join(NL)連接。（3）當(dāng)大表的所有數(shù)據(jù)都讀取完畢，將臨時表空間中的數(shù)據(jù)以其輸出。如果內(nèi)存足夠，Join好的數(shù)據(jù)就保存在內(nèi)存中。Hash join的過程大致如下（在并行情況下）：（1）一張小表被hash在內(nèi)存中。Hash join效率最高，因為只要對兩張表掃描一次。特別是當(dāng)驅(qū)動表的數(shù)據(jù)量很大（集的勢高）時。在絕大多數(shù)情況下，hash join效率比其他join方式效率更高：在SortMerge Join(SMJ)，兩張表的數(shù)據(jù)都需要先做排序，然后做merge。 高性能多表實時復(fù)雜關(guān)聯(lián)查詢高性能的關(guān)聯(lián)查詢需要根據(jù)不同的模式采用不同關(guān)聯(lián)算法，在基于代價的優(yōu)化方式下，一般采用hash join算法，它是一種用于equijoin（而antijoin就是使用NOT IN時的join）的技術(shù)。 高性能的分布式索引機制cProc數(shù)據(jù)立方以B+樹的結(jié)構(gòu)建立了字段的索引，每個B+樹結(jié)構(gòu)的字段索引相當(dāng)于一個數(shù)據(jù)平面，這樣一個全局?jǐn)?shù)據(jù)表與其多個重要字段的索引就組成了一個類似于立方體的數(shù)據(jù)組織結(jié)構(gòu)。如果在讀節(jié)點的同一個機架上就有這個復(fù)制，就直接讀這個，如果物理集群是跨越多個數(shù)據(jù)中心，那么本地數(shù)據(jù)中心的復(fù)制是優(yōu)先于遠(yuǎn)程的復(fù)制。但是它減少了讀操作的網(wǎng)絡(luò)聚合帶寬。機架失效的機會遠(yuǎn)小于機器實效的。 數(shù)據(jù)副本放置位置在數(shù)據(jù)塊復(fù)制數(shù)為3的情況下，放置方式是將第一個放在本地數(shù)據(jù)節(jié)點，將第二個復(fù)制放到本地機架上的另外一個數(shù)據(jù)節(jié)點而將第三個復(fù)制放到不同機架上的數(shù)據(jù)節(jié)點。它同時確定塊與數(shù)據(jù)節(jié)點的映射。數(shù)據(jù)塊存儲將一個文件分割成一個或多個的數(shù)據(jù)塊，這些數(shù)據(jù)塊存儲在一組數(shù)據(jù)節(jié)點中。 數(shù)據(jù)塊副本之間的一致性簡單一致性模型即一個文件一旦創(chuàng)建、寫入、關(guān)閉之后就不需要修改了。 客戶端讀取數(shù)據(jù)塊并讀取其校驗和文件，進(jìn)行校驗。 cProc數(shù)據(jù)立方關(guān)鍵技術(shù) 高效分布式數(shù)據(jù)管理機制表33分布式數(shù)據(jù)存儲系統(tǒng)的關(guān)鍵技術(shù)和應(yīng)對措施關(guān)鍵技術(shù)應(yīng)對措施數(shù)據(jù)完