【文章內(nèi)容簡介】 結(jié)構(gòu)如下圖所示： cProc云處理是cProc云處理平臺分布式的核心。該架構(gòu)內(nèi)部避免了大多數(shù)分布式系統(tǒng)內(nèi)部存在的單點問題。里面的兩個管理員節(jié)點(主節(jié)點和備節(jié)點)對整個集群進行著管理，通過先進的調(diào)度監(jiān)控器解決了管理節(jié)點的單點問題和數(shù)據(jù)同步問題，確保在主節(jié)點異常情況下，主從節(jié)點的切換不丟失管理數(shù)據(jù)。 cProc云處理內(nèi)部采用高效的數(shù)據(jù)結(jié)構(gòu)cProcJob,維護每個任務(wù)以及子任務(wù)的狀態(tài)，并嚴格按照任務(wù)狀態(tài)轉(zhuǎn)移表進行任務(wù)狀態(tài)切換。在cProc分布式數(shù)據(jù)處理的過程中，系統(tǒng)采用以下三個原則： 在任務(wù)提交后， 管理節(jié)點根據(jù)數(shù)據(jù)所在位置分配處理，這樣在每個處理節(jié)點上要處理的存儲介質(zhì)上的數(shù)據(jù)塊就在本地，直接操作本地文件，避免了數(shù)據(jù)的移動，極大地減少了網(wǎng)絡(luò)IO負載，縮短了處理時間。 cProc并行處理架構(gòu)能夠周期性地對存儲介質(zhì)上的數(shù)據(jù)進行維護，保持存儲節(jié)點上所存儲的數(shù)據(jù)量的平衡，減少因數(shù)據(jù)負載的不平衡而導(dǎo)致的處理負載的不平衡。公平調(diào)度是一種多用戶的賦予作業(yè)（job）資源的策略，它的目的是讓所有的作業(yè)隨著時間的推移，都能獲取與權(quán)值相應(yīng)的共享資源。當(dāng)單獨一個作業(yè)在運行時，它將使用整個集群。當(dāng)有其它作業(yè)被提交上來時，系統(tǒng)會將任務(wù)空閑處理單元賦給這些新的作業(yè)，以使得每一個作業(yè)都大概獲取到與權(quán)值相應(yīng)的處理時間。這個特性讓短作業(yè)在合理的時間內(nèi)完成的同時又保證了長作業(yè)的服務(wù)質(zhì)量。 公平調(diào)度器按資源池（pool）來組織作業(yè)，默認情況下，每一個用戶擁有一個獨立的資源池。在Slave處理節(jié)點上設(shè)置有同時運行的任務(wù)個數(shù)上限，若未達到上限，則就產(chǎn)生了空閑處理單元。當(dāng)集群上出現(xiàn)空閑處理單元時，調(diào)度按兩步進行，首先空閑處理單元在作業(yè)池之間分配，其次在作業(yè)池內(nèi)的作業(yè)間分配。 Zookeeper可靠性ZooKeeper可為分布式應(yīng)用建立更高層次的同步(synchronization)、配置管理 (configuration maintenance)、群組(groups)以及命名服務(wù)(naming)。在編程上，ZooKeeper使用的數(shù)據(jù)模型風(fēng)格很像文件系統(tǒng)的目錄樹結(jié)構(gòu)，簡單來說，有點類似windows中注冊表的結(jié)構(gòu)，有名稱，有樹節(jié)點，有Key(鍵)/Value(值)對的關(guān)系，可以看做一個樹形結(jié)構(gòu)的數(shù)據(jù)庫，分布在不同的機器上做命名管理。Zookeeper的基本工作結(jié)構(gòu)如下圖所示。圖表 1 Zookeeper基本工作結(jié)構(gòu)圖Zookeeper分為2個部分：服務(wù)器端和客戶端，客戶端只連接到整個ZooKeeper服務(wù)的某個服務(wù)器上?？蛻舳耸褂貌⒕S護一個TCP連接，通過這個連接發(fā)送請求、接受響應(yīng)、獲取觀察的事件以及發(fā)送心跳。如果這個TCP連接中斷，客戶端將嘗試連接到另外的ZooKeeper服務(wù)器。客戶端第一次連接到ZooKeeper服務(wù)時，接受這個連接的 ZooKeeper服務(wù)器會為這個客戶端建立一個會話。當(dāng)這個客戶端連接到另外的服務(wù)器時，這個會話會被新的服務(wù)器重新建立。啟動Zookeeper服務(wù)器集群環(huán)境后，多個Zookeeper服務(wù)器在工作前會選舉出一個Leader作為主服務(wù)器。在后續(xù)工作中，如果這個被選舉出來的主服務(wù)器失效，而剩下的Zookeeper服務(wù)器會感知這個事件，并在活著的Zookeeper集群中重新選出一個Leader作為新的主服務(wù)器，選舉出leader的目的是為了可以在分布式的環(huán)境中保證數(shù)據(jù)的一致性。查詢索引創(chuàng)建、KPI數(shù)據(jù)統(tǒng)計、CDR專題數(shù)據(jù)處理、以及各種查詢分析處理任務(wù)的處理將需要調(diào)度和使用處理集群上的一組服務(wù)器節(jié)點進行并行任務(wù)的分發(fā)和負載均衡處理。而負責(zé)并行任務(wù)調(diào)度和分發(fā)的節(jié)點可能會出現(xiàn)單點故障，進而引起整個處理系統(tǒng)無法正常工作。因此，需要設(shè)計一個單點失效恢復(fù)機制，以保證查詢分析處理的可靠性，以及正確的并行處理任務(wù)分發(fā)和負載均衡處理。在具體實現(xiàn)上，我們將使用Zookeeper基于處理集群完成統(tǒng)一的控制和實現(xiàn)?；驹O(shè)計和實現(xiàn)方法是，將處理集群中所有的處理節(jié)點都納入Zookeeper的管理，選擇其中3個處理節(jié)點注冊為Zookeeper的服務(wù)器節(jié)點負責(zé)并行處理任務(wù)的調(diào)度和分發(fā)節(jié)點，Zookeeper將自動在這3個服務(wù)器節(jié)點中選舉一個主服務(wù)器節(jié)點。當(dāng)主服務(wù)器節(jié)點出現(xiàn)故障時，Zookeeper將能自動從剩下的2個服務(wù)器節(jié)點中重新選舉產(chǎn)生一個新的主服務(wù)器節(jié)點來接管失效的主服務(wù)器。以此，將能保證并行處理任務(wù)的分發(fā)和調(diào)度處理不會出現(xiàn)單點失效。Zookeeper能感知當(dāng)前所管轄的節(jié)點中任何節(jié)點的失效并作出相應(yīng)的處理。當(dāng)Zookeeper保證有一個負責(zé)并行任務(wù)分發(fā)調(diào)度的主服務(wù)器工作后，該主服務(wù)器將能在Zookeeper中所維護的當(dāng)前有效的處理節(jié)點中挑選一個空閑的節(jié)點，并把一個處理任務(wù)分發(fā)給該節(jié)點；當(dāng)多個處理任務(wù)到達時，主節(jié)點將能有效地將處理任務(wù)分發(fā)給不同的處理節(jié)點，從而實現(xiàn)并行處理任務(wù)在整個集群節(jié)點上的負載均衡。圖表 基于Zookeeper的查詢分析處理單點失效和 八大環(huán)境監(jiān)控子系統(tǒng)下面對每個監(jiān)控系統(tǒng)進行分析，主要介紹各個系統(tǒng)的架構(gòu)及功能。 飲用水水源地監(jiān)控系統(tǒng)目前，江蘇省共有萬噸以上集中式飲用水水源地111個，但都未與江蘇省環(huán)保廳聯(lián)網(wǎng)，為確保群眾飲用水安全，省環(huán)保廳要求各水源地必須聯(lián)網(wǎng)自動監(jiān)測、匯報。為此，飲用水水源地的監(jiān)測數(shù)據(jù)進行實時匯聚傳輸?shù)绞…h(huán)保廳云存儲系統(tǒng)，并對得到的水質(zhì)數(shù)據(jù)在省環(huán)保廳云處理平臺進行實時分析處理，處理后得到的結(jié)果會通過云平臺提供的API接口將數(shù)據(jù)提供給飲用水源地監(jiān)控子系統(tǒng)，這樣就可以對各大水源地進行實時的監(jiān)控、預(yù)警和保護，讓群眾可以真正的放心飲水，安全飲水。飲用水安全問題關(guān)系到廣大人民群眾的健康、生命安全和社會的和諧穩(wěn)定，保障飲用水安全也是我國水環(huán)境管理的根本任務(wù)。本系統(tǒng)將通過對飲用水源地水質(zhì)的實時監(jiān)測，動態(tài)評估飲用水源地的安全狀況，為相關(guān)部門和社會民眾提供數(shù)據(jù)系統(tǒng)，保障飲用水安全。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：完成對水源地水溫、pH、溶解氧、電導(dǎo)率、濁度、高錳酸鹽指數(shù)、氨氮等項目的實時數(shù)據(jù)監(jiān)測。完成對出水口的實時視頻監(jiān)控，采集實時視頻數(shù)據(jù)信息。各類監(jiān)測設(shè)備的自動故障檢測、報警。本系統(tǒng)的主要內(nèi)容如下：實時顯示水源地水質(zhì)監(jiān)測數(shù)據(jù)及其水質(zhì)類別，可查詢監(jiān)測數(shù)據(jù)各個指標(biāo)的月、季、半年、年均值及其水質(zhì)類別。綜合評價水源地環(huán)境安全狀況，對水源地的環(huán)境安全指數(shù)進行統(tǒng)計分析，生成環(huán)境安全指數(shù)專題統(tǒng)計圖。以圖表的形式對同一水源地不同年份的監(jiān)測數(shù)據(jù)月均值變化情況進行對比分析、對同一時間段內(nèi)水源地的監(jiān)測數(shù)據(jù)月均值數(shù)據(jù)進行對比分析。當(dāng)自動監(jiān)測數(shù)據(jù)超標(biāo)時，自動發(fā)送報警信息，記錄超標(biāo)的監(jiān)測因子、指標(biāo)值及超標(biāo)倍數(shù)等。 流域水環(huán)境監(jiān)控系統(tǒng)目前，江蘇已建成水質(zhì)自動監(jiān)測站有252個，新建水質(zhì)自動監(jiān)測站有21個。為確保環(huán)保部門對全省河流水質(zhì)進行實時監(jiān)測，對任何水質(zhì)異常做出及時反應(yīng)，要求全省各水質(zhì)自動監(jiān)測站數(shù)據(jù)進行實時匯聚傳輸?shù)绞…h(huán)保廳云存儲系統(tǒng)。省環(huán)保廳云處理平臺會對各水質(zhì)自動監(jiān)測站數(shù)據(jù)進行實時分析處理，處理后的結(jié)果通過云平臺提供的API接口將數(shù)據(jù)提供給流域水環(huán)境監(jiān)控子系統(tǒng)，從而全面實現(xiàn)全省主要河流省交界斷面和重要河流水質(zhì)實時監(jiān)測、預(yù)警和保護。對于防治水污染，保護改善水環(huán)境，保障人民健康和促進社會主義現(xiàn)代化建設(shè)的發(fā)展具有重要意義。本系統(tǒng)將通過在現(xiàn)有的流域水水質(zhì)自動站基礎(chǔ)上，建立流域水水質(zhì)監(jiān)測數(shù)據(jù)采集、分析系統(tǒng)，及時、準(zhǔn)確地掌握地表水質(zhì)量現(xiàn)狀和發(fā)展趨勢，為開展水環(huán)境管理工作提供可靠的數(shù)據(jù)和資料。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：完成地表水實時數(shù)據(jù)監(jiān)測，包括水溫、pH、溶解氧、電導(dǎo)率、濁度、高錳酸鹽指數(shù)、氨氮、總氮、總磷、流量等項目的實時數(shù)據(jù)監(jiān)測。各類監(jiān)測設(shè)備的自動故障檢測、報警。本系統(tǒng)中云平臺完成的主要內(nèi)容如下：對監(jiān)測點的單因子達標(biāo)率、水質(zhì)達標(biāo)率進行查詢統(tǒng)計，支持按流域、區(qū)域的達標(biāo)率匯總，生成統(tǒng)計專題圖，形成水質(zhì)評價系統(tǒng)。以圖表的形式對同一監(jiān)測點不同年份的監(jiān)測數(shù)據(jù)月均值變化情況進行對比分析。對同一時間段內(nèi)監(jiān)測點的監(jiān)測數(shù)據(jù)月均值數(shù)據(jù)進行對比分析。對同一河流不同監(jiān)測點的數(shù)據(jù)進行對比分析，以展示河流不同河段的水質(zhì)變化狀況，在GIS地圖上用不同的顏色表示不同水質(zhì)類別的河段。 空氣環(huán)境監(jiān)控系統(tǒng)目前，江蘇省共建有環(huán)境空氣自動監(jiān)測站179個。為建立環(huán)境空氣自動監(jiān)控系統(tǒng)，開展環(huán)境空氣質(zhì)量研究，準(zhǔn)確確定環(huán)境空氣污染程度，為環(huán)保責(zé)任目標(biāo)考核提供準(zhǔn)確信息。全省環(huán)境空氣自動監(jiān)測站檢測數(shù)據(jù)會進行實時匯聚傳輸?shù)绞…h(huán)保廳云存儲系統(tǒng)，并對空氣檢測數(shù)據(jù)在省環(huán)保廳云處理平臺進行實時分析處理，然后通過云平臺API接口提供給空氣環(huán)境監(jiān)控系統(tǒng)，實現(xiàn)全省空氣環(huán)境自動檢測發(fā)布?？諝猸h(huán)境監(jiān)控系統(tǒng)是以保護生活環(huán)境和生態(tài)環(huán)境,保障人體健康及動植物正常生存、生長和保護文物古跡為宗旨,根據(jù)大氣環(huán)境污染現(xiàn)狀和大氣環(huán)境容量、地理、氣象、社會經(jīng)濟發(fā)展?fàn)顩r以及城市總體規(guī)劃,按環(huán)境空氣質(zhì)量標(biāo)準(zhǔn)的要求，將大氣環(huán)境劃分為不同的功能區(qū)域。包括自然保護區(qū)、風(fēng)景名勝區(qū)和其他需要特殊保護的地區(qū)以及在城鎮(zhèn)規(guī)劃中確定的居住區(qū)、商業(yè)交通居民混合區(qū)、文化區(qū)等。本系統(tǒng)通過對主要功能區(qū)大氣環(huán)境質(zhì)量的智慧監(jiān)控，向民眾提供部分生活、旅游相關(guān)的大氣環(huán)境數(shù)據(jù)。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：完成對主要功能區(qū)各類空氣質(zhì)量參數(shù)的實時監(jiān)測。 完成對重點區(qū)域，如自然保護區(qū)、風(fēng)景名勝區(qū)的全面監(jiān)測。各類監(jiān)測設(shè)備自動故障檢測、報警。本系統(tǒng)中云平臺完成的主要內(nèi)容如下：對主要功能區(qū)空氣質(zhì)量數(shù)據(jù)做相關(guān)性分析，自動判斷出控制質(zhì)量是否正常，對異常行為自動預(yù)警。以圖形、柱狀圖、GPS定位信息等形式動態(tài)顯示各功能區(qū)的最新監(jiān)測數(shù)據(jù)、采樣時間及設(shè)備狀況，對數(shù)據(jù)超標(biāo)或設(shè)備錯誤自動報警。對主要區(qū)域現(xiàn)場視頻設(shè)備進行遠程控制，可在實時視頻中動態(tài)疊加顯示監(jiān)測區(qū)域?qū)崟r空氣狀況。移動數(shù)據(jù)查詢?？赏ㄟ^手機、電腦等智能移動設(shè)備，查詢主要功能區(qū)監(jiān)測數(shù)據(jù)及歷史統(tǒng)計數(shù)據(jù)。通過平臺向民眾發(fā)布主要功能區(qū)空氣質(zhì)量，指導(dǎo)民眾出行、工作。 輻射環(huán)境監(jiān)控系統(tǒng)目前，江蘇各省轄市共有9個輻射環(huán)境質(zhì)量自動監(jiān)測站、201家529個放射源在線監(jiān)控點位、一套全省城市放射性廢棄庫在線監(jiān)控系統(tǒng)，在田灣核電站外圍設(shè)有7個輻射環(huán)境自動監(jiān)測哨和2輛核應(yīng)急巡測車。為保證正在使用的放射源絕對安全，各監(jiān)測站、點等數(shù)據(jù)必須實時匯聚傳輸?shù)绞…h(huán)保廳云存儲系統(tǒng)，然后通過省環(huán)保廳云處理平臺對數(shù)據(jù)進行實時分析查詢提供給輻射環(huán)境監(jiān)控系統(tǒng)，實現(xiàn)放射環(huán)境的實時監(jiān)控。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：完成放射源監(jiān)控點附近以及城市監(jiān)測點的輻射的強度的實時在線監(jiān)測。監(jiān)測因子包括空氣吸收劑量率、氣象參數(shù)等指標(biāo)。各類監(jiān)測設(shè)備自動故障檢測、報警。本系統(tǒng)中云平臺完成的主要內(nèi)容如下：對放射源監(jiān)控點附近以及城市監(jiān)測點的輻射的強度進行分析比對，超出正常范圍時自動啟動預(yù)警或報警系統(tǒng)。建立與放射源監(jiān)控點的互動體系，將實時的輻射量信息及時提供給省云存儲平臺，以監(jiān)控質(zhì)量自動監(jiān)測站的正常運行，避免發(fā)生重大泄漏事故。對監(jiān)測數(shù)據(jù)進行統(tǒng)計分析，為環(huán)保部門及時了解城市輻射強度的狀態(tài)提供依據(jù)。 重點污染源監(jiān)控系統(tǒng)重點污染源監(jiān)控系統(tǒng)主要用于江蘇省對重點污染源、集中式污水處理廠以及總裝機30萬千瓦以上燃煤電廠的省級聯(lián)網(wǎng)自動監(jiān)控，它能夠監(jiān)控進出污水處理廠的水量和水質(zhì)的主要指標(biāo)、鼓風(fēng)機電量等數(shù)據(jù)。通過本系統(tǒng)，使環(huán)保部門的領(lǐng)導(dǎo)層能夠及時、全面掌握重點污染源、集中式污水處理情況及其燃煤電廠的電量數(shù)據(jù)等，方便地進行匯總與分析、比對，完善對重點污染源的控制與治理，提供計算機規(guī)范化管理和系統(tǒng)。安裝了自動監(jiān)控設(shè)備的廠需要及時地與江蘇省環(huán)保廳聯(lián)網(wǎng)，自動監(jiān)測設(shè)備將獲取到的污水處理廠的水量、水質(zhì)的主要指標(biāo)、鼓風(fēng)機電量等重要數(shù)據(jù)通過網(wǎng)絡(luò)傳輸，最終匯聚存儲在省環(huán)保廳云存儲系統(tǒng)中去。省云處理平臺負責(zé)對云存儲系統(tǒng)中的污染源數(shù)據(jù)建立索引，對數(shù)據(jù)進行分析與匯總，同時為重點污染源監(jiān)控系統(tǒng)提供Web Service 接口，快速地反饋分析結(jié)果。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：完成對污水處理過程的全過程監(jiān)控。對進出污水處理廠的水量和水質(zhì)主要指標(biāo)（COD、總氮、總磷等）、鼓風(fēng)機電流、鼓風(fēng)量、曝氣設(shè)備的運行情況、曝氣池的溶解氧濃度、污泥濃度、濾池堵塞率等數(shù)據(jù)實施監(jiān)控。完成排放口自動監(jiān)測，實時采集污水排放口的水質(zhì)及流量數(shù)據(jù)。完成對各排放口進行實時視頻監(jiān)控。完成污水處理過程中各個工藝環(huán)節(jié)的能耗情況的實時數(shù)據(jù)監(jiān)測。本系統(tǒng)中云平臺完成的主要內(nèi)容如下：排放口出水?dāng)?shù)據(jù)與過程參數(shù)作相關(guān)性分析，自動判斷出水?dāng)?shù)據(jù)是否正常，對異常行為自動預(yù)警。以圖表等形式動態(tài)顯示排放口的最新監(jiān)測數(shù)據(jù)、采樣時間及設(shè)備狀況，對數(shù)據(jù)超標(biāo)或設(shè)備錯誤自動報警。對現(xiàn)場視頻設(shè)備進行遠程控制，控制云臺和鏡頭的轉(zhuǎn)動縮放，可在排放口的實時視頻中動態(tài)疊加顯示該排放口的實時排放數(shù)據(jù)。提供對數(shù)據(jù)采集設(shè)備和排放口電動閥的遠程反控功能，根據(jù)需要向設(shè)備發(fā)送反控命令，控制設(shè)備啟動采樣或控制排污閥門的開關(guān)。移動數(shù)據(jù)查詢?？赏ㄟ^Windows Mobile、iPhone等智能移動設(shè)備，查詢排放口的實時排放數(shù)據(jù)及歷史統(tǒng)計數(shù)據(jù)。通過對污水處理過程中各個工藝環(huán)節(jié)的用電情況實時監(jiān)測，精確計算每個工藝過程的電耗成本，經(jīng)有效的數(shù)據(jù)分析，提出需要優(yōu)化的工藝環(huán)節(jié)、優(yōu)化方法等建議，以幫助污水處理廠節(jié)能降耗。 機動車監(jiān)控系統(tǒng)近年來，隨著機動車數(shù)量的增加，機車車排放對環(huán)境的污染已經(jīng)成為重要的污染源之一。因為，對機動車尾氣的排放的嚴格控制也是江蘇省環(huán)境治理的首要任務(wù)之一。機動車尾汽的監(jiān)控設(shè)備根據(jù)一定的過濾規(guī)則將拍攝到的畫面通過網(wǎng)絡(luò)傳送到省云存儲系統(tǒng)中，云處理端運行一些圖像模式識別進程根據(jù)一定的規(guī)則分析產(chǎn)生需要的記錄，對記錄進行統(tǒng)計分析，同時為web端提供API調(diào)用接口，實現(xiàn)機動車監(jiān)控系統(tǒng)對機動車尾氣的排放情況的實時分析查詢。本系統(tǒng)在全省典型區(qū)域具有代表性的交通干道附近，設(shè)立機動車尾氣監(jiān)測系統(tǒng)模塊，對目標(biāo)區(qū)域的機動車尾氣排放進行連續(xù)自動監(jiān)測。按要求提交有效數(shù)據(jù)，連續(xù)自動監(jiān)測數(shù)據(jù)匯總至系統(tǒng)平臺，所提交數(shù)據(jù)經(jīng)分析處理后