【正文】 22 Bigtable Location Hierarchical 8. 在電信網(wǎng)絡(luò)中結(jié)合使用P2P與云計算 技術(shù)思路 目前，Google、Yahoo、Amazon及IBM等公司都公布了各自的云計算計劃。Google連續(xù)幾年在計算機(jī)領(lǐng)域的高級別會議上發(fā)表論文，介紹其主要的云計算技術(shù)，如GFS、BigTable及MapReduce等?；贕oogle云計算技術(shù)的開源分布式并行編程框架Hadoop也獲得長足的發(fā)展。Yahoo、Amazon及IBM等公司相繼將Hadoop作為各自云計算計劃的基礎(chǔ)軟件。因而，深入分析Google的云計算技術(shù)對于全面把握云計算的發(fā)展方向具有重要的意義。Google的云計算技術(shù)實際上是針對Google特定的網(wǎng)絡(luò)應(yīng)用程序而定制的。針對待處理數(shù)據(jù)的規(guī)模超大的特點(diǎn)，Google提出了一整套關(guān)于分布式集群運(yùn)算及存儲的基礎(chǔ)架構(gòu)，利用軟件的能力來處理集群中經(jīng)常發(fā)生的節(jié)點(diǎn)失效問題。下面逐個分析Google的云計算技術(shù)。Google的MapReduce編程模型具有很多優(yōu)點(diǎn)，它能自動分解輸入的數(shù)據(jù)、自動給各個計算機(jī)分配計算任務(wù)、可以處理機(jī)器之間的通信、允許機(jī)器故障等。MapReduce比較適合某些特定的計算任務(wù)，比如給海量網(wǎng)頁建立索引。這類任務(wù)具有這樣的特點(diǎn)：輸入的數(shù)據(jù)量非常大，往往在T 字節(jié)以上；集群中各計算機(jī)的計算任務(wù)相同，只是待處理的數(shù)據(jù)不同。其實，這正是MapReduce的設(shè)計出發(fā)點(diǎn)，即在實時性要求極高的情況下處理海量數(shù)據(jù)。MapReduce采用分解輸入數(shù)據(jù)的方式來實現(xiàn)計算的并行化，因而 MapReduce只適用于部分計算任務(wù)。因為還有很多計算任務(wù)需采用數(shù)據(jù)流分解或功能分解等其它方式來實現(xiàn)并行化。另外，輸入數(shù)據(jù)量較小的計算任務(wù)是否適合于在MapReduce上運(yùn)行還不得而知。由于受其設(shè)計思想的限制，MapReduce未必適用于建立通用計算平臺。在P2P分布式計算領(lǐng)域，也只出現(xiàn)了針對某一特定任務(wù)的計算，比如SETI@HOME，還沒有建立起通用的計算平臺。GFS是Google針對大規(guī)模分布式數(shù)據(jù)處理而開發(fā)的分布式文件系統(tǒng)。GFS的設(shè)計基于如下假設(shè)：文件的規(guī)模非常大，在GB以上；大多數(shù)情況下，文件只用來讀，或者在文件末尾添加一些數(shù)據(jù)，很少出現(xiàn)隨機(jī)寫文件的情況。從這里可以看出，GFS的設(shè)計出發(fā)點(diǎn)是Google的某些特定應(yīng)用，比如搜索引擎。一個GFS集群包括一個master和多個chunkserver。文件被分成固定大小的chunk存放在chunkserver上。Master是GFS的核心，它負(fù)責(zé)維護(hù)文件系統(tǒng)的所有元數(shù)據(jù)，處理每個客戶端的讀寫請求，周期性地向chunkserver詢問Chunk的位置信息。此外，Master還得完成以下任務(wù)：垃圾收集、chunk在ChunkServer之間的移動，chunk租期的管理等。Master的配置與集群中的其它計算機(jī)是一樣的，是普通的linux計算機(jī)。Master承擔(dān)的計算任務(wù)是如此繁重，這會導(dǎo)致它的可靠性下降。一旦Master死機(jī)，整個GFS系統(tǒng)將癱瘓，任何文件都不能被讀寫。當(dāng)然Master有備份措施，GFS系統(tǒng)可以很快恢復(fù)。但系統(tǒng)的恢復(fù)時間有時是不能忍受的。由于采用3級索引機(jī)制，GFS系統(tǒng)的可靠性及可擴(kuò)展性都受到極大限制。目前，Google最大的GFS集群包含1千多臺計算機(jī)，其存儲容量為幾百TB。隨著集群中計算機(jī)數(shù)目的增大，master的負(fù)荷越來越重，系統(tǒng)的性能就會下降。另外，客戶端的增多也會加重master的負(fù)擔(dān)。在GFS中，不同文件的chunk的大小是一樣的，現(xiàn)在GFS中chunk一般為64MB。當(dāng)在GFS中存儲大小介于幾兆字節(jié)到幾十兆字節(jié)的小文件時，特別當(dāng)小文件的數(shù)目非常大時，Master上的Metadata的數(shù)量會顯著增大，同時，chunkserver的存儲空間的開銷及網(wǎng)絡(luò)通信的開銷都會相應(yīng)提高。以上幾點(diǎn)會造成文件的查找速度降低、master負(fù)荷大幅增加的不良后果。其實，我們可以對GFS進(jìn)行適當(dāng)?shù)母倪M(jìn)，以使得GFS不僅能很好地支持大文件的讀寫，也能支持小文件的讀寫。比如：chunk的大小改為可變，其大小由原文件的大小決定。大文件對應(yīng)大的chunk；小文件對應(yīng)小的chunk。這樣，GFS就能更好地適應(yīng)各類不同大小的文件。與GFS一樣，BigTable也采用集中式的、分層的路徑存放方式，其可擴(kuò)展性及可靠性不好。依據(jù)google提供的數(shù)據(jù)，在針對14個bigtable集群的測試中，%?？赡苓@正是Gmail出現(xiàn)服務(wù)中斷的原因。與Google的云存儲技術(shù)相比，基于P2P的分布式存儲技術(shù)的可擴(kuò)展性及可靠性較好。在P2P存儲系統(tǒng)中，每臺計算機(jī)既是客戶機(jī)，也是服務(wù)器，他們之間可以直接交換信息，共同分擔(dān)文件的存儲和服務(wù)，而不需要中央服務(wù)器。這種對等的體系結(jié)構(gòu)使得P2P存儲系統(tǒng)的可擴(kuò)展性上非常好。P2P存儲系統(tǒng)具有自組織性，可以較好地適應(yīng)節(jié)點(diǎn)的動態(tài)加入和退出。P2P存儲系統(tǒng)普遍采用了文件容錯技術(shù)，如文件復(fù)制、分片冗余或編碼容錯等，使得即使一部分保存文件副本的節(jié)點(diǎn)出現(xiàn)故障或者退出系統(tǒng)，仍可以保證文件擁有很高的可得性。另外，由于P2P存儲系統(tǒng)的節(jié)點(diǎn)在地理上廣泛分布，數(shù)據(jù)的容災(zāi)性較好。P2P存儲系統(tǒng)也存在諸多不足，如文件查找效率低，資源管理復(fù)雜。目前，P2P文件的查找主要使用泛洪和分布散列表（DHT，distributed hashing table）兩種方式。使用泛洪查找會帶來相當(dāng)大的通信開銷；而DHT查找不支持模糊對象匹配。這些因素導(dǎo)致P2P的文件查找效率低下。在大規(guī)模的P2P系統(tǒng)中，peer的動態(tài)性非常明顯。造成peer動態(tài)性的原因除Internet底層基礎(chǔ)設(shè)施所提供的不可靠的服務(wù)外，另一個更主要的因素在于節(jié)點(diǎn)的主觀行為，如用戶隨意開、關(guān)計算機(jī)或終止服務(wù)等。P2P網(wǎng)絡(luò)的這種動態(tài)性導(dǎo)致資源的管理非常復(fù)雜。 隨著社會的發(fā)展，電信網(wǎng)絡(luò)將與水、電一樣成為基礎(chǔ)設(shè)施的一部分。如何將P2P和云計算這兩個當(dāng)前互聯(lián)網(wǎng)上的熱門技術(shù)引入未來電信網(wǎng)絡(luò)的建設(shè)還是一個需要深入研究的問題。 技術(shù)方案通過分析Google的云計算方案，我們不難發(fā)現(xiàn)：云計算的很多關(guān)鍵技術(shù)與P2P技術(shù)有著千絲萬縷的聯(lián)系。Google的分布式文件系統(tǒng)GFS與非結(jié)構(gòu)化的P2P系統(tǒng)比如Napster非常類似。在某種程度上，“GFS”就是一個非結(jié)構(gòu)化的“類P2P系統(tǒng)”。GFS中的master就類似于Napster中的“中心索引服務(wù)器”，掌控每個文件與其存儲位置的對應(yīng)關(guān)系。與P2P中的文件分發(fā)類似，GFS也將大文件分割為若干的小塊來存儲，只不過GFS中的文件塊（為MB級別）要比P2P中文件的分片（為KB級別）大一些而已。GFS中的chunksever類似于Napster的各個對等點(diǎn)，其功能是存儲文件的chunk，并向master匯報自己擁有的資源的情況。因此，我們不妨將結(jié)構(gòu)化P2P系統(tǒng)中的資源分配及路由查詢等的思想引進(jìn)到云端里去，以減少云端的網(wǎng)絡(luò)維護(hù)開銷，提高云端的資源查找效率。結(jié)構(gòu)化拓?fù)渚W(wǎng)絡(luò)是一種邏輯網(wǎng)絡(luò)，節(jié)點(diǎn)之間保留特定的網(wǎng)絡(luò)連接。具體的來說，每個網(wǎng)絡(luò)節(jié)點(diǎn)保持一個路由表，指向其他的節(jié)點(diǎn)。依據(jù)這個路由表和特定的路由算法，P2P系統(tǒng)可以迅速的定位和找到所需要的資源。Chord, CAN, Pastry和BATON都是這種結(jié)構(gòu)化拓?fù)渚W(wǎng)絡(luò)。如果我們把云計算中的節(jié)點(diǎn)使用這種結(jié)構(gòu)化的網(wǎng)絡(luò)組織起來，那么我們就不再需要中央服務(wù)器來跟蹤和維護(hù)每一個節(jié)點(diǎn)，這可以提高網(wǎng)絡(luò)的可靠性及可擴(kuò)展性。原來，P2P系統(tǒng)是針對Social Network的系統(tǒng)，其中的Peer可以任意地加入或者離開網(wǎng)絡(luò)。鑒于它動態(tài)性，P2P拓?fù)浣Y(jié)構(gòu)需要處理各種各樣的網(wǎng)絡(luò)錯誤。然而在云計算中，節(jié)點(diǎn)是由服務(wù)提供商監(jiān)控的，一旦加入系統(tǒng)，就要持續(xù)地提供計算資源，直到系統(tǒng)硬件出現(xiàn)故障。在這種網(wǎng)絡(luò)環(huán)境中，P2P系統(tǒng)的拓?fù)浣Y(jié)構(gòu)將長時間地保持穩(wěn)定，從而可以大大減少網(wǎng)絡(luò)維護(hù)的開銷。在這里，拓?fù)渚W(wǎng)絡(luò)的引入僅僅是為了組織節(jié)點(diǎn)和提供索引服務(wù)。我們可以定制各種索引給云計算系統(tǒng)。比如，基于Hash算法的支持點(diǎn)查詢的索引，基于樹結(jié)構(gòu)的支持范圍查詢的索引，以及其他更加復(fù)雜的索引結(jié)構(gòu)。將P2P技術(shù)應(yīng)用到云端，可以對資源實現(xiàn)更加快捷、靈活的組織及調(diào)度。當(dāng)然，與P2P系統(tǒng)相比，云計算也有其獨(dú)特之處，如云計算對延時非常敏感。因而，如何將二者更好地結(jié)合起來以向廣大電信用戶提供更加便捷的服務(wù)還是一個值得深入研究的課題。 使用場景(1)在線游戲場景近年來，網(wǎng)絡(luò)游戲越來越受到年輕人的喜愛，各種不同主題和風(fēng)格的網(wǎng)絡(luò)游戲?qū)映霾桓F，網(wǎng)絡(luò)游戲公司也使出渾身解數(shù)來吸引玩家。但很多玩家都會發(fā)現(xiàn)一個很重要的問題，那就是由于帶寬和單臺服務(wù)器的性能限制，要滿足成千上萬個玩家上線，網(wǎng)絡(luò)游戲公司就需要在全國不同地區(qū)建設(shè)很多個游戲服務(wù)器，而這些游戲服務(wù)器上的玩家相互之間是完全隔離的，不同服務(wù)器上的玩家根本不可能在游戲中見面，更不用說一起完成游戲任務(wù)。云計算時代，我們可以通過云計算和云存儲系統(tǒng)來構(gòu)建一個龐大的、超智能的游戲服務(wù)器群，這個服務(wù)器群系統(tǒng)對于游戲玩家來講，就如同是一臺服務(wù)器，所有玩家在一起進(jìn)行競爭。云計算和云存儲的應(yīng)用，可以代替現(xiàn)有的多服務(wù)器架構(gòu)，使所有玩家都能集中在一個游戲服務(wù)器組的管理之下。所有玩家聚集在一起， 這將會使游戲變得更加精彩，競爭變得更加激烈。同時，云計算和云存儲系統(tǒng)的使用可在最大限度上提升游戲服務(wù)器的性能，實現(xiàn)更多的功能。(2) 手機(jī)業(yè)務(wù)場景手機(jī)擁有便攜性、通信能力等眾多天生優(yōu)勢，但計算能力差、存儲容量小。受限于體積和便攜性的要求，短時間內(nèi)解決這兩大問題不太可能。在云計算時代，“云計算”能解決手機(jī)處理能力不足的問題， “云存儲”則可以解決手機(jī)存儲能力不足的問題。手機(jī)通過瀏覽器就可以接入云端享受各種服務(wù)?？梢栽诰€編輯文檔，體驗在線游戲以及觀看各類視頻等。充分利用云端的存儲及計算能力，即使手機(jī)本身性能不高，但只要手機(jī)與云端的傳輸速率滿足數(shù)據(jù)交換的要求，便能夠得到理想的結(jié)果。在3G推出以后，考慮到手機(jī)本身的輸入輸出量有限，如果合理設(shè)計輸入輸出界面的話就完全可以滿足手機(jī)云計算的要求。附錄：云計算與網(wǎng)格的技術(shù)比較 (待補(bǔ)充)l 相同點(diǎn)：二者的核心思想都是要將所有的資源構(gòu)筑成一個龐大的資源池，提供給用戶。云計算可看做是網(wǎng)格技術(shù)的進(jìn)一步發(fā)展，尤其是商用方面的發(fā)展。l 不同點(diǎn)：1） 網(wǎng)格的構(gòu)建大多為完成某一個特定的任務(wù)需要，而云計算一般來說都是為了通用應(yīng)用而設(shè)計的，沒有專門的以某種應(yīng)用命名的技術(shù)。2） 網(wǎng)格可看做是實現(xiàn)云之間互操作性的技術(shù)。3） 云計算采用機(jī)群來存儲和管理數(shù)據(jù)資源，運(yùn)行的任務(wù)以數(shù)據(jù)為中心。即調(diào)度計算任務(wù)到數(shù)據(jù)存儲節(jié)點(diǎn)運(yùn)行。而網(wǎng)格計算，則以計算為中心。計算資源和存儲資源分布在因特網(wǎng)的各個角落，不強(qiáng)調(diào)任務(wù)所需的計算和存儲資源同處一地。由于網(wǎng)絡(luò)帶寬的限制，網(wǎng)格計算中的數(shù)據(jù)傳輸時間占總運(yùn)行時間的很大一部分。4） 網(wǎng)格計算用執(zhí)行作業(yè)形式使用，在一個階段內(nèi)完成作用產(chǎn)生數(shù)據(jù)。而云計算支持持久服務(wù)，用戶可以利用云計算作為其部分IT基礎(chǔ)設(shè)施，實現(xiàn)業(yè)務(wù)的托管和外包。5） 網(wǎng)格計算更多地面向科研應(yīng)用，商業(yè)模型不清晰。而云計算從誕生開始就是針對企業(yè)商業(yè)應(yīng)用，商業(yè)模型比較清晰。網(wǎng)格缺乏公認(rèn)的標(biāo)準(zhǔn)，并且編程復(fù)雜性較高，這些因素阻礙了網(wǎng)格計算的發(fā)展。而云計算的技術(shù)發(fā)展尚待觀察