【正文】 提供給他們隔離特性，一個(gè)服務(wù)可能有很多臺(tái)數(shù)據(jù)庫(kù)服務(wù)器，他們之間的數(shù)據(jù)是相通的，而對(duì)外他們的接口只有一個(gè)，外面是無法知道這個(gè)服務(wù)后面的數(shù)據(jù)組織是如何搭建的。智 能 D N S解 析電 信 機(jī) 房服 務(wù) 器 1 服 務(wù) 器 n動(dòng)態(tài)內(nèi)容 （ 社區(qū) 、 投票 、 調(diào)查 、 搜索 、 點(diǎn)評(píng) 、 視頻 ）靜態(tài)內(nèi)容（ 靜態(tài)網(wǎng)頁(yè) 、 圖片 ）多 線 機(jī) 房服 務(wù) 器 1 服 務(wù) 器 n服 務(wù) 器 1 服 務(wù) 器 n網(wǎng) 通 機(jī) 房其 他用 戶網(wǎng) 通用 戶用戶C D N電 信用 戶1. 智能DNS解析我們可以在不同的網(wǎng)絡(luò)運(yùn)營(yíng)商部署web服務(wù)器，通過linux上的rsync工具自動(dòng)同步到不同網(wǎng)絡(luò)接入商的web服務(wù)器上，以作為主站的鏡像。GFS則由一臺(tái)Master(通常有幾臺(tái)備份)和若干臺(tái)TrunkServer構(gòu)成。只有imp是不夠的，還需要進(jìn)行熱備份，從而得到超快的速度和超高的可靠性。頁(yè)面靜態(tài)化就是采用效率最高、消耗最小的純靜態(tài)化的html頁(yè)面來替換動(dòng)態(tài)頁(yè)面。緩存記錄的過期你可以有最大限度的控制緩存對(duì)象的過期，包括可插入式的刷新策略（如果默認(rèn)性能不需要時(shí)）。注： SQUID使用了 LM算法， LM就是頁(yè)面 Header里時(shí)間(Date)和 LastModified時(shí)間的差。2） NginxNginx (“engine x”) 是俄羅斯人Igor Sysoev(塞索耶夫)編寫的一大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第13頁(yè)款高性能的 HTTP 和反向代理服務(wù)器。最后一點(diǎn)是致命的，有可能造成相當(dāng)一部分客戶不能享受Web服務(wù)，并且由于DNS緩存的原因，所造成的后果要持續(xù)相當(dāng)長(zhǎng)一段時(shí)間( 一般 DNS的刷新周期約為 24小時(shí))。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第3頁(yè)2 系統(tǒng)架構(gòu)設(shè)計(jì) 總體思路為提高網(wǎng)站的高并發(fā)性能,提高開發(fā)效率及運(yùn)營(yíng)效率,主要按如下幾個(gè)思路進(jìn)行規(guī)劃設(shè)計(jì): 負(fù)載均衡1) 四層交換負(fù)載均衡：采用負(fù)載均衡器來實(shí)現(xiàn)硬件級(jí)的四層交換負(fù)載均衡，或采用LVS來實(shí)現(xiàn)軟件的四層交換負(fù)載均衡。3) 采用Oscache實(shí)現(xiàn)頁(yè)面緩存,采用Memcached實(shí)現(xiàn)數(shù)據(jù)緩存4) 采用獨(dú)立的圖片服務(wù)器集群來實(shí)現(xiàn)圖片資源的存儲(chǔ)及WEB請(qǐng)求 數(shù)據(jù)存儲(chǔ)的設(shè)計(jì)思路1) 數(shù)據(jù)庫(kù)拆分,把生產(chǎn)數(shù)據(jù)庫(kù)和查詢數(shù)據(jù)庫(kù)分離，對(duì)生產(chǎn)數(shù)據(jù)庫(kù)采用RAC實(shí)現(xiàn)數(shù)據(jù)庫(kù)的集群。4. 通過反向代理服務(wù)器實(shí)現(xiàn)負(fù)載均衡反向代理服務(wù)器又稱為 WEB 加速服務(wù)器，它位于 WEB 服務(wù)器的前端，充當(dāng)WEB服務(wù)器的內(nèi)容緩存器,反向代理服務(wù)器是針對(duì) WEB 服務(wù)器設(shè)置的，后臺(tái) WEB 服務(wù)器對(duì)互聯(lián)網(wǎng)用戶是透明的，用戶只能看到反向代理服務(wù)器的地址，不清楚后臺(tái) WEB 服務(wù)器是如何組織架構(gòu)的。 4) 配置文件非常簡(jiǎn)單風(fēng)格跟程序一樣通俗易懂。 } expires 70。 4) 支持集群：集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。在進(jìn)行html靜態(tài)化的時(shí)候還可以使用一種折中的方法，就是前端繼續(xù)使用動(dòng)態(tài)實(shí)現(xiàn)，在一定的策略下通過后臺(tái)模塊進(jìn)行定時(shí)把動(dòng)態(tài)網(wǎng)頁(yè)生成靜態(tài)頁(yè)面，并定時(shí)判斷調(diào)用，這個(gè)能實(shí)現(xiàn)很多靈活性的操作。一個(gè)HDFS集群是由一個(gè)Namenode和一定數(shù)目的Datanodes組成。而GFS則沒有這一特點(diǎn)，文件只能被集群系統(tǒng)中的PC所訪問，而且這些PC 的操作系統(tǒng)一般是Linux 。從技術(shù)上全面解決由于網(wǎng)絡(luò)帶寬小、用戶訪問量大、網(wǎng)點(diǎn)分布不均等原因所造成的用戶訪問網(wǎng)站響應(yīng)速度慢的問題。 系統(tǒng)軟件參數(shù)優(yōu)化在一定的架構(gòu)基礎(chǔ)上，要提高并發(fā)處理能力則需要調(diào)整服務(wù)器的操作系統(tǒng)內(nèi)核參數(shù)、web服務(wù)器（tomcat 的參數(shù)、 apache的參數(shù)、Nginx的參數(shù)），以使其性能達(dá)到最優(yōu)化。minSpareThreads： Tomcat 初始化時(shí)創(chuàng)建的線程數(shù)。Apache在配置 ContentType的時(shí)候可以盡量少支持，盡可能少的LoadModule，保證更高的系統(tǒng)消耗和執(zhí)行效率同時(shí)配置apache和tomcat的組合使之能作到動(dòng)靜分離，apache處理靜態(tài)頁(yè)面，tomcat處理動(dòng)態(tài)頁(yè)面。 sendfile on。 proxy_redirect off。 如果系統(tǒng)很忙的時(shí)候可以申請(qǐng)更大的proxy_buffers 官方推薦*2 proxy_busy_buffers_size 64k。Test1 5475 秒 913 條/秒 500 萬 93000毫秒 毫秒5 2 500 500萬 500毫秒Test2 15565 秒 898 條/秒 500 萬 92987毫秒 毫秒完成測(cè)試，但 TomcatTomcat2 占用內(nèi)存到達(dá) Xmx 指定上限 ，無錯(cuò)包。4) 在Nginx+2tomcat，同時(shí)配置了緩存的情況下，可以達(dá)到 的并發(fā)處理能力 評(píng)測(cè)結(jié)果1) 單個(gè)tomcat 的處理能力在500條/秒左右單個(gè)tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請(qǐng)求。2） MaxThread參數(shù)對(duì)tomcat并發(fā)性的影響本次測(cè)試tomcat的 MaxThread參數(shù)設(shè)定為 500，進(jìn)行13000條/秒并發(fā)測(cè)試時(shí)，tomcat啟動(dòng)并發(fā)線程過多，將服務(wù)器cpu耗盡。Test1 1595秒742 條/秒118萬52 500 200萬 500毫秒 Test2 1 1575秒737 條/秒116萬服務(wù)端從第 1595 秒左右開始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，測(cè)試終止。 緩沖區(qū)代理緩沖用戶端請(qǐng)求的最大字節(jié)數(shù) 可以理解為先保存到本地再大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第38頁(yè)傳給用戶 client_body_buffer_size 128k。 gzip_vary on。} { include 。pression： 壓縮傳輸，取值 on/off/force，默認(rèn)值 off。 表示初始化內(nèi)存為 256MB，可以使用的最大內(nèi)存為 512MB。這種架構(gòu)是松散耦合的，并且圍繞著服務(wù)進(jìn)行構(gòu)建。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第24頁(yè) 網(wǎng)絡(luò)問題解決方案你不可能要求所有的使用人員，都和你的服務(wù)器在一個(gè)運(yùn)營(yíng)商的網(wǎng)絡(luò)內(nèi)，而不同網(wǎng)絡(luò)之間訪問速度會(huì)很慢，我們可以采用鏡像網(wǎng)站和引入CDN來解決這一問題。被共享的目錄和文件存放在服務(wù)器上，客戶機(jī)遠(yuǎn)程地訪問保存在服務(wù)器上的數(shù)據(jù)。3. 擁有良好的DB配置和備份很多公司都沒有良好的備份機(jī)制，也不知道如 何恰當(dāng)?shù)赝瓿蛇@項(xiàng)工作。從服務(wù)器運(yùn)行的那個(gè)時(shí)間片來看，這個(gè)傳輸過程僅僅占用了很小的CPU資源。支持集群集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。 緩存1. 系統(tǒng)架構(gòu)方面的緩存1） Squid緩存架構(gòu)方面使用Squid進(jìn)行緩存。它根據(jù)從 WEB 服務(wù)器返回的 HTTP 頭標(biāo)記來緩沖靜態(tài)頁(yè)面, 有四個(gè)最重要 HTTP 頭標(biāo)記：? LastModified: 告訴反向代理頁(yè)面什么時(shí)間被修改? Expires: 告訴反向代理頁(yè)面什么時(shí)間應(yīng)該從緩沖區(qū)中刪除? CacheControl: 告訴反向代理頁(yè)面是否應(yīng)該被緩沖? Pragma: 用來包含實(shí)現(xiàn)特定的指令，最常用的是 Pragma:nocache 注：DNS 的輪詢機(jī)制將某一個(gè)域名解析為 多個(gè)IP地址。這種技術(shù)的優(yōu)點(diǎn)是，實(shí)現(xiàn)簡(jiǎn)單、實(shí)施容易、成本低、適用于大多數(shù)TCP/IP應(yīng)用；但是，其缺點(diǎn)也非常明顯，首先這種方案不是真正意義上的負(fù)載均衡，DNS 服務(wù)器將 Http請(qǐng)求平均地分配到后臺(tái)的Web服務(wù)器上，而不考慮每個(gè)Web 服務(wù)器當(dāng)前的負(fù)載情況；如果后臺(tái)的Web 服務(wù)器的配置和處理能力不同，最慢的 Web服務(wù)器將成為系統(tǒng)的瓶頸，處理能力強(qiáng)的服務(wù)器不能充分發(fā)揮作用；其次未考慮容錯(cuò)，如果后臺(tái)的某臺(tái)Web服務(wù)器出現(xiàn)故障，DNS服務(wù)器仍然會(huì)把 DNS 請(qǐng)求分配到這臺(tái)故障服務(wù)器上，導(dǎo)致不能響應(yīng)客戶端。b) 對(duì)于動(dòng)態(tài)頁(yè)面因?yàn)榉?wù)器解析動(dòng)態(tài)頁(yè)面必須在其傳輸?shù)娇蛻舳饲熬屯ㄟ^服務(wù)器來進(jìn)行解釋，這樣就會(huì)給應(yīng)用服務(wù)器添加額外的性能消耗，如果大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第2頁(yè)進(jìn)一步要訪問數(shù)據(jù)庫(kù)，則會(huì)增加數(shù)據(jù)庫(kù)服務(wù)器的性能消耗，則動(dòng)態(tài)頁(yè)面還有額外的瓶頸：應(yīng)用服務(wù)器的性能，數(shù)據(jù)庫(kù)服務(wù)器的性能。2) 采用高效的網(wǎng)絡(luò)文件共享策略，采用圖片服務(wù)器來實(shí)現(xiàn)頁(yè)面的圖大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第4頁(yè)片存儲(chǔ)。當(dāng)互聯(lián)網(wǎng)用戶請(qǐng)求 WEB 服務(wù)時(shí)，DNS 將請(qǐng)求的域名解析為反向代理服務(wù)器的 IP 地址，這樣 URL 請(qǐng)求將被發(fā)送到反向代理服務(wù)器，由反向代理服務(wù)器負(fù)責(zé)處理用戶的請(qǐng)求與應(yīng)答、與后臺(tái) WEB 服務(wù)器交互。 5) 成本低廉Nginx為開源軟件，可以免費(fèi)使用。}這個(gè)配置會(huì)將 指明到 memcached 的abc 這個(gè) key 去取數(shù)據(jù)。 5) 緩存過期：你可以有最大限度的控制緩存對(duì)象的過期，包括可插入式的刷新策略（如果默認(rèn)性能不能滿足需要時(shí)）。為了提高靜態(tài)HTML的訪問效率，主要可以對(duì)以下幾個(gè)方面進(jìn)行優(yōu)化：網(wǎng)絡(luò)帶寬、磁盤I/O 以及cache(高速緩沖存儲(chǔ)器)。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第22頁(yè)2） NFS與GFS比較首先從它們的功能上進(jìn)行分析。最后從規(guī)模上比較，HDFS只應(yīng)用在大批量的數(shù)據(jù)共享上。 (也就是一個(gè)服務(wù)器的內(nèi)容，平均分部到多個(gè)服務(wù)器上，服務(wù)器智能識(shí)別，讓用戶獲取離用戶最近的服務(wù)器，提高速度。 操作系統(tǒng)優(yōu)化調(diào)整系統(tǒng)的內(nèi)核參數(shù)，增大連接數(shù)及TCP/IP的超時(shí)設(shè)置。默認(rèn)值25。在處理靜態(tài)頁(yè)面或者圖片、js等訪問方面，可以考慮使用ligd 代替Apache，它提供了更輕量級(jí)和更高效的處理能力 Nginx服務(wù)器的優(yōu)化worker_processes：該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，如果nginx所在服務(wù)器為2 顆雙核cpu ，則建議設(shè)定為4。 tcp_nopush on。 location / { proxy_pass } 后端的 Web服務(wù)器可以通過 XForwardedFor獲取用戶真實(shí)IP proxy_set_header XForwardedFor $remote_addr。 proxy緩存臨時(shí)文件的大小 proxy_temp_file_write_size 64k。Test1 968M 10149秒 492 條/秒 500 萬 9077毫秒 毫秒6 2 500 500萬 1000毫秒Test2 1G 110149秒 492 條/秒 500 萬9044毫秒 毫秒完成測(cè)試，無一錯(cuò)包。2) Nginx+Tomcat比單個(gè) Tomcat更穩(wěn)定，不易出現(xiàn)錯(cuò)包，可以通過擴(kuò)充tomcat集群（新增tomcat 服務(wù)器）來提升系統(tǒng)的并發(fā)能力單個(gè)tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯(cuò)包，而采用Nginx+2Tomcat架構(gòu)在各種測(cè)試下，均未出現(xiàn)錯(cuò)包，但處理能力也會(huì)下降。因此，實(shí)際應(yīng)用中，網(wǎng)絡(luò)帶寬對(duì)整個(gè) web服務(wù)的影響會(huì)非常大第43頁(yè) 測(cè)試結(jié)果分析1. 系統(tǒng)參數(shù)的影響分析1） worker_processes 參數(shù)對(duì)Nginx性能的影響測(cè)試過程中分別設(shè)定worker_processes為8 、1 時(shí)發(fā)現(xiàn)，該參數(shù)對(duì)nginx性能影響不大，對(duì)服務(wù)器資源消耗也沒有太大影響，相關(guān)資料顯示，該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測(cè)試nginx所在服務(wù)器為2 顆雙核cpu ，因此最終測(cè)試設(shè)定為4。 web 服務(wù)器負(fù)載小于 2。 允許客戶端請(qǐng)求的最大的單個(gè)文件字節(jié)數(shù) client_max_body_size 10m。 gzip_types text/plain application/xjavascript text/css application/xml。 worker_connections 51200。 bufferSize： 輸入流緩沖大小，默認(rèn)值 2048 bytes。Xms256m Xmx512m39。最終數(shù)據(jù)庫(kù)演變成一個(gè)非常龐大的共享資源。還有就是，對(duì)于緩存的時(shí)間上，亦可以做獨(dú)立的調(diào)節(jié)。其次從結(jié)構(gòu)上比較，NFS至少包括兩個(gè)主要部分：一臺(tái)服務(wù)器，以及至少一臺(tái)客戶機(jī)。如果正確 地完成該項(xiàng)工作，那么系統(tǒng)就可以擴(kuò)展到2臺(tái)、 3臺(tái)甚至12 臺(tái)服務(wù)器，并具備高可用性和穩(wěn)定性。這意味著，對(duì)一個(gè)靜態(tài)HTML文檔發(fā)出訪問請(qǐng)求后，服務(wù)器端只是簡(jiǎn)單地將該文檔傳輸?shù)娇蛻舳?。永久緩存緩存能隨意的寫入硬盤，因此允許昂貴的創(chuàng)建大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第17頁(yè)（expensivetocreate ）數(shù)據(jù)來保持緩存，甚至能讓應(yīng)用重啟。2)同時(shí)還要配置session復(fù)制，也就是說其中任何一個(gè)tomcat的添加的session，是要同步復(fù)制到其它tomcat， 集群內(nèi)的tomcat都有相同的session，并為系統(tǒng)（包括 Apache 和 tomca