【正文】 2) Nginx+Tomcat比單個(gè) Tomcat更穩(wěn)定，不易出現(xiàn)錯(cuò)包，可以通過(guò)擴(kuò)充tomcat集群（新增tomcat 服務(wù)器）來(lái)提升系統(tǒng)的并發(fā)能力單個(gè)tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯(cuò)包，而采用Nginx+2Tomcat架構(gòu)在各種測(cè)試下，均未出現(xiàn)錯(cuò)包，但處理能力也會(huì)下降。因此，實(shí)際應(yīng)用中，網(wǎng)絡(luò)帶寬對(duì)整個(gè) web服務(wù)的影響會(huì)非常大第43頁(yè) 測(cè)試結(jié)果分析1. 系統(tǒng)參數(shù)的影響分析1） worker_processes 參數(shù)對(duì)Nginx性能的影響測(cè)試過(guò)程中分別設(shè)定worker_processes為8 、1 時(shí)發(fā)現(xiàn)，該參數(shù)對(duì)nginx性能影響不大，對(duì)服務(wù)器資源消耗也沒(méi)有太大影響，相關(guān)資料顯示，該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測(cè)試nginx所在服務(wù)器為2 顆雙核cpu ，因此最終測(cè)試設(shè)定為4。Test1 968M 10149秒 492 條/秒 500 萬(wàn) 9077毫秒 毫秒6 2 500 500萬(wàn) 1000毫秒Test2 1G 110149秒 492 條/秒 500 萬(wàn)9044毫秒 毫秒完成測(cè)試，無(wú)一錯(cuò)包。 web 服務(wù)器負(fù)載小于 2。 proxy緩存臨時(shí)文件的大小 proxy_temp_file_write_size 64k。 允許客戶端請(qǐng)求的最大的單個(gè)文件字節(jié)數(shù) client_max_body_size 10m。 location / { proxy_pass } 后端的 Web服務(wù)器可以通過(guò) XForwardedFor獲取用戶真實(shí)IP proxy_set_header XForwardedFor $remote_addr。 gzip_types text/plain application/xjavascript text/css application/xml。 tcp_nopush on。 worker_connections 51200。在處理靜態(tài)頁(yè)面或者圖片、js等訪問(wèn)方面，可以考慮使用ligd 代替Apache，它提供了更輕量級(jí)和更高效的處理能力 Nginx服務(wù)器的優(yōu)化worker_processes：該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，如果nginx所在服務(wù)器為2 顆雙核cpu ，則建議設(shè)定為4。 bufferSize： 輸入流緩沖大小，默認(rèn)值 2048 bytes。默認(rèn)值25。Xms256m Xmx512m39。 操作系統(tǒng)優(yōu)化調(diào)整系統(tǒng)的內(nèi)核參數(shù)，增大連接數(shù)及TCP/IP的超時(shí)設(shè)置。最終數(shù)據(jù)庫(kù)演變成一個(gè)非常龐大的共享資源。 (也就是一個(gè)服務(wù)器的內(nèi)容，平均分部到多個(gè)服務(wù)器上，服務(wù)器智能識(shí)別，讓用戶獲取離用戶最近的服務(wù)器，提高速度。還有就是，對(duì)于緩存的時(shí)間上，亦可以做獨(dú)立的調(diào)節(jié)。最后從規(guī)模上比較，HDFS只應(yīng)用在大批量的數(shù)據(jù)共享上。其次從結(jié)構(gòu)上比較，NFS至少包括兩個(gè)主要部分：一臺(tái)服務(wù)器，以及至少一臺(tái)客戶機(jī)。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第22頁(yè)2） NFS與GFS比較首先從它們的功能上進(jìn)行分析。如果正確 地完成該項(xiàng)工作，那么系統(tǒng)就可以擴(kuò)展到2臺(tái)、 3臺(tái)甚至12 臺(tái)服務(wù)器，并具備高可用性和穩(wěn)定性。為了提高靜態(tài)HTML的訪問(wèn)效率，主要可以對(duì)以下幾個(gè)方面進(jìn)行優(yōu)化：網(wǎng)絡(luò)帶寬、磁盤I/O 以及cache(高速緩沖存儲(chǔ)器)。這意味著，對(duì)一個(gè)靜態(tài)HTML文檔發(fā)出訪問(wèn)請(qǐng)求后，服務(wù)器端只是簡(jiǎn)單地將該文檔傳輸?shù)娇蛻舳恕?5) 緩存過(guò)期：你可以有最大限度的控制緩存對(duì)象的過(guò)期，包括可插入式的刷新策略（如果默認(rèn)性能不能滿足需要時(shí)）。永久緩存緩存能隨意的寫入硬盤，因此允許昂貴的創(chuàng)建大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第17頁(yè)（expensivetocreate ）數(shù)據(jù)來(lái)保持緩存，甚至能讓應(yīng)用重啟。}這個(gè)配置會(huì)將 指明到 memcached 的abc 這個(gè) key 去取數(shù)據(jù)。2)同時(shí)還要配置session復(fù)制，也就是說(shuō)其中任何一個(gè)tomcat的添加的session，是要同步復(fù)制到其它tomcat， 集群內(nèi)的tomcat都有相同的session，并為系統(tǒng)（包括 Apache 和 tomcat）設(shè)定 Session 超時(shí)時(shí)間。 5) 成本低廉Nginx為開源軟件，可以免費(fèi)使用。Squid 反向代理一般只緩存可緩沖的數(shù)據(jù)（比如 html 網(wǎng)頁(yè)和圖片等），而一些 CGI 腳本程序或者 ASP、JSP 之類的動(dòng)態(tài)程序默認(rèn)不緩存。當(dāng)互聯(lián)網(wǎng)用戶請(qǐng)求 WEB 服務(wù)時(shí)，DNS 將請(qǐng)求的域名解析為反向代理服務(wù)器的 IP 地址，這樣 URL 請(qǐng)求將被發(fā)送到反向代理服務(wù)器，由反向代理服務(wù)器負(fù)責(zé)處理用戶的請(qǐng)求與應(yīng)答、與后臺(tái) WEB 服務(wù)器交互。因此，對(duì)于同一個(gè)名字，不同的客戶機(jī)會(huì)得到不同的地址，它們也就訪問(wèn)不同地址上的Web 服務(wù)器，從而達(dá)到負(fù)載均衡的目的。2) 采用高效的網(wǎng)絡(luò)文件共享策略，采用圖片服務(wù)器來(lái)實(shí)現(xiàn)頁(yè)面的圖大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第4頁(yè)片存儲(chǔ)。對(duì)于靜態(tài)HTML的訪問(wèn)瓶頸為：網(wǎng)絡(luò)帶寬、磁盤I/O以及cache(高速緩沖存儲(chǔ)器)。b) 對(duì)于動(dòng)態(tài)頁(yè)面因?yàn)榉?wù)器解析動(dòng)態(tài)頁(yè)面必須在其傳輸?shù)娇蛻舳饲熬屯ㄟ^(guò)服務(wù)器來(lái)進(jìn)行解釋，這樣就會(huì)給應(yīng)用服務(wù)器添加額外的性能消耗，如果大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第2頁(yè)進(jìn)一步要訪問(wèn)數(shù)據(jù)庫(kù)，則會(huì)增加數(shù)據(jù)庫(kù)服務(wù)器的性能消耗，則動(dòng)態(tài)頁(yè)面還有額外的瓶頸：應(yīng)用服務(wù)器的性能，數(shù)據(jù)庫(kù)服務(wù)器的性能。 不同網(wǎng)絡(luò)用戶訪問(wèn)考慮1) 通過(guò)引入CDN 來(lái)解決不同網(wǎng)絡(luò)服務(wù)商的接入速度問(wèn)題，一般只能解決靜態(tài)頁(yè)面的訪問(wèn)問(wèn)題。這種技術(shù)的優(yōu)點(diǎn)是，實(shí)現(xiàn)簡(jiǎn)單、實(shí)施容易、成本低、適用于大多數(shù)TCP/IP應(yīng)用；但是，其缺點(diǎn)也非常明顯，首先這種方案不是真正意義上的負(fù)載均衡，DNS 服務(wù)器將 Http請(qǐng)求平均地分配到后臺(tái)的Web服務(wù)器上，而不考慮每個(gè)Web 服務(wù)器當(dāng)前的負(fù)載情況；如果后臺(tái)的Web 服務(wù)器的配置和處理能力不同，最慢的 Web服務(wù)器將成為系統(tǒng)的瓶頸，處理能力強(qiáng)的服務(wù)器不能充分發(fā)揮作用；其次未考慮容錯(cuò)，如果后臺(tái)的某臺(tái)Web服務(wù)器出現(xiàn)故障，DNS服務(wù)器仍然會(huì)把 DNS 請(qǐng)求分配到這臺(tái)故障服務(wù)器上，導(dǎo)致不能響應(yīng)客戶端。利用反向代理服務(wù)器減輕了后臺(tái) WEB 服務(wù)器的負(fù)載，提高了訪問(wèn)速度，同時(shí)避免了因用戶直接與 WEB 服務(wù)器通信帶來(lái)的安全隱患。它根據(jù)從 WEB 服務(wù)器返回的 HTTP 頭標(biāo)記來(lái)緩沖靜態(tài)頁(yè)面, 有四個(gè)最重要 HTTP 頭標(biāo)記：? LastModified: 告訴反向代理頁(yè)面什么時(shí)間被修改? Expires: 告訴反向代理頁(yè)面什么時(shí)間應(yīng)該從緩沖區(qū)中刪除? CacheControl: 告訴反向代理頁(yè)面是否應(yīng)該被緩沖? Pragma: 用來(lái)包含實(shí)現(xiàn)特定的指令，最常用的是 Pragma:nocache 注：DNS 的輪詢機(jī)制將某一個(gè)域名解析為 多個(gè)IP地址。而購(gòu)買F5 BIGIP 、NetScaler等硬件負(fù)載均衡交換機(jī)則需要十多萬(wàn)至幾十萬(wàn)人民幣。 緩存1. 系統(tǒng)架構(gòu)方面的緩存1） Squid緩存架構(gòu)方面使用Squid進(jìn)行緩存。Nginx 目前沒(méi)有寫入 memcached 的任何機(jī)制，所以要往 memcached里寫入數(shù)據(jù)得用后臺(tái)的動(dòng)態(tài)語(yǔ)言完成，可以利用 404 定向到后端去寫入數(shù)據(jù)。支持集群集群緩存數(shù)據(jù)能被單個(gè)的進(jìn)行參數(shù)配置，不需要修改代碼。2） Memcachedmemcached是高性能的分布式內(nèi)存緩存服務(wù)器。從服務(wù)器運(yùn)行的那個(gè)時(shí)間片來(lái)看，這個(gè)傳輸過(guò)程僅僅占用了很小的CPU資源。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第20頁(yè) 數(shù)據(jù)庫(kù)配置及優(yōu)化1. 數(shù)據(jù)庫(kù)集群對(duì)生產(chǎn)數(shù)據(jù)庫(kù)采用RAC實(shí)現(xiàn)數(shù)據(jù)庫(kù)的集群。3. 擁有良好的DB配置和備份很多公司都沒(méi)有良好的備份機(jī)制，也不知道如 何恰當(dāng)?shù)赝瓿蛇@項(xiàng)工作。NFS即網(wǎng)絡(luò)文件系統(tǒng)，是由SUN公司開發(fā)的。被共享的目錄和文件存放在服務(wù)器上，客戶機(jī)遠(yuǎn)程地訪問(wèn)保存在服務(wù)器上的數(shù)據(jù)。目前Google擁有超過(guò) 200個(gè)的 GFS集群，其中有些集群的 PC數(shù)量超過(guò)5000大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第23頁(yè)臺(tái)。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第24頁(yè) 網(wǎng)絡(luò)問(wèn)題解決方案你不可能要求所有的使用人員，都和你的服務(wù)器在一個(gè)運(yùn)營(yíng)商的網(wǎng)絡(luò)內(nèi)，而不同網(wǎng)絡(luò)之間訪問(wèn)速度會(huì)很慢，我們可以采用鏡像網(wǎng)站和引入CDN來(lái)解決這一問(wèn)題。目前，國(guó)內(nèi)訪問(wèn)量較高的大型網(wǎng)站如新浪、網(wǎng)易等，均使用 CDN網(wǎng)絡(luò)加速技術(shù)，雖然網(wǎng)站的訪問(wèn)巨大，但無(wú)論在什么地方訪問(wèn)都會(huì)感覺(jué)速度很快。這種架構(gòu)是松散耦合的，并且圍繞著服務(wù)進(jìn)行構(gòu)建。Linux系統(tǒng)中：在/etc/： = 1 = 1大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第31頁(yè) = 1 = 5 tomcat服務(wù)器優(yōu)化增大并發(fā)連接數(shù)，調(diào)整內(nèi)存參數(shù)的設(shè)置。 表示初始化內(nèi)存為 256MB，可以使用的最大內(nèi)存為 512MB。maxSpareThreads： 一旦創(chuàng)建的線程超過(guò)這個(gè)值， Tomcat 就會(huì)關(guān)閉不再需要的 socket 線程。pression： 壓縮傳輸，取值 on/off/force，默認(rèn)值 off。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第34頁(yè)3 Web服務(wù)架構(gòu)評(píng)測(cè)主要對(duì)基于tomcat和nginx+tomcat的web服務(wù)器的處理性能進(jìn)行測(cè)試，以作為不同性能要求下架構(gòu)選型的依據(jù) 測(cè)試環(huán)境 網(wǎng)絡(luò)環(huán)境1. 內(nèi)網(wǎng)帶寬? 千M內(nèi)網(wǎng)。} { include 。 keepalive_timeout 1。 gzip_vary on。 location / { if ($request_uri ~* .*\.(js|css|gif|jpg|jpeg|png|bmp|swf)$) { proxy_pass } if ($request_uri ~* ^/view/(.*)$) { proxy_pass } proxy_pass } 定義日志格式 log_format access 39。 緩沖區(qū)代理緩沖用戶端請(qǐng)求的最大字節(jié)數(shù) 可以理解為先保存到本地再大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第38頁(yè)傳給用戶 client_body_buffer_size 128k。 }}3. Tomcat設(shè)置主要配置如下：? ? MaxThread 500大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第39頁(yè)? MinSpareThread 25? MaxSpareThread75? Xmx 1740M4. Java環(huán)境? 。Test1 1595秒742 條/秒118萬(wàn)52 500 200萬(wàn) 500毫秒 Test2 1 1575秒737 條/秒116萬(wàn)服務(wù)端從第 1595 秒左右開始，tomcat 占用內(nèi)存到達(dá) Xmx 指定上限，TestTest2 請(qǐng)求速度急劇下降，開始出現(xiàn)大量錯(cuò)包，達(dá)到 前，錯(cuò)包率只有 %，達(dá)到 后，截止停止測(cè)試時(shí)，錯(cuò)包率增長(zhǎng)到 %，測(cè)試終止。大型網(wǎng)絡(luò)平臺(tái)架構(gòu)設(shè)計(jì)方案第42 頁(yè) Nginx+2個(gè)TOMCAT的WEB服務(wù)器+ 緩沖NO 客戶端數(shù) 線程 數(shù) 請(qǐng)求次數(shù) 間隔時(shí)間 測(cè)試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負(fù)載 持續(xù)時(shí)間 平均速度 (條/秒) 完成請(qǐng) 求數(shù) 最大響應(yīng) 時(shí)長(zhǎng) 平均響應(yīng)時(shí) 長(zhǎng) 測(cè)試結(jié)果Test1 64 秒 23437 150 萬(wàn) 9993 毫秒 毫秒1 2 250 150萬(wàn)0 毫秒 Test2 1 59 秒 25423 150 萬(wàn) 3472 毫秒 毫秒 　Test1 196秒 10202 200 萬(wàn) 9616 毫秒 毫秒2 2 500 200萬(wàn) 25 毫秒Test2 1 194秒 10361 200 萬(wàn) 9608 毫秒 毫秒開啟 Nginx 緩存后，400萬(wàn)次請(qǐng)求全部完成，分別有 241 和 216 個(gè)錯(cuò)包。2） MaxThread參數(shù)對(duì)tomcat并發(fā)性的影響本次測(cè)試tomcat的 MaxThread參數(shù)設(shè)定為 500，進(jìn)行13000條/秒并發(fā)測(cè)試時(shí)，tomcat啟動(dòng)并發(fā)線程過(guò)多，將服務(wù)器cpu耗盡。單個(gè)tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請(qǐng)求，而Nginx+2Tomcat能支持每秒1000左右的并發(fā)請(qǐng)求。4) 在Nginx+2tomcat，同時(shí)配置了緩存的情況下，可以達(dá)到 的并發(fā)處理能力 評(píng)測(cè)結(jié)果1) 單個(gè)tomcat 的處理能力在500條/秒左右單個(gè)tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請(qǐng)求。測(cè)試過(guò)程中曾嘗試過(guò)使用 100k大小靜態(tài)頁(yè)面，結(jié)果顯示在千兆內(nèi)網(wǎng)下，無(wú)論是單 Tomcat亦或是 Nginx+2Tomcat，請(qǐng)求速度最大均不超過(guò) 1000條 /秒，網(wǎng)絡(luò)帶寬使用已經(jīng)達(dá)到 800M，接近千 M內(nèi)網(wǎng)上限。Test1 5475 秒 913 條/秒 500 萬(wàn) 93000毫秒 毫秒5 2 500 500萬(wàn)