【正文】 2) Nginx+Tomcat比單個 Tomcat更穩(wěn)定，不易出現(xiàn)錯包，可以通過擴充tomcat集群（新增tomcat 服務(wù)器）來提升系統(tǒng)的并發(fā)能力單個tomcat在超出并發(fā)能力的提求下，處理能力大大下降，并出現(xiàn)大量錯包，而采用Nginx+2Tomcat架構(gòu)在各種測試下，均未出現(xiàn)錯包，但處理能力也會下降。因此，實際應(yīng)用中，網(wǎng)絡(luò)帶寬對整個 web服務(wù)的影響會非常大第43頁 測試結(jié)果分析1. 系統(tǒng)參數(shù)的影響分析1） worker_processes 參數(shù)對Nginx性能的影響測試過程中分別設(shè)定worker_processes為8 、1 時發(fā)現(xiàn)，該參數(shù)對nginx性能影響不大，對服務(wù)器資源消耗也沒有太大影響，相關(guān)資料顯示，該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，本次測試nginx所在服務(wù)器為2 顆雙核cpu ，因此最終測試設(shè)定為4。Test1 968M 10149秒 492 條/秒 500 萬 9077毫秒 毫秒6 2 500 500萬 1000毫秒Test2 1G 110149秒 492 條/秒 500 萬9044毫秒 毫秒完成測試，無一錯包。 web 服務(wù)器負載小于 2。 proxy緩存臨時文件的大小 proxy_temp_file_write_size 64k。 允許客戶端請求的最大的單個文件字節(jié)數(shù) client_max_body_size 10m。 location / { proxy_pass } 后端的 Web服務(wù)器可以通過 XForwardedFor獲取用戶真實IP proxy_set_header XForwardedFor $remote_addr。 gzip_types text/plain application/xjavascript text/css application/xml。 tcp_nopush on。 worker_connections 51200。在處理靜態(tài)頁面或者圖片、js等訪問方面，可以考慮使用ligd 代替Apache，它提供了更輕量級和更高效的處理能力 Nginx服務(wù)器的優(yōu)化worker_processes：該參數(shù)的值最好跟cpu核數(shù)相等，能夠發(fā)揮最大性能，如果nginx所在服務(wù)器為2 顆雙核cpu ，則建議設(shè)定為4。 bufferSize： 輸入流緩沖大小，默認值 2048 bytes。默認值25。Xms256m Xmx512m39。 操作系統(tǒng)優(yōu)化調(diào)整系統(tǒng)的內(nèi)核參數(shù)，增大連接數(shù)及TCP/IP的超時設(shè)置。最終數(shù)據(jù)庫演變成一個非常龐大的共享資源。 (也就是一個服務(wù)器的內(nèi)容，平均分部到多個服務(wù)器上，服務(wù)器智能識別，讓用戶獲取離用戶最近的服務(wù)器，提高速度。還有就是，對于緩存的時間上，亦可以做獨立的調(diào)節(jié)。最后從規(guī)模上比較，HDFS只應(yīng)用在大批量的數(shù)據(jù)共享上。其次從結(jié)構(gòu)上比較，NFS至少包括兩個主要部分：一臺服務(wù)器，以及至少一臺客戶機。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第22頁2） NFS與GFS比較首先從它們的功能上進行分析。如果正確 地完成該項工作，那么系統(tǒng)就可以擴展到2臺、 3臺甚至12 臺服務(wù)器，并具備高可用性和穩(wěn)定性。為了提高靜態(tài)HTML的訪問效率，主要可以對以下幾個方面進行優(yōu)化：網(wǎng)絡(luò)帶寬、磁盤I/O 以及cache(高速緩沖存儲器)。這意味著，對一個靜態(tài)HTML文檔發(fā)出訪問請求后，服務(wù)器端只是簡單地將該文檔傳輸?shù)娇蛻舳恕?5) 緩存過期：你可以有最大限度的控制緩存對象的過期，包括可插入式的刷新策略（如果默認性能不能滿足需要時）。永久緩存緩存能隨意的寫入硬盤，因此允許昂貴的創(chuàng)建大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第17頁（expensivetocreate ）數(shù)據(jù)來保持緩存，甚至能讓應(yīng)用重啟。}這個配置會將 指明到 memcached 的abc 這個 key 去取數(shù)據(jù)。2)同時還要配置session復(fù)制，也就是說其中任何一個tomcat的添加的session，是要同步復(fù)制到其它tomcat， 集群內(nèi)的tomcat都有相同的session，并為系統(tǒng)（包括 Apache 和 tomcat）設(shè)定 Session 超時時間。 5) 成本低廉Nginx為開源軟件，可以免費使用。Squid 反向代理一般只緩存可緩沖的數(shù)據(jù)（比如 html 網(wǎng)頁和圖片等），而一些 CGI 腳本程序或者 ASP、JSP 之類的動態(tài)程序默認不緩存。當互聯(lián)網(wǎng)用戶請求 WEB 服務(wù)時，DNS 將請求的域名解析為反向代理服務(wù)器的 IP 地址，這樣 URL 請求將被發(fā)送到反向代理服務(wù)器，由反向代理服務(wù)器負責處理用戶的請求與應(yīng)答、與后臺 WEB 服務(wù)器交互。因此，對于同一個名字，不同的客戶機會得到不同的地址，它們也就訪問不同地址上的Web 服務(wù)器，從而達到負載均衡的目的。2) 采用高效的網(wǎng)絡(luò)文件共享策略，采用圖片服務(wù)器來實現(xiàn)頁面的圖大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第4頁片存儲。對于靜態(tài)HTML的訪問瓶頸為：網(wǎng)絡(luò)帶寬、磁盤I/O以及cache(高速緩沖存儲器)。b) 對于動態(tài)頁面因為服務(wù)器解析動態(tài)頁面必須在其傳輸?shù)娇蛻舳饲熬屯ㄟ^服務(wù)器來進行解釋，這樣就會給應(yīng)用服務(wù)器添加額外的性能消耗，如果大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第2頁進一步要訪問數(shù)據(jù)庫，則會增加數(shù)據(jù)庫服務(wù)器的性能消耗，則動態(tài)頁面還有額外的瓶頸：應(yīng)用服務(wù)器的性能，數(shù)據(jù)庫服務(wù)器的性能。 不同網(wǎng)絡(luò)用戶訪問考慮1) 通過引入CDN 來解決不同網(wǎng)絡(luò)服務(wù)商的接入速度問題，一般只能解決靜態(tài)頁面的訪問問題。這種技術(shù)的優(yōu)點是，實現(xiàn)簡單、實施容易、成本低、適用于大多數(shù)TCP/IP應(yīng)用；但是，其缺點也非常明顯，首先這種方案不是真正意義上的負載均衡，DNS 服務(wù)器將 Http請求平均地分配到后臺的Web服務(wù)器上，而不考慮每個Web 服務(wù)器當前的負載情況；如果后臺的Web 服務(wù)器的配置和處理能力不同，最慢的 Web服務(wù)器將成為系統(tǒng)的瓶頸，處理能力強的服務(wù)器不能充分發(fā)揮作用；其次未考慮容錯，如果后臺的某臺Web服務(wù)器出現(xiàn)故障，DNS服務(wù)器仍然會把 DNS 請求分配到這臺故障服務(wù)器上，導(dǎo)致不能響應(yīng)客戶端。利用反向代理服務(wù)器減輕了后臺 WEB 服務(wù)器的負載，提高了訪問速度，同時避免了因用戶直接與 WEB 服務(wù)器通信帶來的安全隱患。它根據(jù)從 WEB 服務(wù)器返回的 HTTP 頭標記來緩沖靜態(tài)頁面, 有四個最重要 HTTP 頭標記：? LastModified: 告訴反向代理頁面什么時間被修改? Expires: 告訴反向代理頁面什么時間應(yīng)該從緩沖區(qū)中刪除? CacheControl: 告訴反向代理頁面是否應(yīng)該被緩沖? Pragma: 用來包含實現(xiàn)特定的指令，最常用的是 Pragma:nocache 注：DNS 的輪詢機制將某一個域名解析為 多個IP地址。而購買F5 BIGIP 、NetScaler等硬件負載均衡交換機則需要十多萬至幾十萬人民幣。 緩存1. 系統(tǒng)架構(gòu)方面的緩存1） Squid緩存架構(gòu)方面使用Squid進行緩存。Nginx 目前沒有寫入 memcached 的任何機制，所以要往 memcached里寫入數(shù)據(jù)得用后臺的動態(tài)語言完成，可以利用 404 定向到后端去寫入數(shù)據(jù)。支持集群集群緩存數(shù)據(jù)能被單個的進行參數(shù)配置，不需要修改代碼。2） Memcachedmemcached是高性能的分布式內(nèi)存緩存服務(wù)器。從服務(wù)器運行的那個時間片來看，這個傳輸過程僅僅占用了很小的CPU資源。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第20頁 數(shù)據(jù)庫配置及優(yōu)化1. 數(shù)據(jù)庫集群對生產(chǎn)數(shù)據(jù)庫采用RAC實現(xiàn)數(shù)據(jù)庫的集群。3. 擁有良好的DB配置和備份很多公司都沒有良好的備份機制，也不知道如 何恰當?shù)赝瓿蛇@項工作。NFS即網(wǎng)絡(luò)文件系統(tǒng)，是由SUN公司開發(fā)的。被共享的目錄和文件存放在服務(wù)器上，客戶機遠程地訪問保存在服務(wù)器上的數(shù)據(jù)。目前Google擁有超過 200個的 GFS集群，其中有些集群的 PC數(shù)量超過5000大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第23頁臺。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第24頁 網(wǎng)絡(luò)問題解決方案你不可能要求所有的使用人員，都和你的服務(wù)器在一個運營商的網(wǎng)絡(luò)內(nèi)，而不同網(wǎng)絡(luò)之間訪問速度會很慢，我們可以采用鏡像網(wǎng)站和引入CDN來解決這一問題。目前，國內(nèi)訪問量較高的大型網(wǎng)站如新浪、網(wǎng)易等，均使用 CDN網(wǎng)絡(luò)加速技術(shù)，雖然網(wǎng)站的訪問巨大，但無論在什么地方訪問都會感覺速度很快。這種架構(gòu)是松散耦合的，并且圍繞著服務(wù)進行構(gòu)建。Linux系統(tǒng)中：在/etc/： = 1 = 1大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第31頁 = 1 = 5 tomcat服務(wù)器優(yōu)化增大并發(fā)連接數(shù)，調(diào)整內(nèi)存參數(shù)的設(shè)置。 表示初始化內(nèi)存為 256MB，可以使用的最大內(nèi)存為 512MB。maxSpareThreads： 一旦創(chuàng)建的線程超過這個值， Tomcat 就會關(guān)閉不再需要的 socket 線程。pression： 壓縮傳輸，取值 on/off/force，默認值 off。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第34頁3 Web服務(wù)架構(gòu)評測主要對基于tomcat和nginx+tomcat的web服務(wù)器的處理性能進行測試，以作為不同性能要求下架構(gòu)選型的依據(jù) 測試環(huán)境 網(wǎng)絡(luò)環(huán)境1. 內(nèi)網(wǎng)帶寬? 千M內(nèi)網(wǎng)。} { include 。 keepalive_timeout 1。 gzip_vary on。 location / { if ($request_uri ~* .*\.(js|css|gif|jpg|jpeg|png|bmp|swf)$) { proxy_pass } if ($request_uri ~* ^/view/(.*)$) { proxy_pass } proxy_pass } 定義日志格式 log_format access 39。 緩沖區(qū)代理緩沖用戶端請求的最大字節(jié)數(shù) 可以理解為先保存到本地再大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第38頁傳給用戶 client_body_buffer_size 128k。 }}3. Tomcat設(shè)置主要配置如下：? ? MaxThread 500大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第39頁? MinSpareThread 25? MaxSpareThread75? Xmx 1740M4. Java環(huán)境? 。Test1 1595秒742 條/秒118萬52 500 200萬 500毫秒 Test2 1 1575秒737 條/秒116萬服務(wù)端從第 1595 秒左右開始，tomcat 占用內(nèi)存到達 Xmx 指定上限，TestTest2 請求速度急劇下降，開始出現(xiàn)大量錯包，達到 前，錯包率只有 %，達到 后，截止停止測試時，錯包率增長到 %，測試終止。大型網(wǎng)絡(luò)平臺架構(gòu)設(shè)計方案第42 頁 Nginx+2個TOMCAT的WEB服務(wù)器+ 緩沖NO 客戶端數(shù) 線程 數(shù) 請求次數(shù) 間隔時間 測試服 務(wù)器 Tomcat 占用內(nèi)存 服務(wù)器 負載 持續(xù)時間 平均速度 (條/秒) 完成請 求數(shù) 最大響應(yīng) 時長 平均響應(yīng)時 長 測試結(jié)果Test1 64 秒 23437 150 萬 9993 毫秒 毫秒1 2 250 150萬0 毫秒 Test2 1 59 秒 25423 150 萬 3472 毫秒 毫秒 　Test1 196秒 10202 200 萬 9616 毫秒 毫秒2 2 500 200萬 25 毫秒Test2 1 194秒 10361 200 萬 9608 毫秒 毫秒開啟 Nginx 緩存后，400萬次請求全部完成，分別有 241 和 216 個錯包。2） MaxThread參數(shù)對tomcat并發(fā)性的影響本次測試tomcat的 MaxThread參數(shù)設(shè)定為 500，進行13000條/秒并發(fā)測試時，tomcat啟動并發(fā)線程過多，將服務(wù)器cpu耗盡。單個tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請求，而Nginx+2Tomcat能支持每秒1000左右的并發(fā)請求。4) 在Nginx+2tomcat，同時配置了緩存的情況下，可以達到 的并發(fā)處理能力 評測結(jié)果1) 單個tomcat 的處理能力在500條/秒左右單個tomcat能穩(wěn)定支持每秒500 左右的并發(fā)請求。測試過程中曾嘗試過使用 100k大小靜態(tài)頁面，結(jié)果顯示在千兆內(nèi)網(wǎng)下，無論是單 Tomcat亦或是 Nginx+2Tomcat，請求速度最大均不超過 1000條 /秒，網(wǎng)絡(luò)帶寬使用已經(jīng)達到 800M，接近千 M內(nèi)網(wǎng)上限。Test1 5475 秒 913 條/秒 500 萬 93000毫秒 毫秒5 2 500 500萬